Jesús Conde ：TDB, el depurador Transformer de OpenAI que explica la Caja Negra de las Redes Neuronales.

El equipo de Superalineación de Open AI, liderado por Ilya Sutskever, acaba de publicar TDB, el primer depurador para la arquitectura transformer que permite entender el trabajo interno de las redes neuronales, que se suele denominar la “Caja Negra”. Vemos lo que significa ese término dentro del contexto de los LLMs y las ventajas que puede ofrecer la posibilidad de analizar y modificar el funcionamiento interno de una red neuronal.
OpenAI Transformer Debugger
https://github.com/openai/transformer-debugger
Neuron Viewer
https://github.com/openai/transformer-debugger/blob/main/neuron_viewer/README.md
Servidor de Activación
https://github.com/openai/transformer-debugger/blob/main/neuron_explainer/activation_server/README.md
Video sobre su uso práctico
https://www.loom.com/share/721244075f12439496db5d53439d2f84?sid=8445200e-c49e-4028-8b8e-3ea8d361dec0