NLASmith: Un Framework para la Experimentación con Natural Language Autoencoders

Los NLA (Natural Language Autoencoders), introducidos por Fraser-Taliente et al. [1], permiten transformar activaciones internas de modelos de lenguaje en descripciones en lenguaje natural. Cuando un modelo de lenguaje procesa texto, sus capas producen representaciones internas formadas por vectores de alta dimensionalidad, denominadas activaciones. Estas representaciones contienen información sobre el procesamiento interno del modelo, pero sus valores numéricos no resultan directamente interpretables para una persona.

Un NLA busca hacer accesible parte de esa información mediante una descripción textual. Para ello, utiliza dos módulos que trabajan de manera complementaria: uno traduce la activación a lenguaje natural y otro intenta reconstruir la activación original utilizando únicamente esa descripción. Ambos se entrenan conjuntamente para minimizar el error de reconstrucción, de modo que la descripción generada preserve la mayor cantidad posible de información relevante contenida en la activación. La Figura 1 resume este funcionamiento.

Cada token tiene asociada una activación interna del modelo. La Figura 2 ilustra cómo un NLA transforma la activación correspondiente a una posición específica, en este caso el token “umbrella”, en una descripción en lenguaje natural.

Este trabajo se enmarca en el ámbito de la interpretabilidad de modelos, donde uno de los desafíos es escalar el análisis desde observaciones individuales hacia patrones más amplios [2]. Los NLA contribuyen a este objetivo al transformar activaciones en explicaciones en lenguaje natural; sin embargo, cuando se busca analizar múltiples verbalizaciones, la inspección manual resulta insuficiente. En ese escenario es necesario ejecutar los casos de estudio de patrones bajo condiciones consistentes, seleccionar las posiciones de interés, evaluar las explicaciones con criterios comunes y analizar los resultados de manera agregada.

Con esta necesidad en mente, este trabajo presenta NLASmith, un framework orientado a la experimentación con NLA. NLASmith organiza en un único flujo la definición de los casos de estudio, la selección de las posiciones de tokens a analizar, la obtención de las verbalizaciones, su evaluación mediante criterios configurables y la agregación de los resultados. Su aporte se centra en cubrir la capa de organización experimental que las capacidades actuales, por sí solas, no resuelven, permitiendo estructurar análisis con NLA de manera reproducible, trazable y comparable.

La herramienta toma como referencia metodológica experimental aplicaciones existentes como LangSmith y Langfuse, cuya estructura permite definir experimentos a partir de datasets, múltiples ejecuciones, evaluadores automáticos y métricas agregadas [3][4], permitiendo aplicar criterios consistentes sobre resultados no determinísticos. NLASmith retoma esta lógica de organización y la adapta al análisis de verbalizaciones NLA, donde las unidades de estudio se encuentran asociadas a posiciones específicas de tokens. Entre sus mecanismos se encuentra LLM-as-a-judge, mediante el cual un modelo de lenguaje evalúa cada resultado según una rúbrica previamente definida.

El resto del trabajo se estructura de la siguiente manera. La Sección 2 presenta las motivaciones y delimita el problema metodológico; la Sección 3 describe el modelo conceptual de NLASmith; la Sección 4 desarrolla su arquitectura y componentes; la Sección 5 resume las funcionalidades y el prototipo implementado; la Sección 6 introduce las limitaciones de la herramienta y la Sección 7 presenta las conclusiones y líneas de trabajo futuro.

Las herramientas disponibles para trabajar con NLA permiten explorar verbalizaciones de activaciones de manera accesible. Neuronpedia, en colaboración con Anthropic, ofrece una plataforma web para explorar NLAs sobre modelos abiertos, además de mecanismos programáticos que permiten automatizar estas operaciones. Asimismo, las implementaciones abiertas permiten ejecutar estos modelos sobre infraestructura propia [5], por lo que las capacidades necesarias para realizar análisis más amplios ya se encuentran disponibles.

Sin embargo, disponer de estas capacidades no resuelve por sí mismo la organización del proceso experimental. Cuando se analizan múltiples prompts, tokens o ejecuciones, es necesario coordinar de manera consistente la configuración utilizada, conservar los resultados intermedios, aplicar los mismos criterios de evaluación y mantener la trazabilidad entre cada decisión y su resultado. Sin esta organización, los análisis tienden a depender de procedimientos manuales, dificultando su comparación y reproducción posterior.

En ese escenario, resulta necesario definir de antemano la selección de prompts, las posiciones de tokens que serán observadas, la conservación de las verbalizaciones obtenidas, los criterios utilizados para evaluarlas y la forma en que los resultados serán agregados y comparados. A modo ilustrativo, un experimento con 100 prompts, 3 posiciones de análisis, 2 criterios de evaluación y 2 configuraciones multiplica rápidamente la cantidad de observaciones que deben procesarse bajo condiciones homogéneas, haciendo poco práctica una inspección manual. Mantener estas decisiones de forma consistente permite comparar y reproducir posteriormente las ejecuciones.

Esta necesidad encuentra un antecedente metodológico en las plataformas de evaluación de aplicaciones basadas en modelos de lenguaje, donde múltiples ejecuciones se organizan mediante datasets, evaluadores y métricas agregadas. Trasladar esta lógica al análisis de NLA permite pensar los experimentos no como una sucesión de inspecciones aisladas, sino como configuraciones reproducibles que pueden ejecutarse, evaluarse y compararse de manera sistemática.

La motivación central de NLASmith es facilitar experimentos sistemáticos y reproducibles sobre NLA mediante una infraestructura común. La plataforma no pretende determinar el significado definitivo de una activación ni reemplazar el juicio del investigador. Su propósito es ofrecer un mecanismo configurable para ejecutar, evaluar, registrar y comparar experimentos alrededor de las verbalizaciones, permitiendo analizar de forma sistemática los patrones que emergen entre tokens y ejecuciones.

NLASmith organiza el experimento alrededor de cinco elementos principales: el dataset, la configuración de ejecución, la política de selección de tokens, los evaluadores y los resultados. Cada ejemplo del dataset se ejecuta bajo una configuración fija, las posiciones seleccionadas se envían al servicio de NLA y las verbalizaciones obtenidas son evaluadas según criterios definidos previamente. Finalmente, los resultados individuales se agregan para facilitar su análisis y comparación. Estos elementos conforman una unidad experimental reproducible, en la que quedan explícitamente definidas tanto las condiciones de ejecución como los criterios utilizados para interpretar y comparar las explicaciones NLA.

La arquitectura de NLASmith separa las responsabilidades de configuración, ejecución, acceso a NLA, evaluación, persistencia y visualización. El sistema no implementa ni entrena los autoencoders. Utiliza los NLA disponibles a través de Neuronpedia y coordina las operaciones necesarias para transformar un dataset en un conjunto trazable de observaciones y métricas.

NLASmith se implementa como una plataforma web centrada en el ciclo experimental. La primera versión prioriza las capacidades necesarias para transformar una inspección manual en un proceso reproducible.

5.5. Prototipo funcional

Como demostración técnica inicial, se implementó un prototipo funcional de NLASmith que integra las principales etapas del flujo experimental. La versión actual permite configurar experimentos, trabajar con datasets de prompts, definir evaluadores, ejecutar consultas y presentar resultados individuales y agregados dentro de una misma interfaz.

Esta implementación constituye una base operativa para validar las decisiones de diseño y obtener retroalimentación de potenciales usuarios. El código fuente se encuentra disponible en GitHub, mientras que el prototipo funcional puede consultarse en nlasmith.com.

NLASmith hereda las limitaciones de los instrumentos y servicios sobre los que opera. Las verbalizaciones producidas por los NLA pueden contener afirmaciones que no reflejan con precisión la información contenida en la activación, por lo que deben analizarse con cautela y principalmente a partir de patrones que emergen entre múltiples observaciones [3]. Del mismo modo, las evaluaciones mediante LLM-as-a-judge pueden verse afectadas por la rúbrica, el modelo seleccionado y el contexto utilizado, por lo que sus resultados deben considerarse mediciones sujetas a validación. Adicionalmente, la implementación actual de NLASmith depende de la infraestructura provista por Neuronpedia, lo que restringe su ejecución a los modelos de inferencia y NLA alojados por la plataforma y a los límites de uso establecidos por su API.

Este trabajo presentó NLASmith, un framework para la experimentación con NLA. La herramienta transforma la inspección aislada de verbalizaciones provistas por los NLA en una experimentación reproducible, trazable y comparable. Establece una base común para estudiar patrones entre múltiples ejecuciones bajo criterios explícitos.

El aporte de NLASmith es proporcionar una infraestructura experimental que articula capacidades existentes para facilitar la evaluación sistemática de Natural Language Autoencoders. Su contribución se centra en organizar la exploración de activaciones dentro de un flujo reproducible y comparable, conservando las configuraciones, criterios de evaluación y resultados necesarios para repetir y contrastar los análisis.

Como líneas de trabajo futuro se plantea avanzar en la validación empírica de NLASmith mediante estudios experimentales. Esta instancia buscará analizar el impacto de la plataforma sobre la ejecución y el análisis de experimentos, con foco en la efectividad del proceso, así como la correspondencia entre los resultados agregados por NLASmith y las conclusiones obtenidas a partir de una revisión manual de las corridas individuales.

También se prevé difundir el prototipo entre investigadores vinculados con interpretabilidad y NLA para obtener retroalimentación sobre su utilidad, configurabilidad y capacidad para adaptarse a preguntas de investigación diferentes. Estos resultados permitirán refinar tanto la plataforma como el protocolo experimental propuesto.

NLASmith representa un paso concreto hacia una infraestructura que facilite nuevas investigaciones con Natural Language Autoencoders. Al promover análisis más sistemáticos, reproducibles y comparables, la propuesta busca contribuir a una mejor comprensión del funcionamiento interno de los modelos de lenguaje de gran escala, entendiendo esta comprensión como una base relevante para avanzar hacia sistemas de inteligencia artificial más seguros y con resultados beneficiosos.