Qué es un RAG y por qué es importante sobre todo para docentes

Hace un tiempo le pedí a una IA que me armara una guía de fotosíntesis para primero medio. Lo que llegó estaba bien escrito, tenía sus quince preguntas y sus alternativas ordenadas, pero tres preguntas eran de cosas que yo no había pasado, una estaba redactada para universitarios y otra citaba un libro que no existe.

Me quedé un rato pensando en por qué había pasado eso, hasta que caí en que la herramienta no estaba fallando. Estaba haciendo exactamente lo que hace.

Qué pasa cuando uno le pregunta algo a un LLM

Un modelo de lenguaje, cuando uno abre una ventana de chat en blanco y escribe, no va a buscar nada a ninguna parte. Lo que hace es predecir texto a partir de todo lo que leyó mientras lo entrenaban, que es una cantidad enorme de páginas de internet, libros y papers de todos los países y de todos los niveles. Uno le pide una guía de fotosíntesis y lo que devuelve se parece bastante al promedio de lo que se ha escrito sobre fotosíntesis en cualquier parte del mundo.

Ese promedio no tiene nada que ver con mi curso. No sabe cómo están redactadas las bases curriculares chilenas, no sabe hasta dónde alcancé a llegar la semana pasada, y no tiene cómo saber que este año dejé el ciclo de Calvin en “entra CO₂, salen azúcares” porque el curso venía lento y preferí asegurar lo otro.

Y como su trabajo es completar texto, cuando le falta un dato lo rellena igual. A eso le dicen alucinación, que suena mucho más exótico de lo que es. Lo que ocurre en la práctica es que inventa con el mismo tono seguro con que acierta, así que uno no puede distinguir a simple vista una cosa de la otra.

Qué es un RAG

RAG son las siglas de retrieval augmented generation, generación aumentada por recuperación. Es una forma bastante fea de decir algo simple: en vez de que el modelo responda de memoria, primero va a buscar dentro de un conjunto de documentos que uno le entregó, y recién después escribe la respuesta usando lo que encontró ahí.

El cambio está en el orden de las cosas. Primero busca, después redacta. Y como la respuesta se arma con pedazos concretos de tus documentos, la herramienta te puede mostrar de qué párrafo salió cada afirmación.

Para usar esto uno no tiene que montar nada ni saber programar. NotebookLM, de Google, es gratis y funciona así: uno sube PDF, documentos o enlaces, y de ahí en adelante todo lo que responda queda amarrado a esas fuentes. Hay otras herramientas parecidas, pero esa es la más directa si no quiere meterse en nada técnico.

Por qué esto importa si uno hace clases

Volví a pedir la misma guía de fotosíntesis, pero antes le cargué el texto de la unidad, el programa del nivel y las dos guías que ya había hecho para esa unidad.

Lo que salió usaba las mismas palabras que uso en clases, se quedaba en la profundidad a la que efectivamente llegamos, y cada pregunta venía con un enlace al párrafo del que había salido. Cuando algo me pareció raro, hice clic y en diez segundos supe si se sostenía o no.

Eso último es lo que más me cambió el trabajo, y no era lo que yo esperaba. Antes revisar lo que me entregaba la IA me tomaba más tiempo que hacer la guía a mano, porque tenía que verificar todo sin saber por dónde empezar. Cuando la cita viene puesta, revisar diez preguntas toma tres minutos, y ahí recién la cosa empieza a servir para algo.

Hay otro asunto más aburrido pero que a mí me importa harto, que es el vocabulario. Si en la unidad dije cadena trófica y no red alimentaria, la guía sale con cadena trófica. Para un estudiante que recién está armando el concepto, que le cambien la palabra a mitad de camino es una dificultad extra que no aporta nada.

Y después están todas esas cosas que uno sabe que sirven y que igual nunca hace porque el tiempo no da. Tres versiones de la misma lectura para distintos niveles de comprensión lectora. Un repaso acumulativo que mezcle las cuatro unidades anteriores. Con el material ya cargado, eso son un par de minutos.

Lo que un RAG no resuelve

Anclar la IA en tus documentos baja bastante el invento, pero no lo elimina. Puede leer mal una tabla, juntar dos párrafos que no iban juntos, o entender al revés una frase con doble negación.

Y aparece un problema nuevo que a mí me preocupa más que el anterior. Si el documento que cargué tiene un error, o está incompleto, la IA me va a repetir ese error con total seguridad y con la cita puesta, y la cita es justamente lo que lo hace creíble. Así que elegir bien qué documentos entran no es un trámite previo al trabajo, es parte del trabajo.

Al final la revisión sigue siendo mía, que es más o menos la misma línea que traté de explicar cuando conté cómo armo el banco de ítems: la herramienta redacta y ordena, las decisiones pedagógicas las tomo yo. Lo que cambia con un RAG es que revisar por fin cuesta poco.

Lo que viene

Un RAG resuelve sobre qué habla la IA. Queda pendiente el otro lado del asunto, que es cómo trabaja. Pedirle que planifique una unidad, que arme una evaluación o que proponga una actividad son tres cosas bien distintas, y casi todos le escribimos igual a las tres.

En el próximo artículo quiero contar cómo armar asistentes separados para cada una de esas tareas, cada uno con sus propias reglas y sin escribir código.

Saludos a todos y todas.