Qué es un LLM y qué ocurre cuando le hacemos una pregunta

Cuando escribimos una pregunta en un asistente de inteligencia artificial, la respuesta aparece con tanta naturalidad que parece provenir de una persona o de una base de datos que ya la tenía guardada. Ninguna de esas imágenes describe bien lo que sucede. Un modelo de lenguaje grande, o LLM por sus siglas en inglés, es una red neuronal entrenada para reconocer patrones en grandes colecciones de datos y generar una secuencia de lenguaje. Comprender este mecanismo permite usarlo con mejores expectativas: su fluidez puede ser muy útil, pero no garantiza verdad, acceso a información actual ni conocimiento automático de una empresa.

Alcance de esta guía. Este artículo está dirigido a líderes y profesionales no técnicos que necesitan un modelo mental útil sobre los LLM modernos, incluidos los que forman parte de sistemas de IA de frontera. No sustituye papers, documentación técnica, evaluaciones de seguridad ni el trabajo de ingeniería necesario para seleccionar, desplegar o auditar un modelo. Su propósito es acercar el mecanismo, los beneficios y las limitaciones para mejorar las preguntas y decisiones sobre su uso.

La idea central

Un LLM no recupera una respuesta completa de un archivo interno. Recibe una secuencia, calcula qué unidades podrían continuarla y genera una de ellas; después repite el cálculo incorporando lo que acaba de producir. Esta operación, realizada token a token a gran velocidad, puede crear explicaciones, resúmenes, código y conversaciones coherentes.

La aparente sencillez de una ventana de chat oculta dos sistemas distintos. El modelo genera lenguaje según los patrones que aprendió. La aplicación decide qué instrucciones y datos le entrega, si puede consultar una herramienta, qué validaciones aplica y qué acciones requieren aprobación. Esa diferencia será decisiva cuando el uso deje de ser una conversación casual y entre en una operación empresarial.

Qué significa “modelo de lenguaje grande”

La expresión reúne tres ideas:

• Modelo: una estructura matemática cuyos parámetros se ajustan durante el entrenamiento. No es una lista de reglas escritas una por una.
• De lenguaje: trabaja con representaciones numéricas de unidades llamadas tokens. Un token puede corresponder a una palabra, una parte de una palabra, un signo o incluso un espacio, según el tokenizador.
• Grande: alude a la escala de parámetros, datos y cómputo. No existe una frontera universal que determine a partir de qué número un modelo merece esa categoría.

Los LLM pertenecen a una familia más amplia de modelos fundacionales: sistemas entrenados con datos extensos, normalmente mediante aprendizaje autosupervisado, que después pueden adaptarse a distintas tareas. Esa definición y su carácter todavía incompleto fueron propuestos en el informe sobre modelos fundacionales de Stanford CRFM. “Grande”, por tanto, no significa omnisciente. Describe escala, no una garantía de calidad, verdad o criterio.

Para quien quiera avanzar un nivel sin entrar todavía en un paper, la síntesis de MIT Open Encyclopedia of Cognitive Science sobre los LLM desarrolla este recorrido desde los tokens y las probabilidades hasta la atención, el preentrenamiento y la evaluación.

Cómo aprende antes de responder

Durante el preentrenamiento, el texto se divide en tokens. El modelo recibe fragmentos, intenta predecir un token que falta o el siguiente token —según la arquitectura y el objetivo— y compara su predicción con el ejemplo disponible. Cuando falla, un proceso de optimización modifica ligeramente sus parámetros. Repetido sobre muchísimos ejemplos, el modelo aprende regularidades sobre gramática, estilo, conceptos y relaciones que aparecen en los datos.

El paper de GPT-3 describe un modelo de lenguaje autorregresivo entrenado a gran escala que podía abordar varias tareas a partir de instrucciones y ejemplos dentro del prompt, sin actualizar sus parámetros para cada tarea. Eso no significa que todos los LLM tengan la misma arquitectura, tamaño o proceso de ajuste. Las etapas posteriores pueden incluir ejemplos revisados, preferencias humanas, datos especializados y técnicas de seguridad diferentes según el modelo.

Esta tabla resume cuatro piezas que suelen confundirse:

Qué ocurre cuando hacemos una pregunta

La respuesta combina una ruta lineal con un ciclo central. La entrada se prepara, el modelo genera un token y solo ese bloque de generación se repite con el contexto actualizado:

La lectura clave está dentro del recuadro central. Al elegir un token, el sistema lo incorpora al contexto y vuelve a calcular la continuación. La entrada y la salida enmarcan ese ciclo; no representan nueve procesos independientes.

La arquitectura Transformer, presentada en 2017 en Attention Is All You Need, utiliza mecanismos de atención para calcular qué relaciones entre elementos de una secuencia resultan relevantes en cada capa. La atención no es conciencia ni una explicación completa del razonamiento. Es una operación matemática que ayuda al modelo a trabajar con dependencias dentro del contexto.

Después de procesar la entrada, el modelo produce una distribución de probabilidad sobre posibles tokens siguientes. El sistema de generación selecciona uno según su configuración, lo agrega a la secuencia y vuelve a ejecutar el ciclo. Por eso dos respuestas a la misma pregunta pueden variar. También explica por qué una respuesta extensa no aparece terminada desde el inicio: se construye mientras la leemos.

Fluidez no es lo mismo que verdad

El objetivo de generación favorece continuaciones plausibles, no una verificación automática de cada afirmación. Un LLM puede combinar patrones de forma convincente y producir un dato falso, una cita inexistente o una explicación incompatible con la evidencia disponible. El perfil de riesgos de IA generativa de NIST denomina confabulación a la generación y presentación segura de contenido erróneo o falso, también conocida coloquialmente como alucinación.

Un estudio publicado en Harvard Data Science Review observó, en las tareas y los modelos evaluados, que la confianza declarada por el modelo no se alineaba de forma consistente con la precisión. El resultado no describe todos los modelos ni todos los escenarios, pero refuerza una regla práctica: el tono seguro no sustituye la verificación.

Conviene separar cuatro límites:

• Conocimiento aprendido: depende de los datos y del proceso de entrenamiento; puede ser incompleto, desigual o desactualizado.
• Contexto de la solicitud: el modelo solo puede utilizar aquello que cabe y está presente en la entrada, además de los patrones ya aprendidos.
• Acceso externo: no consulta internet, documentos privados o sistemas empresariales a menos que una aplicación le proporcione ese contenido o una herramienta autorizada.
• Criterio operativo: puede proponer una acción, pero no conoce por sí solo las políticas, los permisos ni el impacto real de ejecutarla.

La respuesta correcta no consiste en desconfiar de todo resultado, sino en ajustar el control al riesgo. Un borrador interno tolera más variación que una orden de pago, una decisión médica o una comunicación contractual.

Un ejemplo aplicado: explicar un retraso logístico

Supongamos que una responsable de operaciones pregunta: “¿Por qué se retrasó el envío 5821 y qué podemos hacer?”. El LLM no debería inventar una causa a partir de su entrenamiento general. Una aplicación empresarial puede reunir datos autorizados del ERP y del sistema de transporte, incluir las reglas de servicio y solicitar al modelo una explicación basada únicamente en ese contexto.

En este diseño, el modelo aporta síntesis y lenguaje. La aplicación aporta identidad, permisos, fuentes, reglas y trazabilidad. La persona interviene cuando falta evidencia o la decisión puede producir un impacto relevante. La calidad final depende del conjunto, no solo del nombre del modelo.

Lo que un LLM es y lo que no es

Un LLM puede clasificar texto, extraer campos, resumir documentos, transformar formatos, redactar y ayudar a explorar alternativas. Su capacidad es amplia porque el lenguaje sirve como interfaz para muchas tareas. Aun así, el modelo por sí solo no es:

• una base de datos con registros siempre recuperables;
• un buscador conectado permanentemente a información actual;
• una política empresarial o un sistema de permisos;
• un agente capaz de ejecutar acciones sin software adicional;
• una fuente que deba aceptarse sin verificar en decisiones sensibles.

El informe de Stanford sobre modelos fundacionales advierte que sus defectos pueden heredarse en las aplicaciones posteriores. Elegir un modelo capaz es importante, pero también lo son la calidad del contexto, la evaluación con casos reales, la observabilidad y una ruta clara de intervención humana.

Qué revisar antes de usarlo en una operación

Una conversación sobre LLM debería terminar en preguntas concretas:

1. ¿La tarea necesita generación flexible o una regla determinista sería más segura?
2. ¿Qué fuentes autorizadas necesita el modelo para responder?
3. ¿Cómo se comprobará que la respuesta se apoya en esas fuentes?
4. ¿Qué datos no deben entrar al prompt ni quedar expuestos a otro sistema?
5. ¿Qué errores son tolerables y cuáles requieren detener el flujo?
6. ¿Qué acciones necesitan aprobación humana y qué evidencia verá la persona?
7. ¿Cómo se medirán calidad, costo, latencia y cambios entre versiones?

Estas preguntas convierten la fascinación por una respuesta fluida en una decisión de arquitectura y operación.

Si estás evaluando un caso empresarial, puedes contrastar estas preguntas con el enfoque de inteligencia artificial de Gloo, donde el modelo se integra con contexto, herramientas y controles operativos.

La siguiente pieza: tokens y costo

Este artículo abre la parte de la serie dedicada al funcionamiento de los modelos. Ya podemos mirar detrás de la conversación: un LLM transforma contexto en probabilidades y construye lenguaje token a token, mientras la aplicación determina qué información y controles lo rodean.

El próximo capítulo profundizará en esas unidades: qué son los tokens, por qué su cantidad cambia entre textos e idiomas y cómo influyen en el contexto, la velocidad y el costo de utilizar IA.

Fuentes y lecturas recomendadas

• Attention Is All You Need — Google Research
• Language Models are Few-Shot Learners — arXiv
• Artificial Intelligence Risk Management Framework: Generative Artificial Intelligence Profile — NIST
• On the Opportunities and Risks of Foundation Models — Stanford CRFM
• Large Language Models — MIT Open Encyclopedia of Cognitive Science
• Confidence in the Reasoning of Large Language Models — Harvard Data Science Review