Qué es una alucinación (IA)

No existe una definición normativa única de este término. La referencia más sólida disponible hoy es el perfil de IA generativa del marco de gestión de riesgos del NIST, publicado en julio de 2024, que evita la palabra y habla de confabulación: la producción de contenido erróneo o falso afirmado con confianza. Ese documento incluye además los resultados que se apartan de lo que se pidió y los que contradicen algo dicho antes en la misma conversación.

El mismo texto recoge la objeción. Varios comentaristas señalaron que «alucinación» y «fabricación» antropomorfizan el sistema, y que atribuir rasgos humanos a una máquina constituye en sí mismo un riesgo. Una alucinación humana es una percepción sin estímulo. Un modelo de lenguaje no percibe nada: calcula qué continuación resulta probable. Llamarlo alucinación sugiere una avería puntual y casi médica, cuando el mecanismo es exactamente el que produce también las respuestas correctas.

La crítica académica apunta en la misma dirección. Un artículo de 2024 en la revista Ethics and Information Technology sostiene que el término desvía la atención hacia un supuesto fallo, cuando lo característico del sistema es su indiferencia respecto a si lo que dice es verdad. Para el uso práctico la palabra ya está instalada, así que lo útil es saber qué describe y qué tapa.

Un modelo de lenguaje genera texto eligiendo, paso a paso, la continuación más probable según los patrones de sus datos de entrenamiento. No consulta una base de hechos ni comprueba nada antes de escribir. Cuando la pregunta cae en una zona bien cubierta por esos datos, la continuación probable coincide con la continuación verdadera. Cuando no lo está, el sistema sigue produciendo una continuación probable, y esa continuación puede ser falsa. El proceso interno es idéntico en ambos casos, y por eso el tono de seguridad no cambia.

De ahí salen los patrones habituales. El modelo compone un nombre de producto plausible que tu catálogo no tiene, atribuye una sede o un año de fundación que encajan con el sector, inventa una referencia con formato correcto y autor verosímil, o construye un razonamiento coherente que justifica una respuesta equivocada. La justificación inventada es especialmente engañosa, porque tiene el aspecto de una prueba.

Añadir recuperación de documentos externos reduce el problema, pero no lo elimina. Si la búsqueda trae la fuente equivocada, si la fuente está desactualizada o si el pasaje recuperado no contiene el dato, el modelo puede rellenar el hueco igual que antes, ahora con una cita al lado que le da apariencia de comprobado. El riesgo cambia de sitio: pasa de la memoria del modelo a la calidad de lo recuperado y al vínculo real entre la cita y la afirmación.

Sobre la frecuencia conviene la prudencia. Cualquier porcentaje depende del modelo, de la tarea y del método de medición, y esas tres cosas rara vez se declaran juntas. Una cifra sin las tres no informa de nada, y además envejece en semanas.

La decisión que depende de esto es si vigilas o no lo que los sistemas de IA dicen de tu marca. Un modelo puede afirmar que tu empresa ha cerrado, atribuirte un producto que nunca vendiste o darle a un cliente un precio, un plazo de devolución o una condición de garantía que no son los tuyos. Quien recibe la respuesta no distingue entre lo que el sistema leyó y lo que compuso.

La consecuencia recae sobre el titular de la marca. El usuario reclama en tu servicio de atención, no en el del proveedor del modelo. Y si la afirmación afecta a datos regulados, como condiciones contractuales o características de un producto sanitario o financiero, el problema deja de ser solo reputacional.

Hay una parte que sí controlas. Buena parte de las invenciones sobre una marca nacen de huecos: información que no está publicada en ningún sitio, o que está publicada de forma contradictoria entre tu web, tu ficha de empresa y tus perfiles externos. Cerrar esos huecos con datos explícitos, fechados y coherentes reduce la superficie sobre la que el sistema improvisa. Lo que no controlas es la salida del modelo, y por eso la vigilancia periódica forma parte del trabajo.

• Publica los datos verificables de tu empresa en tu propio dominio (razón social, sede, año de fundación, catálogo vigente, condiciones) y mantén la misma versión en fichas y perfiles externos.
• Fecha las páginas cuya información caduca, como precios, plazos y disponibilidad, para que una versión antigua no se lea como vigente.
• Comprueba de forma periódica qué responden los sistemas de IA sobre tu marca, con un juego fijo de preguntas, y guarda la respuesta completa junto con el modelo y la fecha.
• Registra cada afirmación falsa encontrada en un documento con captura, fecha y sistema, para poder demostrar el patrón y su evolución.
• Trata cualquier texto generado que vaya a publicarse como un borrador: verifica cifras, nombres propios, citas y enlaces contra la fuente original antes de publicarlo.
• Si detectas un error persistente y de impacto, usa el canal de reporte del proveedor y corrige en paralelo la fuente pública que haya podido originarlo.

• Confundir seguridad de tono con fiabilidad: una redacción firme no aporta ninguna información sobre si el contenido es correcto.
• Pedirle al propio modelo que confirme si ha inventado algo, y aceptar su respuesta como comprobación.
• Dar por verificado un dato porque venga acompañado de una cita, sin abrir el enlace y comprobar que el pasaje dice eso.
• Citar porcentajes de alucinación sin indicar modelo, tarea y método, o comparar cifras de estudios que midieron cosas distintas.
• Afirmar que un modelo concreto se equivoca más que otro sin una fuente fechada, cuando las versiones cambian cada pocas semanas.