¿Qué es la IA generativa?

Google la describe en su introducción al aprendizaje automático como una clase de modelos que crea contenido a partir de lo que introduce el usuario. Puede recibir entradas de distinto tipo y producir salidas de distinto tipo, como texto, imágenes, audio y vídeo. La entrada se llama prompt; cómo se redacta lo explica la entrada ingeniería de prompts.

La diferencia con el resto del machine learning está en la salida. Un filtro de spam asigna un correo a una clase y un sistema de pujas estima una probabilidad. Un modelo generativo entrega algo nuevo, que no estaba tal cual en los datos de entrenamiento.

El Reglamento de IA de la UE cita en su considerando 99 los grandes modelos de IA generativa como ejemplo típico de modelo de IA de uso general, porque generan contenido de forma flexible, en texto, audio, imágenes o vídeo, y se adaptan a muchas tareas distintas. La agencia alemana de ciberseguridad, el BSI, también los sitúa como una rama de esos modelos de uso general.

Un modelo generativo aprende durante el entrenamiento cómo están construidos los datos con los que se entrena. Después crea ejemplos nuevos que siguen esa estructura. Tres trabajos representan los enfoques más extendidos hoy.

Ian Goodfellow y sus colegas presentaron en 2014 las redes generativas antagónicas. En ellas se entrenan dos modelos a la vez: uno genera datos y el otro estima si un ejemplo procede de los datos de entrenamiento o del generador.

Ashish Vaswani y sus colegas presentaron en 2017 el Transformer, una arquitectura basada solo en mecanismos de atención. Lo probaron en traducción automática. Cómo un modelo de lenguaje genera texto a partir de ahí, token a token, lo explica la entrada LLM.

Jonathan Ho, Ajay Jain y Pieter Abbeel mostraron en 2020 síntesis de imágenes de alta calidad con modelos de difusión. Estos modelos aprenden a quitar ruido de una imagen paso a paso y, así, crean una imagen nueva a partir de ruido puro.

Para el audio y el vídeo vale el mismo principio con otros datos. Algunos modelos combinan varios tipos: reciben, por ejemplo, una imagen y un texto y generan un vídeo.

En marketing, la IA generativa produce borradores de textos, variantes de imágenes, traducciones, resúmenes y versiones habladas. Google escribe en su guía sobre contenido generado con IA que puede ser especialmente útil para investigar un tema y para dar estructura a un contenido original.

Para la búsqueda, Google pone el límite en el propósito, no en la herramienta. En febrero de 2023 escribió que no todo uso de la automatización es spam, tampoco la generación con IA. Sus políticas de spam llaman abuso de contenido a escala a generar muchas páginas sobre todo para manipular el ranking, y citan como primer ejemplo usar IA generativa para crear muchas páginas sin valor para los usuarios.

Los modelos generativos producen salidas verosímiles, no comprobadas. El BSI considera las alucinaciones un gran problema porque las salidas suelen parecer creíbles, hasta el punto de incluir referencias inventadas.

A eso se suman dos cuestiones legales. Según el artículo 50, apartado 2, del Reglamento de IA, los proveedores de sistemas que generan contenido sintético de audio, imagen, vídeo o texto deben marcar las salidas en un formato legible por máquina; los plazos y las obligaciones de quien lo usa los explica la entrada sobre el etiquetado del contenido generado por IA. Y quien publica contenido en línea puede reservarse la minería de textos y datos por medios de lectura mecánica, según el artículo 4, apartado 3, de la Directiva (UE) 2019/790. Los proveedores de modelos de IA de uso general deben detectar y cumplir esa reserva según el artículo 53, apartado 1, letra c, del Reglamento de IA.

• Usar la IA generativa para borradores, variantes y estructura, y comprobar en la fuente cada afirmación de hecho antes de publicar.
• No copiar nunca sin comprobar cifras, citas o referencias de una salida de IA.
• Añadir experiencia, datos y ejemplos propios que el modelo no puede conocer.
• Registrar qué contenidos se han hecho con qué herramienta, para poder cumplir las obligaciones de etiquetado.
• Aclarar antes de usarla si las entradas contienen datos confidenciales o personales y qué hace el proveedor con ellos.
• Decidir la propia postura ante la minería de textos y datos y, si se quiere, expresar la reserva por medios de lectura mecánica.

• Confundir la IA generativa con un buscador y tratar sus respuestas como hechos comprobados.
• Generar automáticamente muchas páginas sin valor, suponiendo que Google no lo notará.
• Identificar la IA generativa con los modelos de lenguaje y olvidar los de imagen, audio y vídeo.
• Publicar imágenes generadas de personas o lugares reales sin revisar el etiquetado.
• Introducir datos de clientes o contratos en una herramienta pública sin conocer sus condiciones de uso.