OpenAI está trabajando en una forma de agregar una «marca de agua» a la información generada por inteligencia artificial. La idea es desarrollar una herramienta para «marcar estadísticamente» las salidas de sus sistemas de IA que generan texto.
Cada vez que un sistema como ChatGPT genera texto, la herramienta incluiría una señal secreta «no perceptible» que indicaría de dónde proviene el texto.
¿Por qué es necesaria una marca de agua para el contenido generado por IA?
ChatGPT es un ejemplo de cómo la IA puede generar textos de alta calidad, pero también plantea preocupaciones éticas. Al igual que muchos otros sistemas de generación de texto antes que él, ChatGPT podría utilizarse para escribir correos electrónicos de phishing de alta calidad, malware dañino o para hacer trampas en tareas escolares o universitarias. El objetivo de la herramienta de marcas de agua de OpenAI es hacer más difícil emplear la salida de un sistema IA como si fuera escrita por un humano. Esto podría ser útil para prevenir el plagio académico, la generación masiva de propaganda y la incriminación de alguien mediante la imitación de su estilo escritura.
¿qué sucede si internet se llena de contenido generado por cientos o miles de IA?
Y por supuesto, el principal problema es la retroalimentación de las propias IA. Una IA como ChatGPT se alimenta de toneladas de datos que miles de personas han generado. Pero, ¿qué sucede si internet se llena de contenido generado por cientos o miles de IA? Sería un gran problema que esas mismas IA empiecen a usar contenido generado por ellas mismas para generar más contenido. Así que tenemos un problema, señores. Veremos cómo se desarrolla este campo para evitar el colapso.
¿Cómo funciona la herramienta de marcas de agua de OpenAI?
La herramienta funciona como un «envoltorio» sobre los sistemas existentes de generación de texto, usando una función criptográfica a nivel del servidor para «seleccionar al azar» el próximo token. El texto generado todavía parecería aleatorio, pero cualquiera que posea la «clave» de la función criptográfica podría descubrir la marca de agua. Los ingenieros de OpenAI ya han construido un prototipo funcional de la herramienta, y la esperanza es incorporarla en futuros sistemas desarrollados por OpenAI.
