La tecnológica OpenAI anunció este lunes que planea incorporar marcas de agua invisibles en algunos textos generados con sus productos ChatGPT y Codex. De esta forma va a cumplir con la Ley de inteligencia artificial (IA) de la Unión Europea (UE).
«Durante las próximas semanas, incorporaremos la marca de agua de texto para usuarios elegibles de ChatGPT y Codex de todos los planes, únicamente en la UE», especificó la empresa en un blog donde explica su nuevo enfoque sobre la «procedencia de contenido».
OpenAI destacó que los clientes de su interfaz de programación de aplicaciones (API) de todo el mundo podrán activar voluntariamente las marcas de agua en textos para determinados modelos.
No obstante, la función estará desactivada por defecto en la API para que sus clientes decidan cómo aplicarla en función de sus «obligaciones de transparencia».
OpenAI dijo que trabaja con proveedores de computación en la nube para poner la marca de agua a disposición de las salidas de los modelos de OpenAI. A estas se accede mediante sus servicios durante las próximas semanas.
La tecnología, llamada textGrain, incorpora una «señal estadística invisible» en las elecciones de palabras del modelo, aparentemente sin alterar su rendimiento. Después un detector puede buscarlo para evaluar si hay una marca de agua.
OpenAI reconoció que la detección puede cometer errores, como un falso positivo o un falso negativo, que funciona peor con textos breves. Además puede debilitarse si el contenido se edita, reescribe o traduce.
Por eso, la empresa decidió que el detector estará disponible solo para investigadores y organizaciones expertas aprobados que pueden empezar hoy a hacer solicitudes.
La función de la marca de agua es ayudar a averiguar si el texto ha sido generado por un modelo de OpenAI con ChatGPT. Sin embargo, no indicará quién escribió originalmente el texto ni quién es su propietario, además de otras limitaciones.
OpenAI subrayó que planea poner la tecnología de textGrain a disposición del público como código abierto «para que otros puedan desarrollarla».
ComputerHoy
