Texto generado por IA
Aunque aún existe debate sobre el término inteligencia artificial, lo cierto es que estas redes neuronales se han vuelto muy populares en los últimos años. La facilidad que tiene el usuario de pedir tareas engorrosas o tediosas mediante lenguaje natural a la computadora ha permitido que personas de todos los ámbitos utilicen esta poderosa herramienta para realizar todo tipo de labores, esto incluye la redacción de textos. Si bien, la IA es capaz de redactar párrafos, textos medianos, ensayos e incluso documentos, es notorio cuando el texto no fue escrito por un ser humano.
Leyes que regulan la IA
Dado el pronto desarrollo de estas tecnologías y su facilidad de uso, muchos países y estados de los Estados Unidos han implementado medidas legales para advertir a los consumidores del contenido generado por la inteligencia artificial. Entre algunos de los gobiernos que han tomado medidas se encuentran:
- Ley de Inteligencia Artificial de la Unión Europea (UE). Implementada con el objetivo de establecer regulaciones estrictas sobre el uso de IA, garantizando la supervisión de su implementación a través de una Oficina de IA.
- Regulación de China sobre Marcado Obligatorio. El gobierno de China ha implementado un mandato que obliga a que los contenidos generados por inteligencia artificial incluyan una marcación digital o “watermarking“.
- California y su Proyecto de Marcación. Aunque aún en fase de consideración, el estado de California está explorando la posibilidad de imponer regulaciones similares a las chinas para marcar los contenidos generados por IA.
Watermarking de la IA
Hacer esta marcación digital del contenido generado por inteligencia artificial es una tarea que en los últimos años de ha convertido en una prioridad, por ello algunos científicos desarrollaron una herramienta útil para ésta tarea. La tecnología denominada SynthID-Text, permite incorporar una “firma estadística” en el contenido generado por IA la cual tiene como objetivo tener un identificador digital de origen, lo cual hace posible verificar si un texto fue creado por un modelo de IA. El avance más reciente en esta tecnología proviene del equipo de DeepMind, el laboratorio de investigación de inteligencia artificial de Google en Londres, liderado por Sumanth Dathathri y sus colaboradores. La tecnología SynthID-Text integra en el contenido generado esta firma, que aunque invisible por los usuarios, es detectable con equipo especializado.
La última novedad sobre esta tecnología ha sido su implementación en Gemini AI, la cual involucró según cifras de Google, a alrededor de 20 millones de usuarios a nivel mundial, mostrando que las no hay un decaimiento en la calidad de las respuestas de la IA generadas con esta marcación. Este paso representa un importante avance en la legalidad, transparencia y regularización del contenido generado por la inteligencia artificial, y aunque se encuentra en una etapa temprana, es importante darle seguimiento esta herramienta que ayudará a diferenciar entre el contenido creado por las máquinas o por los humanos.
La ética con el uso de la IA
Es importante considerar que mucho del uso público de estas herramientas tiene como objetivo hacer las tareas que deben ser realizadas por los humanos en sus trabajos, escuelas, etc.. Mientras que las tecnologías de detección del contenido artificial aún se encuentren en etapas emergentes, es importante inculcar consciencia en el uso de estas tecnologías en los usuarios, algo que a la larga podría evitar la alta dependencia que la IA suele generar en los usuarios.
Referencias
- Shumailov, I. et al. Nature 631, 755–759 (2024).
- Kirchenbauer, J. et al. Proc. Mach. Learn. Res. 202, 17061–17084 (2023).