La decisión de Google y de Anthropic, dos de las compañías más importantes del paisaje de la IA, de incluir marcas de agua invisibles en textos, imágenes, videos y canciones es una admisión de un hecho que debería preocuparnos: en el futuro más próximo, será la tecnología, no los sentidos humanos, la única manera de diferenciar los contenidos creados por IA.
Google anunció en su blog oficial que permitirá eliminar el ya famoso “chispazo” de cuatro puntas (✦) que aparece en la esquina inferior derecha del contenido generado por sus modelos. Este seguirá teniendo marcas de agua SynthID invisibles y metadatos C2PA incrustados. La empresa cree que eso hará más sencillo verificar si un contenido tiene uno de estos marcadores, y de hecho será posible saberlo simplemente preguntando a Gemini o Search si es generado por IA. Además, será posible verificar una imagen y su origen utilizando funciones de búsqueda como Lens, AI Mode y Circle to Search, así como Gemini en Chrome.
El anuncio sigue las líneas de las nuevas normativas de la Unión Europea sobre la divulgación de contenido generado por IA. Esa misma normativa llevó a Anthropic de hacer que todo el texto generado o “procesado” por Claude lleve marcas de agua invisibles que pueden detectarse con las herramientas adecuadas.
Pero, al final, las herramientas solo sirven si el público entiende la necesidad de usarlas y sabe cómo hacerlo. Las redes sociales se han convertido, en virtud de las capacidades de la IA, en armas de desinformación masiva, y se hace imperativo desarrollar, como sociedad, una actitud crítica y, si me permiten, desconfiada, acerca de cada texto, imagen o video que llega a través de canales no verificados.
Las tecnológicas hacen bien con esta medida. La IA tiene el potencial para ser una herramienta increíblemente valiosa, y mucho de ese potencial está, por ahora, por realizarse. La estrategia para enfrentar sus posibles nocivos no puede ser confiar en que la gente hará buen uso de ella. Si una candidato, empleado o proveedor le entrega a una empresa o cliente un texto generado por IA, debería declararlo. Y si no lo hace, debería haber una forma de demostrarlo. Lo mismo aplica para artistas, periodistas, abogados y un sinfín de profesiones.
Y, de paso, saber que es posible detectar la IA en los contenidos puede ayudar a que la gente haga un uso más responsable y transparente de esa herramienta. Con algo de suerte, podría ayudar a que surja una valoración de la creación humana original, en oposición al contenido generado en masa. Uno puede soñar.
