Todos lo hemos visto: el contenido generado por IA se tomó las redes. Esta semana explotaron en X imágenes lavadas —por lo demás, sin gracia— que se oscurecen con un toque sostenido; en YouTube campean los videos con imágenes, guiones y voces generados por IA; y en Instagram hay canales dedicados a difundir noticias que no ocurrieron en ninguna parte. La proliferación de likes y comentarios automatizados llevó a que, en tantos sitios web, se haya hecho ubicua la frase que da título a esta columna.
Facebook es particularmente representativo de este fenómeno. Si bien, hay que reconocerlo, la plataforma elimina miles de millones de cuentas falsas cada año, hoy entre el 4 y el 16 por ciento del total de usuarios activos en esa red son bots que publican contenido y comentan el de otros bots.
Al aluvión de contenidos basura (¿cómo olvidar los niños pobres con bicicletas construidas con botellas de plástico?) se suman estafas ciertamente más inquietantes con perfiles falsos en los Grupos, la plataforma de citas (Dating) y el Marketplace.
Por eso Meta —la empresa propietaria de Facebook, Instagram y WhatsApp— lanzó esta semana Facebook Verified, un nuevo distintivo gratuito diseñado para confirmar que un perfil pertenece a personas reales. Para obtener esta marca, los usuarios deben completar un proceso de verificación grabando un video que se compara con sus fotos de perfil existentes.
Que una de las empresas más poderosas del paisaje de internet tome esta medida habla de la amenaza existencial que plantea este fenómeno. Las redes sociales, incluso las más sofisticadas, pierden sentido si no podemos estar seguros de que quienes publican son otras personas, y no simples IA.
Y para Meta la estrategia responde a una necesidad con claros visos económicos: para mantener el valor comercial de sus servicios, la compañía requiere garantizar a sus anunciantes y usuarios la presencia de audiencias humanas de verdad. Las métricas de participación pierden relevancia ante los inversores de Wall Street cuando el tráfico proviene de granjas de cuentas automatizadas.
La recolección de datos biométricos genera, sin embargo, debate entre especialistas en privacidad digital. La conversión de rostros en patrones matemáticos almacenados en servidores corporativos exige garantías estrictas de seguridad de datos frente a posibles filtraciones de información sensible. Y no es posible dejar de pensar en si, en el futuro, esta clase de cosas será parte de la cotidianidad, que habitemos en un mundo en el que la IA nos rodea y sea necesario, a toda hora, andar probando que somos, en efecto, personas reales.
