La denuncia provocó una protesta de padres y estudiantes en Lomas de Zamora. La Justicia identificó a 45 posibles víctimas y dos adolescentes de 15 años fueron imputados.
Publicado por: Redacción Vanguardia
Una grave denuncia por el uso de inteligencia artificial contra estudiantes menores de edad desató una protesta en un colegio de Argentina. Un grupo de alumnos habría utilizado fotografías de sus compañeras para crear imágenes sexuales falsas, que posteriormente fueron compartidas en internet y, según las familias, comercializadas en plataformas para adultos.
El caso ocurrió en el Colegio Modelo Lomas, ubicado en Lomas de Zamora, provincia de Buenos Aires, donde padres y estudiantes se concentraron el miércoles 7 de octubre para exigir respuestas a las autoridades de la institución.
De acuerdo con las denuncias, al menos cuatro alumnos de tercer año estarían relacionados con la creación y circulación del material. Las fotografías originales habrían sido obtenidas de redes sociales y posteriormente alteradas mediante herramientas de inteligencia artificial para simular situaciones que nunca ocurrieron.
La situación llegó a los tribunales y, hasta el jueves 8 de octubre, la investigación había permitido identificar a 45 posibles víctimas. Dos estudiantes de 15 años fueron imputados, mientras las autoridades judiciales buscan establecer quiénes participaron y qué alcance tuvo la difusión de las imágenes. Lea: El 32.7 % de empresas tecnológicas ya usa agentes de IA como empleados digitales
Padres denuncian que las imágenes fueron difundidas y vendidas en internet
Uno de los aspectos que más preocupa a las familias es que el contenido no habría permanecido dentro de un grupo privado de estudiantes, sino que también habría circulado en páginas para adultos y entre alumnos de otras instituciones educativas.
Micaela, madre de una de las adolescentes afectadas, aseguró en declaraciones al canal argentino TN que los responsables utilizaron una herramienta de inteligencia artificial de pago para modificar las fotografías.
Según su testimonio, las imágenes eran compartidas junto con información que permitía identificar a las alumnas. La mujer también denunció que el material habría sido comercializado, aunque las autoridades judiciales todavía investigan si existieron esas transacciones.
Publicidad
Las familias comenzaron a conocer lo sucedido a través de los propios estudiantes. Algunas adolescentes tardaron varios días en contarles a sus padres por la vergüenza y la angustia que les generó descubrir que sus rostros estaban siendo utilizados en imágenes falsas de contenido sexual.
Estudiantes protestaron y cuestionaron la respuesta del colegio
Según relataron los familiares a medios argentinos, el colegio habría tenido conocimiento de la circulación de las imágenes antes de que el caso se hiciera público. Los padres aseguran que no recibieron información oportuna sobre lo ocurrido y que las primeras medidas disciplinarias fueron insuficientes.
Ante la falta de respuestas, estudiantes decidieron realizar una sentada frente al establecimiento y negarse a ingresar a clases hasta conocer qué acciones tomarían las directivas.
Durante la jornada, representantes de las familias mantuvieron una reunión con autoridades escolares e inspectoras de Educación. Allí solicitaron medidas para proteger a las alumnas afectadas, acompañamiento psicológico y una investigación sobre el comportamiento de los estudiantes señalados.
Las familias también reclamaron que se investigara por qué las adolescentes habrían tenido que enfrentar la situación durante varios días antes de recibir una respuesta institucional.
Dos adolescentes fueron imputados por las imágenes falsas
Mientras avanzaban los reclamos dentro del colegio, la Justicia argentina abrió una investigación sobre la creación y distribución del material.
Publicidad
Dos alumnos de 15 años fueron notificados de su imputación y sus teléfonos celulares serán sometidos a análisis para establecer cómo se obtuvieron las fotografías, qué herramientas se utilizaron para modificarlas y quiénes participaron en su difusión.
Los investigadores también intentan determinar si las imágenes fueron vendidas y si existen otras personas involucradas. Además: Deepfakes y uso de IA elevan el riesgo de ciberataques: 62 % de organizaciones reportó incidentes
Hasta el momento se han identificado 45 posibles víctimas, aunque la cifra podría aumentar conforme avance la revisión del material digital.
La imputación de los adolescentes no significa que se haya determinado su responsabilidad penal. El proceso continúa en etapa de investigación.
Publicidad
El uso de inteligencia artificial preocupa a las familias
El caso abrió una discusión sobre los riesgos que representa el uso de herramientas de inteligencia artificial para manipular fotografías de personas sin su consentimiento, especialmente cuando las afectadas son menores de edad.
Este tipo de contenido se conoce como deepfake, una técnica que permite crear imágenes o videos falsos mediante sistemas de inteligencia artificial. Aunque las escenas no hayan ocurrido, pueden resultar difíciles de distinguir de una fotografía auténtica. Tenga en cuenta: ¿Quién enseñará a la generación que crecerá con inteligencia artificial?
En situaciones como la denunciada en Argentina, el problema no se limita a la manipulación digital. La circulación de estas imágenes puede afectar la privacidad, la reputación y el bienestar emocional de las personas involucradas.
Por ahora, la comunidad educativa del Colegio Modelo Lomas permanece a la espera de respuestas sobre las responsabilidades de los involucrados y las acciones que se adoptarán para proteger a las alumnas afectadas.
