Un hombre de Florida fue condenado tras usar ChatGPT para planear el asesinato de su exnovia; OpenAI alertó al FBI sobre sus amenazas.
Publicado por: Redacción Mundo
Un hombre de Florida, Estados Unidos, fue condenado el pasado viernes 14 de agosto, después de utilizar ChatGPT para expresar y desarrollar planes contra su exnovia, situación que llevó a OpenAI, empresa creadora de la herramienta de inteligencia artificial, a emitir una alerta ante el FBI.
Según documentos judiciales, Darren Zhou, quien anteriormente trabajó como analista financiero de Goldman Sachs, llegó a un acuerdo de culpabilidad ante una corte del condado de Palm Beach por varios cargos relacionados con amenazas, ciberacoso y el uso de un dispositivo de comunicación para cometer un delito.
OpenAI alertó a las autoridades por plan asesinato-suicidio en la Florida
Zhou, de 25 años, permanecía detenido desde mayo pasado, luego de que las autoridades recibieran una notificación de emergencia relacionada con su actividad en ChatGPT. Además: “ChatGPT lo alentó”: padres demandan a OpenAI tras la muerte de su hijo
De acuerdo con la orden de arresto, el usuario habría realizado reiteradas declaraciones en las que manifestó intenciones de atacar y asesinar a su expareja, Rachel Eden Wachterman. Incluso, avisó a ChatGPT que había comprado un rifle estilo AR-15, una pistola Glock, una escopeta calibre 12 con cartuchos de perdigones y balas, y guantes de látex.
La alerta también señaló que el hombre habría descrito ante la herramienta un supuesto plan de asesinato-suicidio y que estaba siguiendo los movimientos de la víctima para localizarla. Ante la gravedad de las amenazas, la información fue remitida a las autoridades.
El caso vuelve a poner el foco en la seguridad de la inteligencia artificial ante posibles delitos
Este caso ocurre en medio de un creciente debate en Estados Unidos sobre los mecanismos de seguridad de las plataformas de inteligencia artificial y la forma en que deben responder cuando detectan posibles amenazas. Lea: ¿Culpa de la IA? Demandan a OpenAI: acusan a ChatGPT de ayudar a un tirador
Florida también mantiene acciones legales contra OpenAI relacionadas con el funcionamiento y la seguridad de ChatGPT. Una demanda fue entabla por la viuda de una de las dos víctimas mortales del tiroteo masivo en la Universidad Estatal de Florida (FSU), alegando que su plataforma, ChatGPT, funcionó como un “asistente” clave para que el atacante, Phoenix Ikner, planificara el crimen ocurrido en abril de 2025.
Publicidad
En ese mismo estado, otro sospechoso, Hisham Abugharbieh, de 26 años, es investigado por usar ChatGPT para consultar cómo deshacerse de cuerpos. Según documentos judiciales, el acusado de los crímenes pidió a ChatGPT consejos para desechar los cadáveres de Zamil Limon y Nahida Bristy, dos alumnos de doctorado de la a Universidad del Sur de Florida (USF), ambos de 27 años y originarios de Bangladesh, quienes desaparecieron el pasado 16 de abril en la ciudad de Tampa.
Por su parte, las autoridades estatales han cuestionado, entre otros aspectos, el impacto de estas herramientas y la manera en que pueden interactuar con usuarios que presentan conductas potencialmente peligrosas. Se recomienda: Asesino de universitarios en Florida habría usado ChatGPT para ocultar los cuerpos
Lo cierto, es que el caso de Zhou vuelve a plantear una pregunta central para la industria tecnológica: ¿hasta dónde deben llegar las empresas de inteligencia artificial cuando detectan que un usuario podría representar una amenaza para otra persona?
