El 62% de las organizaciones reportó incidentes relacionados con deepfakes o ingeniería social apoyada en IA. Además, 57 % de empleados admite haber ingresado información sensible en herramientas públicas de IA.
Publicado por: Redacción Tecnología
El avance de la inteligencia artificial está transformando la ciberseguridad. Un estudio citado en un informe empresarial señala que 62 % de las organizaciones ha experimentado incidentes relacionados con deepfakes o ingeniería social apoyada en IA, mientras que 29 % sufrió ataques dirigidos contra sistemas y aplicaciones de inteligencia artificial generativa durante los últimos 12 meses.
Un correo que parece enviado por un jefe, una llamada en la que se replica la voz de un directivo o un video aparentemente auténtico pueden convertirse en herramientas utilizadas por los ciberdelincuentes para engañar a empleados y acceder a información corporativa.
El escenario también plantea riesgos desde el interior de las compañías. Según datos de TELUS Digital citados en el informe, 57 % de los empleados corporativos que utilizan herramientas de IA generativa reconoce haber introducido información sensible o confidencial en plataformas públicas.
Entre los datos que pueden terminar en estos servicios están documentos, información de clientes, contenidos internos, código fuente y detalles de proyectos. Además: ¿Va a firmar un contrato por internet? Así son las modalidades de fraude en la firma electrónica
¿Qué es el ‘Shadow AI’ y por qué preocupa a las empresas?
El denominado Shadow AI hace referencia al uso de herramientas de inteligencia artificial por parte de empleados sin que estas hayan sido autorizadas, supervisadas o incorporadas formalmente por las áreas de tecnología y seguridad de una organización.
El problema es que una empresa puede perder visibilidad sobre qué plataformas utilizan sus trabajadores y, especialmente, qué información corporativa están compartiendo. Tenga en cuenta: ¿Un botón para apagar la IA? La propuesta del gobernador de California
El uso de herramientas como ChatGPT, Gemini o Copilot puede agilizar tareas, pero introducir información confidencial en plataformas públicas sin conocer sus condiciones de tratamiento puede generar nuevos riesgos para una organización.
Publicidad
De acuerdo con los datos citados en el informe, entre 8 % y 13 % de los prompts enviados a herramientas de IA generativa contienen información que podría representar riesgos de seguridad.
Las políticas de IA todavía avanzan más lento que su adopción
La incorporación de inteligencia artificial en las empresas también plantea un desafío de gobernanza.
Según diferentes estudios citados por el informe, entre 29 % y 67 % de las organizaciones cuenta con lineamientos formales y visibles sobre el uso de inteligencia artificial generativa. Se recomienda: Ingeniero de Anthropic renuncia y alerta sobre el peligro de la IA para la humanidad
Esto significa que existe una brecha entre la velocidad con la que los empleados incorporan estas herramientas a sus actividades y la capacidad de las compañías para establecer reglas claras sobre su utilización.
“Pretender frenar su uso dentro de las organizaciones no es una solución realista. El desafío está en reconocer que los empleados ya la están utilizando y establecer controles para que esa ganancia en productividad no termine exponiendo información crítica para el negocio”, explica Alejandro Navarro, country manager de GMS.
La inteligencia artificial también puede ayudar a detectar ataques
La IA no solo está siendo utilizada para sofisticar ataques. También puede convertirse en una herramienta para detectar y responder rápidamente ante amenazas.
Publicidad
Entre enero y agosto de 2026, el Centro de Operaciones de Seguridad (SOC) de GMS reportó que 80 % de los eventos de seguridad fue notificado automáticamente a los clientes, mientras que 4% de las detecciones fue identificado directamente por su motor de inteligencia artificial. Lea: ¿Usa ChatGPT o Claude para trabajar con Europa? Así puede afectarlo la nueva ley de IA de la UE
Además, en los procesos de GMS que incorporan automatización o IA, 59 % de las detecciones fue contenido de forma automática.
La automatización puede reducir el tiempo que una amenaza permanece activa y permitir que los especialistas concentren sus esfuerzos en incidentes que requieren análisis y decisiones más complejas.
¿Cómo pueden protegerse las organizaciones ante el uso de la IA?
Ante este escenario, las empresas necesitan abordar el uso de inteligencia artificial desde dos frentes: proteger sus sistemas frente a ataques cada vez más sofisticados y controlar cómo sus propios trabajadores utilizan estas herramientas. Le interesa: IA agéntica: así funciona la tecnología que toma decisiones y transforma las empresas familiares
Publicidad
Entre las medidas recomendadas están:
- Definir qué información puede compartirse con herramientas de IA.
- Establecer cuáles plataformas de inteligencia artificial están autorizadas.
- Implementar controles de acceso.
- Capacitar a los empleados sobre riesgos de seguridad.
- Identificar herramientas de IA utilizadas sin autorización.
- Fortalecer los sistemas de detección y respuesta.
- Utilizar automatización e inteligencia artificial para analizar amenazas.
El factor humano sigue siendo clave
La sofisticación de los deepfakes y de las técnicas de ingeniería social hace que ya no sea suficiente confiar únicamente en la apariencia de un mensaje, una llamada o un video. Además: La educación en línea busca dar el salto hacia los tutores de inteligencia artificial
Un supuesto mensaje de un directivo que solicita una transferencia, por ejemplo, debería verificarse mediante un canal independiente antes de ejecutar la orden. Lo mismo ocurre con solicitudes de contraseñas, códigos de acceso, documentos o información confidencial.
Publicidad
La inteligencia artificial está haciendo más eficientes tanto a los atacantes como a los equipos de defensa. El desafío para las organizaciones consiste en aprovechar sus beneficios sin permitir que la misma tecnología se convierta en una nueva vía de exposición de sus datos.
