Colombianos que usan inteligencia artificial para trabajar con Europa deben conocer las nuevas reglas de transparencia y uso de IA.
Publicado por: Redacción Tecnología
Si usted atiende clientes, crea contenido, programa, desarrolla chatbots, selecciona personal o vende asesorías para Europa, las nuevas reglas de inteligencia artificial de la Unión Europea pueden ser relevantes para su actividad, aunque viva y trabaje en Colombia.
El alcance de la normativa puede involucrar a diseñadores, programadores, consultores, empresas y creadores de contenido cuando las herramientas de inteligencia artificial que desarrollan o utilizan están destinadas al mercado europeo o sus resultados se utilizan allí.
Esto significa que utilizar ChatGPT, Claude u otras herramientas de IA para prestar un servicio no implica automáticamente una infracción, pero sí puede ser necesario revisar qué se hace con esas herramientas, qué información se introduce y dónde termina el resultado.
Un informe de Crowe advierte que estas exigencias pueden llegar a través de contratos, procesos de cumplimiento y auditorías.
“Aunque la empresa esté en Colombia, debe revisar la norma si su tecnología o sus resultados se usan en Europa”, explicó Jaime Eduardo Mendieta Ramírez, gerente de Transformación Digital y TI de la firma. Además: La educación en línea busca dar el salto hacia los tutores de inteligencia artificial
¿A quién puede afectar la nueva regulación europea sobre IA?
El primer paso consiste en identificar si existe una conexión real con el mercado europeo.
Un profesional independiente debería preguntarse dónde se ofrece el servicio, quién utilizará la herramienta, dónde se encuentran los usuarios y en qué país se emplearán los resultados generados con IA.
Publicidad
No es lo mismo usar IA para corregir un texto que seleccionar candidatos
También es importante determinar para qué se utiliza la inteligencia artificial. Le interesa: IA agéntica: así funciona la tecnología que toma decisiones y transforma las empresas familiares
No representa el mismo nivel de riesgo utilizar una herramienta para corregir ortografía que emplearla para analizar candidatos a un empleo, evaluar solicitudes de crédito, determinar condiciones de un seguro o intervenir en decisiones relacionadas con servicios esenciales.
Por ello, quienes desarrollan, comercializan o utilizan sistemas de IA deben identificar el propósito de cada aplicación y establecer qué obligaciones pueden corresponderles.
El uso de cuentas personales de IA también genera riesgos
El problema no está únicamente en las herramientas que una empresa compra oficialmente.
De acuerdo con el informe citado, una parte importante de los trabajadores utiliza herramientas personales de inteligencia artificial para desarrollar tareas laborales. EY encontró que el 82 % de 300 trabajadores colombianos consultados recurre a herramientas personales de IA.
Esto puede convertirse en un riesgo cuando los empleados introducen en aplicaciones externas hojas de vida, bases de datos, documentos internos, información de clientes o cualquier otro material reservado.
Publicidad
“Una empresa no puede gobernar una inteligencia artificial cuya existencia desconoce”, advirtió Mendieta. Otras noticias: La IA está cambiando un área inesperada de las empresas: no es la productividad
Por eso, las organizaciones necesitan establecer reglas claras sobre qué herramientas pueden utilizar sus trabajadores, qué información está permitido cargar y qué controles deben aplicarse.
Chatbots y contenidos generados con IA tendrán obligaciones de transparencia
Uno de los aspectos centrales de la regulación europea está relacionado con la transparencia.
Cuando corresponda, los usuarios deben saber que están interactuando con un sistema de inteligencia artificial. Esto resulta especialmente relevante en el caso de chatbots y servicios automatizados.
Publicidad
Además, determinados contenidos generados o modificados mediante IA deben poder ser identificados mediante mecanismos técnicos de marcación o señalización.
¿Qué pasa con las imágenes y videos creados con IA?
Los contenidos audiovisuales que puedan confundirse con material real también están sujetos a requisitos de transparencia en determinados escenarios. Otras noticias: ¿Quién enseñará a la generación que crecerá con inteligencia artificial?
Esto incluye imágenes, voces o videos generados o manipulados mediante inteligencia artificial que puedan presentar una apariencia auténtica.
En el caso de determinados textos generados mediante IA relacionados con asuntos de interés público, también existen obligaciones de identificación, aunque pueden aplicarse excepciones cuando exista una revisión humana y responsabilidad editorial.
Publicidad
Por eso, corregir únicamente la ortografía de un texto generado por IA no necesariamente equivale a una revisión editorial sustancial.
Seis pasos para protegerse si trabaja con IA desde Colombia
1. Haga un inventario de las herramientas
Identifique todas las aplicaciones de inteligencia artificial que utiliza, incluidas las versiones gratuitas, plataformas abiertas y servicios asociados a correos personales.
2. Determine qué información recibe cada herramienta
Registre para qué utiliza cada aplicación, qué datos procesa, quién administra el servicio y dónde puede terminar la información introducida.
3. Clasifique las tareas según su nivel de riesgo
Separe las labores sencillas de aquellas que puedan influir en decisiones relacionadas con empleo, crédito, seguros, educación, salud o servicios públicos.
4. Proteja los datos personales y confidenciales
No introduzca información personal, financiera, empresarial o reservada en una herramienta de IA sin contar con autorización y controles adecuados.
5. Revise las obligaciones de transparencia
Determine si el chatbot debe informar al usuario que está interactuando con una máquina o si un contenido generado o modificado con IA debe incorporar algún tipo de identificación.
6. Guarde evidencia del proceso
Conserve instrucciones, versiones, fechas, resultados y registros de las revisiones humanas. También conviene dejar claro contractualmente quién informa al público, corrige errores, conserva los registros y responde ante eventuales reclamaciones.
¿Cuánto pueden costar las infracciones?
El incumplimiento de determinadas obligaciones puede generar actuaciones de las autoridades europeas, que pueden solicitar información, exigir modificaciones o imponer sanciones.
Las multas dependen de factores como la gravedad de la infracción, el daño causado, la intención, el tamaño de la organización y su nivel de colaboración con las autoridades. Tenga en cuenta: Así puede usar la IA para resolver dudas sobre su salud de forma segura
Para las infracciones más graves, las sanciones pueden alcanzar 35 millones de euros o el 7 % de la facturación mundial anual, mientras que otras infracciones relacionadas con obligaciones como la transparencia pueden llegar hasta 15 millones de euros o el 3 % de la facturación mundial, según el régimen aplicable.
En el caso de las pequeñas y medianas empresas existen consideraciones específicas sobre el cálculo de las sanciones.
Un trabajador independiente que actúe profesionalmente tampoco debería asumir que está automáticamente por fuera del alcance de las obligaciones cuando desarrolla actividades vinculadas con el mercado europeo.
