Los errores cometidos desde la inteligencia ‘artesanal’ son responsabilidad del humano que toma las decisiones, pero ante la posibilidad de que una máquina pueda equivocarse, ¿quién responde?
La Inteligencia Artificial está entrando silenciosamente en decisiones que antes dependían exclusivamente de personas y hoy puede ayudar a seleccionar una hoja de vida, detectar un posible fraude, evaluar la capacidad de pago de una persona, identificar riesgos o determinar qué información recibe un usuario. Ofrece una promesa sencilla y es la de tomar decisiones más rápidas, eficientes y, aparentemente, más objetivas, pero detrás de esa promesa no podemos dejar de preguntarnos ¿qué ocurre cuando el algoritmo toma una decisión que termina discriminando a una persona?
Con frecuencia se piensa que la discriminación desaparece cuando dejamos la decisión en manos de una máquina. En realidad, puede ocurrir exactamente lo contrario. Los algoritmos aprenden de datos y los datos son el resultado de nuestras sociedades. Si esos datos contienen desigualdades históricas, prejuicios o patrones discriminatorios, el sistema va aprenderlos y reproducirlos a una escala mucho mayor. No hace falta que alguien programe una instrucción que diga “discrimine a las mujeres” o “excluya a determinado grupo”.
La discriminación puede aparecer en las variables utilizadas, en la información con la que se entrenó el sistema o en las relaciones que el algoritmo encuentra entre ellas. Es evidente que los sistemas de inteligencia artificial pueden reproducir y reforzar sesgos existentes y generar discriminación, desigualdad y exclusión.
Pensemos en algo tan cotidiano como una empresa que utiliza Inteligencia Artificial para seleccionar candidatos. Si el sistema aprende de diez años de contrataciones en los que determinados cargos fueron ocupados principalmente por hombres, podría concluir que ciertas características socialmente asociadas a los hombres son indicadores de un mejor candidato. La empresa podría entonces afirmar que nunca ordenó discriminar a una mujer, sin embargo, el resultado puede que una persona pierde una oportunidad laboral por una decisión que nadie reconoce como propia porque, aparentemente, “la tomó el algoritmo”.
Aquí está el verdadero desafío jurídico. La automatización no puede convertirse en una estrategia para diluir la responsabilidad, si una empresa decide utilizar un sistema para adoptar decisiones que afectan los derechos de las personas, debe asumir también la responsabilidad por haber elegido ese sistema, por los datos utilizados, por la manera en que lo implementó y por la forma en que controla sus resultados. La máquina puede ejecutar la decisión, pero no puede responder jurídicamente por ella.
Esta no es solamente una discusión ética, tiene que ser posible atribuir la responsabilidad jurídica a personas o entidades concretas durante todo el ciclo de vida de un sistema de inteligencia artificial y la supervisión humana no puede desaparecer detrás de la tecnología.
Por eso, el debate regulatorio no debería limitarse a preguntar qué puede hacer la inteligencia artificial. Deberíamos preguntarnos qué garantías debe cumplir antes de permitirle intervenir en decisiones que afectan derechos fundamentales. En Colombia, la discusión sobre regulación de la IA ofrece precisamente la oportunidad de establecer estas salvaguardas las cuales tienen que ver con la evaluación previa de riesgos, transparencia de datos y sobre el uso de sistemas automatizados, posibilidad de conocer las razones relevantes de una decisión, auditorías para detectar sesgos y, especialmente, una revisión humana que no sea simplemente una formalidad.
Una persona a la que se le niega un empleo, un crédito, un servicio o una oportunidad no debería recibir como única explicación que “el sistema así lo determinó”, tiene derecho a saber que una herramienta automatizada intervino en la decisión, a cuestionarla y a obtener una revisión real por parte de quien tiene la capacidad y la obligación de corregirla.
La Inteligencia Artificial puede procesar datos, identificar patrones y recomendar decisiones con una velocidad que ningún ser humano podría igualar. Pero hay algo que no puede hacer y es asumir responsabilidad y reparar el daño, pues cuando un algoritmo discrimina existen decisiones humanas detrás: alguien diseñó, alguien proporcionó los datos, alguien decidió utilizarla y alguien debe supervisar sus resultados.
El verdadero reto no consiste en detener el avance de la Inteligencia Artificial, sino en impedir que el avance tecnológico avance más rápido que nuestra capacidad para garantizar derechos. Una sociedad que permite que los algoritmos decidan sobre el empleo, el crédito, la educación, la seguridad o el acceso a servicios debe exigir también transparencia, control, trazabilidad y mecanismos reales de reparación.
