La inteligencia artificial volvió esta semana al centro de una discusión que ya no pertenece solo a científicos y desarrolladores: ¿debemos frenar su avance porque sus capacidades están creciendo más rápido que nuestra capacidad para controlarlas?
La pregunta tomó fuerza después de que Dario Amodei, CEO de Anthropic, pidiera moderar el ritmo de desarrollo de los modelos más avanzados para dar tiempo a que la seguridad avance a la misma velocidad. Sam Altman, CEO de OpenAI, respaldó la necesidad de mayor cautela.
En una posición diferente, Jensen Huang, CEO de Nvidia, ha defendido que los riesgos deben enfrentarse con ingeniería, pruebas, supervisión y mejores sistemas de control, sin frenar el desarrollo de la tecnología.
El debate es válido. Los riesgos existen y sería irresponsable ignorarlos. Pero también sería ingenuo pensar que esta discusión ocurre al margen de intereses económicos, tecnológicos y geopolíticos. Quienes participan en ella compiten por liderar una de las industrias con mayor potencial de transformación y valor económico del mundo, y las decisiones que se tomen hoy pueden determinar quién desarrolla los modelos del futuro, quién accede a la infraestructura necesaria y quién puede competir. Por eso, además de preguntarnos qué tan segura es la IA, también deberíamos preguntarnos quién define las reglas y a quién benefician.
Esto no invalida las advertencias. Pero sí nos recuerda que el miedo no puede convertirse, por sí solo, en el criterio para decidir hasta dónde puede avanzar una tecnología.
Desde el sector salud, esta discusión resulta especialmente familiar. La medicina nunca ha avanzado esperando que desaparezca todo riesgo. Ha progresado mediante evidencia, investigación, protocolos, evaluación permanente y aprendizaje. Una nueva tecnología médica no llega a un paciente porque sea perfecta, sino porque existen herramientas para estudiar sus beneficios, identificar sus riesgos y establecer condiciones para utilizarla de manera responsable.
Con la inteligencia artificial deberíamos hacer lo mismo. Evaluar sus capacidades, probarlas antes de implementarlas, establecer límites cuando sean necesarios, mantener supervisión humana y corregir aquello que no funcione. Si una aplicación específica no ofrece garantías suficientes, habrá que ajustarla. Pero eso es diferente a frenar el desarrollo por temor a sus posibles consecuencias.
Además, en salud, no innovar también puede tener un costo. Una inteligencia artificial capaz de ayudar a detectar enfermedades más temprano, acelerar la investigación, apoyar decisiones clínicas, optimizar procesos o ampliar el acceso a servicios representa oportunidades que tampoco deberíamos ignorar.
Por eso, la discusión no debería reducirse a escoger entre innovación y seguridad. El verdadero desafío es conseguir que nuestra capacidad para comprender, evaluar y controlar la inteligencia artificial crezca al mismo ritmo que sus capacidades.
No necesitamos una inteligencia artificial sin riesgos, sino la capacidad de gestionarlos con evidencia, conocimiento y responsabilidad.
