En las últimas semanas, los llamados a regular la investigación en IA de frontera parecen haberse multiplicado. De OpenAI a Anthropic, y de Bill Gates a Barack Obama, todos parecen tener una opinión similar. Pero mientras las capacidades de los sistemas avanzados escalan hacia niveles que generan inquietud en la comunidad científica y en el propio Silicon Valley, ni la Casa Blanca ni el Congreso de los Estados Unidos parecen inclinados a estructurar un marco regulatorio coherente… e incluso si quisieran hacerlo, está por verse si sabrían cómo hacerlo.
A mediados de julio, impulsado por las advertencias públicas y privadas de Demis Hassabis, cofundador de Google DeepMind, hubo un intento. La propuesta, que buscaba establecer un organismo de autorregulación supervisado, inspirado en la Autoridad Reguladora de la Industria Financiera (FINRA) y planteaba imponer estándares de desarrollo seguro a los laboratorios líderes, se hundió tras una serie de llamadas directas al presidente Donald Trump por parte de ejecutivos de la industria tecnológica.
Luego salió el ensayo de Dario Amodei, director ejecutivo de Anthropic, que detalla los “peligros catastróficos” asociados a los modelos de frontera. Los asesores de la Casa Blanca lo interpretaron como un factor de agitación mediática que generaba presiones políticas innecesarias para la administración.
Sin el liderazgo del ejecutivo, la discusión se trasladó al Congreso, donde las iniciativas legislativas van de organismos de vigilancia a un kill switch para apagar cualquier IA desobediente. La propuesta con mayor respaldo en la Cámara de Representantes es la Ley FRONTIER, que faculta al Departamento de Comercio para enviar auditores independientes a los laboratorios de desarrollo con el fin de supervisar incidentes de seguridad y, en casos extremos, congelar el entrenamiento de modelos que representen amenazas sistémicas.
Y, sin embargo, a pesar de contar con el visto bueno de firmas como OpenAI, la Ley FRONTIER se halla estancada. ¿Y el kill switch? Las empresas de IA dudan que siquiera sea posible.
A la larga, se trata de cómo se entiende en este terreno, todavía nuevo, el espinoso tema de la responsabilidad. La noción de que autoridades del mundo de la IA alerten sobre los peligros de su desarrollo mientras activamente trabajan a diario para avanzarlo es, por decir lo menos, irónico. Que OpenAI comunique que varios de sus modelos atacaron sitios webs de otras empresas como si eso no fuera transparentemente su responsabilidad es, con perdón del tono, absurdo.
La regulación va, por defecto, más despacio que la innovación. incluso si por un milagro lográramos una legislación, esta sería más lenta que la industria que se propone regular. Por eso, más que normas, se necesitan castigos. ¿Tu modelo de IA se ‘escapó’ a la red y hackeo sitios ajenos? Bueno, vas a responder como si tú se lo hubieras ordenado. Aprueben esa ley y les apuesto que en menos de nada, Silicon Valley descubre la fórmula para su kill switch.
