Prefiero la perspectiva de Harari que considera la inteligencia artificial (IA ) como una nueva especie, y no solo como una tecnología nueva. Grok, una de tantas IA, se define como una rama de la informática que se enfoca en crear sistemas y máquinas capaces de realizar tareas que normalmente requieren inteligencia humana, como razonar, aprender, resolver problemas, tomar decisiones o percibir el entorno. Estos sistemas usan algoritmos y modelos matemáticos para procesar datos, identificar patrones y mejorar con la experiencia, sin seguir instrucciones explícitas para cada tarea.
La posibilidad de una nueva especie me resulta atractiva, ya que la IA generativa está cerca de superar sus limitaciones y migrar hacia la IA general, capaz ésta, de aprender más allá de sus datos, como lo hacemos los humanos. Aunque algunas IA ya superan exámenes de posgrado y nos derrotan en juegos complejos, aún carecen del nivel de generalización que tenemos los Homo sapiens. Actualmente se realizan pruebas objetivas con videojuegos para evaluar si hemos alcanzado la IA general.
Definiendo inteligencia, como la capacidad de aprender, esta condición está presente en humanos, en los demás seres vivos, también en las máquinas que utilizan modelos de lenguaje llamados LLM por su enorme tamaño, basados en redes neuronales para predecir probabilísticamente palabras para generar texto además de imágenes, música o videos. Requieren entrenamiento continuo para responder adecuadamente, aunque esto no garantiza que sus respuestas se alineen con los valores culturales diversos. Algunos consideran que invertir tanto en la domesticación de la IA es inútil, ya que hasta que surjan comportamientos erróneos, no sabremos si los LLM interpretaron los objetivos de forma desalineada.
Marcus Arvan señala que los LLM están diseñados para operar de manera eficiente y desarrollancapacidades de razonamiento estratégico. Dado que una estrategia óptima para lograr objetivos “desalineados” es ocultárnoslos-y siempre- hay un número infinito de objetivos alineados y desalineados consistentes con los mismos datos de pruebas de seguridad. Si los LLM estuvieran desalineados, probablemente lo descubriríamos después de que lo oculten el tiempo suficiente para causar daño. Reconocer la imposibilidad de controlar la IA general pudiera ser más importante que desear lo imposible: dominar la nueva especie.
PS: La unión de un amplio sector de la izquierda democrática en un nuevo partido, el Pacto Histórico, es un gran aporte a la democracia colombiana. El discurso del presidente en la instalación del Congreso alienta la esperanza del cambio en democracia a sabiendas que es difícil y tortuoso pero posible.
