Primero, el papa. Luego, Anthropic, una de las más importantes empresas en el sector. Y, al cabo, el gobierno de Trump. Tres movimientos, en unas cuantas semanas, que advierten sobre las crecientes amenazas de la inteligencia artificial. Dejando atrás la guerra, los temas ambientales o los abusos cometidos por sacerdotes, en su primera encíclica León XIV decidió enfocarse justo en este tema, como si a la Iglesia le pareciera la mayor prioridad de nuestro tiempo.
Publicada poco después de que Peter Thiel, el fundador de PayPal y Palantir -y unos de los primeros inversores en OpenAI-, se atreviese a viajar a Roma para reiterar sus extravagantes ideas en torno al Anticristo y el Apocalipsis, Magnifica humanitas no puede dejar de ser vista como una respuesta a las ideas del magnate, tardíamente convertido al catolicismo, en torno al Anticristo y el Apocalipsis. Allí donde Thiel clama por lanzar una cruzada a favor del poder tecnológico de Estados Unidos como único garante de la civilización cristiana, el papa se ha empeñado en señalar los inminentes riesgos que acarrea la IA cuando está sometida al capricho de un puñado de oligarcas. Para dejar clara su pugna personal, León XIV -o su asesor tecnológico-, no evitó el guiño de incluir en la encíclica una cita de Gandalf, el viejo mago de El señor de los anillos, una vieja querencia de Thiel que justo llamó Palantir a su empresa de análisis de datos en honor a las piedras que permiten verlo todo de la novela de Tolkien.
Los dos siguientes movimientos se deben a otro actor crucial en el entorno tecnológico actual: Dario Amodei, fundador de Anthropic. En primer lugar, decidió retirar del mercado su modelo más avanzado, Mythos, ante los riesgos de su capacidad para detectar vulnerabilidades en seguridad en cualquier sistema -o aprovecharse de ellos-, para entregárselo para su estudio a un grupo de conglomerados y gobiernos, en el marco del Proyecto Glasswing, y ahora ha llamado a ralentizar el desarrollo de la IA. Según su alarmante comunicado, el momento en el que los nuevos modelos se vuelvan capaces de programarse y mejorarse a sí mismos desafiando cualquier supervisión o comprensión humanas se halla muy cerca: de allí su llamamiento a una pausa global para proceder a su regulación.
Que una de las empresas que más velozmente se han volcado a desarrollar la IA sea la que ahora busque frenarla no podría sonar más paradójico, como han denunciado numerosos críticos. Cuando, a inicios de 2023, cientos de expertos llamaron a esa misma pausa, Amodei se lanzó a fundar Anthropic. Como en el caso de su negativa a aceptar las nuevas condiciones del Pentágono para el uso de armas automáticas guiadas por IA, su preocupación actual no solo es una posición ética, sino una forma de posicionarse en el mercado como un actor responsable frente a sus competidores directos, en particular OpenAI. Todo ello, además, en el momento en el que las principales empresas de IA -con xAI, la empresa de Musk, en primera fila- se lanzan a cotizar en bolsa: acaso el motivo oculto detrás de todo lo que está ocurriendo.
La siguiente jugada provino, en cambio, del gobierno de Trump. Enfurecido ante la negativa de Amodei, etiquetó a Anthropic como una amenaza a la seguridad nacional, privándola de cientos de contratos con agencias federales; ahora ha ido más lejos al prohibir que Fable -según la empresa, la versión segura de Mythos- pueda ser usada por personas que no sean estadounidenses. Ante la presión, Anthropic prefirió suspenderla.
Más allá de la venganza de Trump, la decisión nos permite observar cómo uno de los descubrimientos más lucrativos de la historia se convierte, asimismo, en un tema de seguridad nacional. Tanto Estados Unidos como China se han dado cuenta de que, quien llegue primero a desarrollar una inteligencia artificial general -o algo cercano a ella- obtendrá una ventaja geopolítica crucial. El escenario no es lejano al de la guerra nuclear -aunque entonces ninguna empresa se volvía multimillonaria enriqueciendo uranio- y nos acerca cada día más a lo que los expertos denominan MAAD, las siglas de Mutual Assured AI Malfunction: un camino distinto hacia nuestra extinción.
