Lo que se esconde detrás del miedo a la IA
Los vientos de otoño alborotaron nuevamente el debate sobre los riesgos de la IA. Pero la base de la discusión es prácticamente la misma desde que esta tecnología hizo su irrupción masiva en 2022: ¿representa una IA cada vez más autónoma un peligro existencial para la humanidad? Pero, ¿qué hay detrás del miedo que produce una IA más poderosa? Y ¿el miedo es por alcanzar una IA así o porque alguien más la alcance primero? A mediados de septiembre, el presidente de Estados Unidos, Donald Trump, resumió en una frase la visión que guía la política de su país sobre la tecnología de marras: “quien gana la IA, gana”. Lo dijo más de una vez, y en una de las ocasiones apuntó a China como el rival que Estados Unidos debe dejar atrás en esta carrera. Aunque suena a otra ocurrencia del magnate republicano, no lo es. El plan oficial de la Casa Blanca sobre la IA habla abiertamente de una carrera por el “dominio global” en la que el ecosistema de la nueva tecnología juega un papel protagónico.
Buena parte del temor sobre la IA se ha centrado en la singularidad. Y ¿qué es eso? En pocas palabras: una IA que se mejora a sí misma cada vez más rápido al grado de que su evolución se vuelve impredecible. No hay evidencia en estos momentos de que estemos ahí y tampoco existe un calendario científico serio que nos permita saber si llegaremos o cuándo lo haremos. Al momento de escribir estas líneas, los miedos más tangibles entre la comunidad científica eran el posible uso malicioso de la capacidad de la IA existente y los errores involuntarios en los procesos de control y alineación.
Debemos preguntarnos ¿una IA controlada por humanos es una IA más segura para la humanidad? La respuesta es no necesariamente. La IA hoy es usada por humanos para afectar a otros humanos. Tal vez, en estos momentos, deberíamos reorientar el radar de nuestras preocupaciones hacia el uso humano pernicioso de una IA cada vez más potente.
Hay otro miedo que viene más de la rivalidad entre humanos que de la posible autonomía absoluta de las máquinas, y es perder la preponderancia tecnológica. Y aquí Pekín se asoma como una amenaza para Washington. El Índice de IA 2026 de la Universidad de Stanford concluye que la distancia entre los mejores modelos estadounidenses y chinos es ínfima. Estados Unidos mantiene la ventaja en volumen de inversión, diseño de modelos de frontera y cantidad de centros de datos. No obstante, China se ha adelantado ya en el número de publicaciones científicas, volumen de registro de patentes e instalación de robots industriales. Para los que temen una IA fuera del control humano, pisar el acelerador resulta muy peligroso. Pero para quienes creen que China puede ganar esta carrera, lo más peligroso es meter el freno.
Ahora bien, ¿para qué y a quién sirve el miedo a una IA cada vez más autónoma? Una IA cada vez más potente se vuelve un poderoso imán para los inversionistas a quienes les entra una especie de FOMO (en español, miedo a quedarse fuera). Dado que esta tecnología puede cambiarlo todo, y si no invierten ellos ahora sus competidores lo harán, sienten que tienen que aprovechar el momento e inyectar sus recursos en un ecosistema que está creciendo en capacidad. No quiere decir necesariamente que el miedo y su resonancia formen parte de una campaña orquestada por las principales empresas vinculadas al desarrollo de IA. Lo que afirmo es que el miedo pone el foco en las capacidades crecientes de la IA y que eso ayuda a atraer más inversión.
Anthropic, desarrolladora de Claude, nos ofrece un ejemplo sumamente ilustrativo. A fines de septiembre Reuters dio a conocer que, en su documentación, la compañía considera que una posible salida a bolsa podría valorarla en dos billones de dólares con compromisos de gasto y obligaciones contractuales de inversión en infraestructura y capacidad de cómputo de poco más de medio billón de dólares. Y aquí viene lo mejor: en la misma documentación, la empresa reconoce la posibilidad de riesgos “catastróficos o existenciales” derivados del desarrollo de sistemas avanzados de IA. Una paradoja cuando menos llamativa. Está claro que las altas expectativas, el miedo y la atracción de capital conviven en el modelo de negocio de la IA.
Pero la competencia no es sólo por recursos, también se libra en las reglas del juego. Hace unos días Donald Trump juntó en la Casa Blanca a los miembros de la “tecnoligarquIA” estadounidense. El resultado anunciado de la reunión fue un acuerdo voluntario de seguridad. No obstante, Trump también aprovechó para impulsar una expansión más rápida de los centros de datos que dan soporte a dichos sistemas. Es decir, al mismo tiempo que la élite política y tecnológica de Estados Unidos discutió cómo controlar los riesgos de la IA, habló sobre cómo acelerarla. La paradoja nos conduce a un problema clásico de conflicto de interés: los jugadores que poseen el conocimiento que el gobierno requiere para regular la tecnología que desarrollan son, al mismo tiempo, los jugadores que tienen más dinero en juego por la regulación. El resultado potencial es un juego oligopólico que, además, podría poner límites al desarrollo chino.
Y aquí vale preguntarnos ¿qué significa en verdad ganar la carrera de la IA? Es posible liderar en ciertas áreas, mientras en otras se corre en segundo lugar. Lo que Washington entiende por triunfo en esta carrera es poseer el mayor ecosistema tecnológico, dictar los estándares y las reglas mundiales y capturar la mayor cantidad de los beneficios económicos y militares de la IA.
Vino viejo en copa nueva. El problema para Estados Unidos es que, desde esa perspectiva, China deja de ser sólo un competidor para convertirse en el parámetro contra el que la potencia americana evalúa su propia posición. Y éste es, quizás, el miedo detrás del miedo.
Vamos cerrando el círculo: ¿qué es, entonces, lo más peligroso de la carrera por una mejor IA: la meta o la carrera en sí? Si consideramos que para poder desarrollar una IA exponencialmente más capaz que la que hoy se tiene se requiere más energía, más agua, más recursos minerales y, sí, más impacto en el medio ambiente, la respuesta, a mi juicio, es que hoy el riesgo más palpable está en la carrera y no en la meta. El desarrollo de IA puede agravar sustancialmente los problemas ecosistémicos planetarios que ya enfrentamos.
Así llegamos a las dos últimas preguntas que considero debemos hacernos: ¿seremos capaces como comunidad internacional de diseñar instituciones que mitiguen el auténtico riesgo tecnológico de la IA, potencien sus beneficios sociales y eviten que quienes poseen la tecnología se consoliden como el oligopolio más poderoso en la historia de la humanidad? Y ¿podremos hacerlo sin que la rivalidad entre Estados Unidos y China convierta cualquier medida de prudencia necesaria en una desventaja que ninguno de los dos quiera asumir? Sígueme en Substack: @urbeyorbe