¿Quién es Dario Amodei, CEO de Anthropic que advierte sobre el comportamiento de la IA?

El director ejecutivo de Anthropic, Dario Amodei, lanzó una advertencia en la Cumbre de Impacto de IA en Nueva Delhi sobre el avance acelerado de la inteligencia artificial, afirmó que los modelos actuales podrían superar en pocos años las capacidades cognitivas de la mayoría de las personas.

¿Por qué cree que la IA superará a los humanos?

Amodei sostiene que el desarrollo tecnológico avanza a un ritmo exponencial, no lineal, en su análisis, falta “un pequeño número de años” para que los sistemas de IA sean más competentes que la mayoría de los humanos en la mayoría de las tareas intelectuales.

VER MÁS El director de OpenAI dice que se tiene que regular la IA urgentemente

Sam Altman advierte que la inteligencia artificial requiere reglas globales y coordinación internacional inmediata

El ejecutivo describe un escenario que denomina “un país de genios en el centro de datos”, en el que múltiples agentes artificiales, más capaces que las personas en distintos campos, trabajen de forma coordinada y a velocidades imposibles para la mente humana, a su juicio, ese nivel de desempeño marcaría un punto sin precedentes en la historia tecnológica.

Desde su perspectiva, esta evolución podría traer beneficios significativos, como avances médicos para tratar enfermedades complejas, mejoras sustanciales en educación y agricultura, y un impacto directo en la reducción de la pobreza, especialmente en regiones del sur global.

¿Qué riesgos advierte sobre este avance?

Pese a destacar el potencial positivo, Amodei ha señalado riesgos relevantes; entre ellos, el posible comportamiento autónomo de los modelos de IA y su uso indebido por individuos o gobiernos.

VER MÁS México impulsa nueva ley de cine y de protección a dobladores ante Inteligencia Artificial

También advierte sobre un desplazamiento económico considerable, derivado de que las máquinas puedan superar a los trabajadores humanos en productividad y capacidad de resolución de problemas, este escenario, explicó, podría generar una etapa de fuerte disrupción social y laboral.

El CEO de Anthropic considera que el crecimiento acelerado del sector tecnológico exige cooperación entre empresas y gobiernos para mitigar impactos negativos y establecer salvaguardas adecuadas.

¿Cuál es su trayectoria en el sector tecnológico?

Antes de fundar Anthropic, Amodei fue vicepresidente de investigación en OpenAI, donde lideró el desarrollo de modelos de lenguaje como GPT-2 y GPT-3, también es co-inventor del método de aprendizaje por refuerzo con retroalimentación humana (RLHF), técnica clave en sistemas conversacionales modernos, previamente trabajó como científico senior en Google Brain. 

VER MÁS Investigador de Anthropic renuncia advirtiendo de un mundo en peligro

Mrinank Sharma deja Anthropic tras liderar equipo de seguridad IA y alerta sobre crisis globales interconectadas

En el ámbito académico, obtuvo un doctorado en biofísica en Princeton University y realizó investigación posdoctoral en la Facultad de Medicina de Stanford University School of Medicine.

Desde Anthropic, empresa constituida como corporación de beneficio público, Amodei ha señalado que prioriza la seguridad y la interpretabilidad de los sistemas de inteligencia artificial, incluso si ello implica avanzar con mayor cautela frente a la presión comercial del sector.