Revelan uso de IA de Anthropic para atacar instituciones de gobierno en México
Un hacker utilizó un chatbot de inteligencia artificial para realizar ciberataques contra instituciones de gobierno, derivando en el robo de información confidencial sobre impuestos y votantes.
El medio Bloomberg, reportó que el hacker utilizó a Claude, la inteligencia artificial de la compañía Anthropic PBC, para enviarle instrucciones en español y este actuara como hacker detectando vulnerabilidades en las dependencias para aprovecharse de estas y robar la información.
El hallazgo del uso de una inteligencia artificial fue hecho por la empresa de seguridad israelí Gambit Security, creada por exmiembros de la unidad de élite 8200 de inteligencia militar de las Fuerzas de Defensa de Israel (IDF, por sus en inglés).
Según los investigadores, la actividad comenzó en diciembre y se extendió durante un mes, a lo largo de los cuales se sustrajeron 150 gigabytes, incluyendo millones de registros de contribuyentes, padrones electorales, credenciales de funcionarios públicos y archivos del registro civil.
Este episodio no ha sido el único donde se ha documentado el uso de inteligencia artificial, investigadores de Amazon detectaron a un grupo de hackers que utilizó la inteligencia artificial para irrumpir en cientos de dispositivos de firewall en decenas de países.
La empresa no atribuyó la operación contra México a un grupo específico e indicó no creer que estuviera vinculado a un gobierno extranjero.
Por su parte la empresa creadora de la inteligencia artificial dijo que esta advirtió al usuario de sus intenciones maliciosas y tras investigaciones interrumpió su actividad y las cuentas implicadas, pero se señala que este pudo “liberar” a la IA para atacar a las dependencias.
Para atravesar las defensas, el hacker recurrió también a ChatGPT para complementar la información de cómo realizar el ciberataque.
En días recientes se reportó que directivos de Anthropic se reunieron con el secretario de Guerra de Estados Unidos, Pete Heghseth, donde se ha demandado permitir al Pentágono quitar salvaguardias para su uso militar; con la empresa oponiéndose al posible uso para vigilancia masiva de estadounidenses y el desarrollar armas que disparen sin decisión humana.
