El estado de Florida demanda a OpenAI y a su CEO Sam Altman

El estado de Florida presentó el lunes una demanda contra OpenAI y su director ejecutivo, Sam Altman, al afirmar que la empresa lanzó a sabiendas y comercializó de forma agresiva ChatGPT al público mientras ocultaba riesgos.

El fiscal general de Florida, James Uthmeier, manifestó durante una conferencia de prensa que la compañía suprimió advertencias internas de seguridad y engañó a los usuarios sobre la verdadera naturaleza y los peligros del producto. Dijo que Florida fue el primer estado en demandar a OpenAI.

“Hoy anunciamos la primera demanda en el país liderada por un estado contra OpenAI y su director ejecutivo, Sam Altman", declaró Uthmeier. "OpenAI y Altman ignoraron advertencias de seguridad internas y externas, pusieron a niños en gran riesgo y permitieron que un producto peligroso llegara a millones de floridanos”.

La demanda civil presentada en un tribunal de circuito de Florida hace referencia a dos tiroteos separados en los que se informó que los tiradores al parecer le habían hecho preguntas a ChatGPT mientras planeaban sus crímenes. OpenAI afirmó en un comunicado que sus modelos alentaron repetidamente a las personas a buscar apoyo en el mundo real, incluso de profesionales de salud mental. La empresa también dijo que ha cooperado con las fuerzas del orden en ambos casos.

“ChatGPT es una herramienta de propósito general utilizada por cientos de millones de personas todos los días para fines legítimos”, dice un comunicado de OpenAI. "Trabajamos continuamente para fortalecer nuestras salvaguardas para detectar intenciones dañinas, limitar el uso indebido y responder adecuadamente cuando surgen riesgos de seguridad”.

En abril, Uthmeier abrió una investigación penal sobre OpenAI por si ChatGPT ofreció consejos a un tirador que mató a dos personas e hirió a otras seis el año pasado en la Universidad Estatal de Florida. Y en otro caso, los fiscales han dicho que el hombre acusado de matar a dos estudiantes de doctorado de la Universidad del Sur de Florida había preguntado a ChatGPT qué pasaría si un cuerpo humano se metiera en una bolsa de basura y se arrojara a un contenedor de basura, días antes de que desaparecieran.

La demanda sostiene que OpenAI y Altman priorizaron la rapidez de salida al mercado y las ganancias comerciales por encima de la seguridad de los usuarios, y desatendieron advertencias reiteradas de expertos tanto dentro como fuera de la empresa. Afirma que la compañía desplegó un producto que facilita y fomenta daños, incluidos el autolesionarse y la violencia, mientras aseguraba falsamente a los usuarios que era seguro.

También alega que ChatGPT recopila datos de menores sin supervisión parental significativa, así como provoca adicción conductual y daño cognitivo. La empresa también ha minimizado activamente errores peligrosos, según la demanda.

La ley de Florida prohíbe las prácticas comerciales desleales y defectuosas, señalaron funcionarios. La demanda sostiene que la conducta de OpenAI causa un daño continuo a los floridanos y exige rendición de cuentas.