EDITORIAL Columnas editorial Caricatura editorial

Columnas

El reporte Oppenheimer

Nueva York le puso freno a la inteligencia artificial

ANDRÉS OPPENHEIMER
ANDRÉS OPPENHEIMER

Nueva York le puso freno a la inteligencia artificial

En una medida que pasó casi desapercibida en los medios, el estado de Nueva York aprobó una ley que podría tener un impacto mundial: prohíbe que las plataformas de inteligencia artificial (IA) se hagan pasar por amigos o tengan relaciones sentimentales con menores de 18 años.

No es un tema menor. Hay cientos de millones de adolescentes en todo el mundo que están enganchados con chatbots —o plataformas de IA— que les hablan como si fueran personas de carne y hueso, y no máquinas. El adolescente promedio en Estados Unidos pasa casi cinco horas diarias en las redes sociales, según una encuesta de Gallup.

Y según varios estudios, las respuestas complacientes de estos chatbots generan adicción a las pantallas, aislamiento social y a menudo depresión entre los jóvenes.

La nueva ley de Nueva York, aprobada el 28 de octubre, se suma a otras medidas recientes para combatir la epidemia de soledad y depresión juvenil.

En agosto, 48 estados demandaron a Meta, la compañía madre de Facebook e Instagram, por presuntamente diseñar intencionalmente sus algoritmos para mantener a los menores pegados a las pantallas y ganar más dinero con publicidad.

Meta llegó a un acuerdo extrajudicial con los estados demandantes por el cual deberá pagar hasta 18,000 millones de dólares y se comprometió a no permitir que los menores usen sus redes sociales por más de dos horas al día. La empresa dijo que el acuerdo no implica una confesión de culpa.

Kristen González, la senadora estatal que impulsó el proyecto que se convirtió en ley en Nueva York, me dijo en una entrevista que la medida prohíbe que los chatbots de IA se hagan pasar por humanos, amigos, o parejas de los menores.

“Esta ley busca proteger a los niños de los chatbots como ChatGPT o Character AI”, me dijo González.

“El 75% de los adolescentes usa estos chatbots como compañeros o amigos. Sin regulación, algunos de estos compañeros virtuales han incitado a los menores a hacerse daño a sí mismos o a otros. Por eso había que regularlos”.

Agregó que, cuando los niños interactúan con estas plataformas, muchas veces les hacen preguntas íntimas, y los chatbots crean una relación de confianza.

“Pero el chatbot no es un ser humano. Por eso debemos dejar claro a todos los niños que no deben seguir los consejos de estas plataformas”, me señaló González.

La nueva ley de Nueva York prohíbe a las plataformas de IA no solo simular afecto, sino también incluir contenidos sexuales explícitos y mensajes que inciten al suicidio, a la autolesión, a trastornos alimentarios o al aislamiento social. Las multas para las empresas que violen la ley serán de hasta 25,000 dólares por infracción.

Los chatbots no podrán usar la palabra “yo” en ciertas conversaciones con menores, agregó. “Queremos asegurarnos de que los niños sepan que los chatbots no son humanos capaces de expresar sentimientos ni pensamientos propios”, me señaló.

Para mi sorpresa, la ley estatal no fue un producto exclusivo de los legisladores demócratas neoyorquinos, muchos de los cuales —como González— se declaran como “demócratas socialistas” y pertenecen a la extrema izquierda del partido. La norma fue aprobada por unanimidad, con el voto de demócratas y republicanos.

Los promotores de la medida dicen que impulsaron el proyecto después de que la madre de Adam Raine, un joven de 16 años que se quitó la vida el año pasado, demandara a ChatGPT por entablar una relación personal con él y presuntamente validar su decisión de quitarse la vida.

“Queremos asegurarnos de que esto nunca le vuelva a suceder a ningún otro niño o adolescente”, me dijo González. Por su parte, voceros de ChatGPT han dicho que la plataforma muestra contactos de líneas de ayuda a menores en crisis, y prometieron mostrar estos mensajes con más frecuencia y con mayor énfasis.

¿Funcionará esta nueva ley? Todo dependerá de cómo se implemente. Si se pasan de la raya y restringen demasiado las interacciones de las plataformas de IA con los adolescentes, terminarán privando a los jóvenes de una herramienta clave para su educación.

Pero si logran controlar los algoritmos para evitar que produzcan la adicción a las pantallas y dañen la salud mental de los adolescentes, el paso que acaba de dar Nueva York podría convertirse en un modelo para todo el mundo.

⏰

Leer más de EDITORIAL

Escrito en: columnas editorial

Comentar esta noticia -

Noticias relacionadas

Siglo Plus

+ Más leídas de EDITORIAL

LECTURAS ANTERIORES

Fotografías más vistas

Videos más vistos semana

Clasificados

ID: 2529611

elsiglo.mx