por Colin Lecher
Los adolescentes de California tendrán prohibido el acceso a productos de redes sociales considerados “adictivos” y enfrentarán límites en sus interacciones con chatbots, bajo dos de los 13 proyectos de ley promulgados por el gobernador Gavin Newsom para proteger a los menores en internet.
La ley dirigida a las funciones adictivas de las redes sociales se perfila como quizás la más controvertida. Obliga a las empresas de redes sociales a dejar de ofrecer herramientas de diseño “adictivas” —como el desplazamiento infinito y la reproducción automática— a usuarios menores de 16 años, o impedir por completo que esos jóvenes utilicen sus plataformas. Los partidarios sostienen que la legislación es vital para enfrentar una grave crisis de salud mental entre los adolescentes y obligar a las compañías de redes sociales a tomar medidas que durante mucho tiempo han evitado.
“Los padres no pueden competir. No pueden competir con la ingeniería, no pueden competir con los algoritmos”, declaró Newsom durante una conferencia de prensa en la que anunció la legislación.
Organizaciones de derechos digitales, entre ellas la Electronic Frontier Foundation, pidieron que se vetara el proyecto, calificándolo de “bien intencionado, pero profundamente defectuoso”, debido a que su amplia definición de “funciones adictivas” podría equivaler, en la práctica, a una prohibición total de las redes sociales para menores de 16 años, privándolos de información y experiencias importantes.
La medida que limita los chatbots de inteligencia artificial recibió un respaldo más amplio, incluido el apoyo del gigante tecnológico OpenAI. La nueva ley lleva el nombre del adolescente de California Adam Raine —quien murió por suicidio en 2025 después de recibir consejos de ChatGPT— e impone límites de tiempo a las interacciones de menores con chatbots de IA, exige recursos integrados de salud mental y requiere planes de seguridad. Si un chatbot detecta una amenaza de autolesión, los operadores deberán alertar a los padres. Creadores como OpenAI podrían enfrentar responsabilidad legal si no actúan.
La legislación surge en medio de una creciente preocupación entre padres y legisladores sobre las formas en que los menores pueden establecer relaciones con sistemas de inteligencia artificial cada vez más sofisticados. La muerte de Raine fue uno de varios incidentes que generaron interrogantes sobre cómo responden los chatbots cuando usuarios jóvenes hablan de angustia emocional, autolesiones u otras situaciones potencialmente peligrosas. California ya exige que los chatbots informen a los usuarios que están interactuando con inteligencia artificial y no con una persona.
La asambleísta Rebecca Bauer-Kahan, una de las autoras de la legislación sobre chatbots, dijo que las medidas reflejan preocupaciones que las familias están enfrentando directamente. Señaló que los padres que crían adolescentes están observando de primera mano los efectos de la crisis de salud mental juvenil.
OpenAI señaló que la legislación “combina fuertes protecciones con el acceso continuo a herramientas útiles de inteligencia artificial”.
El paquete de 13 proyectos de ley aprobados incluye varias otras medidas importantes relacionadas con la tecnología y la protección de los menores:
- Una establece responsabilidad legal para las compañías de redes sociales, haciéndolas responsables por daños si sus plataformas perjudican a un menor.
- Otra amplía y modifica los requisitos para verificar la edad de los usuarios.
- Una medida separada amplía las responsabilidades de las empresas para eliminar contenido de abuso infantil.
- Se impondrá una moratoria de cuatro años a los juguetes con chatbots impulsados por inteligencia artificial para menores de 16 años.
- A principios de la semana, Newsom promulgó proyectos de ley que establecen normas para auditores independientes de herramientas de inteligencia artificial y aclaran las regulaciones para empresas que operan productos “que probablemente sean utilizados por menores”, impidiéndoles obligar a los niños a entregar sus datos como condición para utilizar esos productos.
En conjunto, las medidas representan una importante ampliación de los esfuerzos de California para regular la manera en que las empresas tecnológicas diseñan y operan productos utilizados por menores. Las leyes se enfocan no solamente en lo que los jóvenes pueden acceder en internet, sino también en cómo están diseñadas las plataformas para mantener a los usuarios conectados y cómo responden las compañías cuando su tecnología detecta comportamientos potencialmente peligrosos.
El impulso legislativo coincide con un creciente escrutinio legal sobre los efectos de los productos tecnológicos en la salud mental de los jóvenes. En una importante demanda presentada por varios estados, se acusó a Meta de perjudicar deliberadamente la salud mental de los adolescentes mediante funciones como el desplazamiento infinito. Al comenzar el juicio, Meta aceptó un acuerdo de hasta $17 mil millones, una parte del cual está destinada a programas de salud mental para jóvenes.
El acuerdo también exige que Meta modifique sus productos, limitando los “Me gusta” en las cuentas de menores de edad y suspendiendo las notificaciones durante el horario escolar.
Nota del editor: Editado por extensión con información de contexto adicional.
