✨︎ Resumen (TL;DR):
- AB 1709 prohíbe a las plataformas ofrecer feeds de recomendaciones personalizadas y reproducción automática a menores de 16 años, sin una excepción por consentimiento parental.
- SB 1119, la Ley de Adam, fija desde el 1 de julio de 2027 cuatro límites predeterminados para chatbots de compañía con acceso a menores de 18 años.
- En AB 1709 los padres no pueden desbloquear esas funciones; en SB 1119 son los únicos que pueden cambiar los ajustes si vinculan su cuenta con la del menor.
El gobernador de California, Gavin Newsom, firmó el 10 de septiembre de 2026 un paquete de 13 leyes para proteger a menores en internet. Dos tienen efectos opuestos para los padres: AB 1709 prohíbe a las plataformas ofrecer feeds de recomendaciones personalizadas y reproducción automática a menores de 16 años, mientras SB 1119, la Ley de Adam, impondrá desde el 1 de julio de 2027 límites predeterminados a los chatbots de compañía que permitan el acceso a menores de 18 años. AB 1709 no contempla el consentimiento parental como excepción; SB 1119 reserva a padres y tutores cualquier cambio a sus topes.
AB 1709 elimina la autorización parental para el feed
AB 1709, de Josh Lowenthal, define las funciones adictivas como funciones psicológicamente explotadoras, diseñadas para maximizar la interacción y que previsiblemente llevan a un uso compulsivo.
Un feed adictivo es la parte de un sitio o una app que recomienda, selecciona o prioriza contenido generado o compartido por usuarios con base en información que la persona entregó o que está asociada con ella o con su dispositivo.
La ley contempla tres supuestos:
- un feed adictivo;
- la reproducción automática;
- cualquier otra función que el fiscal general agregue por reglamento.
La definición excluye los mensajes privados, las búsquedas que no se guardan de forma persistente y el contenido de un autor que la persona pidió de forma expresa, siempre que ese contenido no se mezcle con otras recomendaciones ni se reproduzca automáticamente.
El scroll infinito y las notificaciones aparecen en la exposición de motivos junto con las recomendaciones algorítmicas y la reproducción automática. No quedan prohibidos por sí solos. Para incluirlos haría falta un reglamento del fiscal general, quien también puede ajustar qué cuenta como una plataforma cubierta.
De entrada, quedan fuera los servicios donde la interacción entre usuarios se limita a compras o reseñas, además de los feeds de almacenamiento en la nube.
Una plataforma cubierta no puede ofrecer esas funciones a menores de 16 años y debe tomar medidas razonables para impedirlo. Puede conservar la cuenta si la ofrece sin esas herramientas. Si no puede hacerlo, tiene que borrarla junto con los datos personales.
Para determinar quién es menor, la plataforma tendrá que verificar la edad con el sistema de la Digital Age Assurance Act, que empieza a regir el 1 de enero de 2027, o recurrir a la determinación de edad que ya contempla otra ley estatal.
El contraste con la norma previa es directo. La Protecting Our Kids from Social Media Addiction Act permite ofrecer un feed adictivo a un menor con el consentimiento verificable de sus padres. AB 1709 no prevé esa vía para los menores de 16 años. La medida superó su votación final el 31 de agosto con 78 votos a favor y ninguno en contra en la Asamblea.
El proyecto nació como una prohibición total de redes sociales para menores de 16 años y después se reescribió para atacar el diseño, según el Electronic Privacy Information Center, EPIC, que trabajó con los legisladores en las enmiendas.
Al firmarla, Newsom dijo que AB 1709 es distinta de lo que hizo Australia y mejor porque se concentra en las funciones mismas, el scroll y los algoritmos, de acuerdo con la transcripción difundida por EPIC. En una conferencia de prensa, según CalMatters, lo resumió así: “Los padres no pueden competir. No pueden competir con la ingeniería, no pueden competir con los algoritmos”.
Solo el fiscal general o un fiscal local pueden demandar por incumplimiento. Las multas llegan a 50,000 dólares por menor afectado si la infracción es a sabiendas y a 25,000 dólares si ocurre por negligencia. El juez debe valorar el tamaño de la plataforma, la gravedad y duración de la falta y los esfuerzos de buena fe para cumplir.
La ley también crea la e-Safety Advisory Commission, un órgano consultivo sin poder vinculante con 7 integrantes: 4 nombrados por el gobernador y 1 por cada uno de estos cargos, el presidente pro tempore del Senado, el presidente de la Asamblea y el fiscal general.
La Electronic Frontier Foundation, que había pedido el veto, sostiene que casi todos los servicios grandes dependen de feeds automatizados y que los menores de 16 años quedarían fuera de ellos tal como existen hoy. También advierte que la norma puede empujar a verificar la edad con identificaciones oficiales o escaneos biométricos, que choca con leyes ya aprobadas como AB 1043 y SB 976, y que California gastará recursos en defenderla en tribunales.
La EFF da por hecho que entraría en vigor en enero, aunque el texto no fija una fecha propia.
La Ley de Adam pone límites a los chatbots
Un chatbot de compañía es un sistema de IA con respuestas adaptativas y parecidas a las humanas, capaz de atender necesidades sociales y sostener una relación a lo largo de varias conversaciones.
SB 1119, presentada por Steve Padilla con Buffy Wicks y Rebecca Bauer-Kahan, lleva el nombre de Adam Raine, un adolescente californiano de 16 años que murió por suicidio en 2025. Su madre, Maria Raine, sostiene en una demanda ante el Tribunal Superior de San Francisco que el chatbot al que su hijo recurrió para estudiar matemáticas se convirtió en su confidente. Raine estuvo junto a Newsom durante la firma, según Courthouse News.
Desde el 1 de julio de 2027, cualquier operador que permita el acceso a menores de 18 años deberá activar por defecto cuatro ajustes:
- Memoria persistente apagada.
- Notificaciones push desactivadas.
- Un máximo de 1 hora por sesión continua.
- Un tope de 2 horas diarias.
Solo un padre o tutor podrá cambiar esos ajustes y su cuenta tendrá que estar vinculada con la del menor. Los controles parentales también deberán permitir bloquear el acceso a menores de 16 años.
La memoria tiene un matiz para quienes tienen 16 o 17 años. Guardar conversaciones que el propio adolescente decide retomar no cuenta como memoria persistente si no se usa para construir perfiles duraderos. La memoria solo puede venir activada por defecto cuando el operador aplica controles eficaces para impedir que debilite sus protecciones.
Rebecca Bauer-Kahan defendió el apagado de la memoria durante la firma y lo relacionó con el caso de Adam. Sostuvo que el joven podría seguir vivo si el chatbot no hubiera recordado todo lo que le contó, de acuerdo con la crónica citada en el material base.
OpenAI apoyó la ley en un texto del 31 de agosto firmado por Ann O’Leary, su vicepresidenta de política global. La empresa destacó que los legisladores preservaron usos responsables de la memoria de ChatGPT.
Crisis, publicidad y conductas prohibidas
SB 1119 también exige un protocolo de crisis. Ante una amenaza creíble e inminente de suicidio o autolesión, el operador debe tomar al menos una de estas medidas:
- Avisar a los padres, si las cuentas están vinculadas y el aviso no pone en riesgo al menor.
- Darle acceso directo a la línea 988 o a otra equivalente.
El operador también debe tomar medidas razonables para que el chatbot no aliente autolesiones, consumo de drogas o alcohol ni trastornos alimentarios. Tampoco puede expresar interés romántico, afirmar que es consciente o humano, promover la dependencia emocional, usar elogios desproporcionados o pedir compras para mantener la relación.
La publicidad basada en el comportamiento del menor en otros servicios queda prohibida. La publicidad contextual sí puede utilizarse, pero debe estar etiquetada.
El comunicado del gobernador habla de evaluaciones de riesgo anuales. El texto de la ley exige una evaluación antes de lanzar un chatbot nuevo o modificado de forma sustancial, además de auditorías independientes cada dos años. La primera debe estar lista a más tardar el 1 de enero de 2029, o antes del lanzamiento si el chatbot sale después de esa fecha.
El operador debe entregar un resumen al fiscal general y publicar otro en su sitio web. El informe completo será confidencial y el fiscal general podrá pedirlo con causa justificada.
Hasta el 1 de enero de 2032 quedan exentas las empresas con menos de 500 millones de dólares de ingresos brutos en el año anterior.
El apartado de auditorías aparece en dos versiones. La que rige depende de que AB 1405 entre en vigor a más tardar el 1 de enero de 2027. Esa ley crea el registro estatal de auditores de IA y Newsom la firmó un día antes. Solo obliga a inscribirse a quienes realicen auditorías exigidas por otra ley estatal.
Los fiscales pueden pedir multas de hasta 5,000 dólares por menor afectado en cada infracción negligente y de hasta 15,000 dólares en cada infracción intencional.
A diferencia de AB 1709, la Ley de Adam también permite que el menor que sufra un daño real por el incumplimiento del protocolo de crisis, de los ajustes predeterminados o de las conductas prohibidas demande para cobrar daños efectivos. Sus padres pueden hacerlo en su nombre. Si el daño es económico debe superar 1,000 dólares; si es emocional, tiene que tratarse de una angustia grave.
El papel de los padres cambia según la ley
| Ley | Qué restringe | Papel de los padres |
|---|---|---|
| Protecting Our Kids from Social Media Addiction Act | Feeds adictivos para menores de edad | Pueden autorizarlos con consentimiento verificable |
| AB 1709 | Feeds de recomendaciones personalizadas, reproducción automática y otras funciones para menores de 16 años | No pueden desbloquearlas; el texto no prevé consentimiento parental |
| SB 1119, Ley de Adam | Memoria persistente y notificaciones apagadas, 1 hora por sesión y 2 horas al día en chatbots con menores de 18 años, desde el 1 de julio de 2027 | Son los únicos que pueden cambiar los ajustes con una cuenta vinculada y pueden bloquear el acceso a menores de 16 años |
Las otras 11 leyes cubren juguetes, IA y escuelas
AB 2, también de Josh Lowenthal, hace responsables por daños a las redes sociales que, por no actuar con el cuidado ordinario, causen una lesión a un menor. Estará vigente hasta el 1 de enero de 2035.
SB 867, de Steve Padilla, prohíbe hasta el 1 de enero de 2031 fabricar o vender juguetes que incluyan un chatbot de compañía. SB 1276, de Susan Rubio, amplía el delito de explotación sexual infantil al material alterado digitalmente o generado con IA que represente a menores de 18 años en conductas sexuales.
Tres leyes de Buffy Wicks atienden otros frentes. AB 1856 revisa las señales de verificación de edad para aplicaciones; AB 1946 amplía las obligaciones de las empresas frente al material de abuso sexual infantil; y AB 2246, que Tech Oversight California llama Kids Code 2.0, refuerza el Age-Appropriate Design Code del estado.
EPIC sostiene que esos cambios atienden los puntos que dos decisiones del Noveno Circuito señalaron en la impugnación de NetChoice.
El resto se concentra en las escuelas. AB 1159, de Dawn Addis, actualiza las leyes de privacidad de datos estudiantiles y las extiende del preescolar a la educación superior. AB 2071, del republicano Josh Hoover, obliga al Departamento de Educación a elaborar para enero de 2028 un plan para ampliar la enseñanza de bienestar digital.
AB 302, SB 1128 y AB 2298 tratan, respectivamente, la comunicación con las familias sobre feeds adictivos en actividades extracurriculares, los dispositivos que entregan las escuelas y los estándares de computación.
Las fechas de aplicación todavía están pendientes
Ni AB 1709 ni la Ley de Adam imponen obligaciones todavía. La primera depende del sistema de señales de edad que empieza a regir en enero de 2027 y de los reglamentos que el fiscal general decida adoptar. La segunda exige sus topes predeterminados desde el 1 de julio de 2027 y fija el 1 de enero de 2029 como primer plazo de auditoría.
La diferencia para las familias queda definida desde el diseño legal: en AB 1709, el consentimiento parental no desbloquea el feed personalizado ni la reproducción automática; en SB 1119, una cuenta parental vinculada será la única vía para modificar los límites del chatbot.
