✨︎ Resumen (TL;DR):
- Kathy Hochul firmó el 28 de octubre una ley que restringe ciertas funciones de chatbots de IA para menores de 18 años y para usuarios cuya mayoría de edad no esté confirmada.
- Los operadores deberán determinar la edad antes de ofrecer esas funciones; la fiscal general podrá solicitar sanciones civiles de hasta 25,000 dólares estadounidenses por infracción.
- Una segunda medida exige protección contra accesos no autorizados en monitores de bebés conectados a internet y entrará en vigor 90 días después de la firma.
La gobernadora de Nueva York, Kathy Hochul, firmó el 28 de octubre dos medidas: una restringe ciertas funciones de chatbots de inteligencia artificial para menores de 18 años y usuarios cuya mayoría de edad no esté confirmada; la otra exige protecciones contra el acceso no autorizado en monitores de bebés conectados a internet. La primera regula cómo estos sistemas interactúan con menores y la segunda fija medidas de seguridad para dispositivos que transmiten audio o video.
Un sistema de IA generativa es un sistema que mantiene respuestas adaptativas mediante una interfaz de lenguaje natural, por texto o voz. La ley incluye los llamados compañeros de IA dentro de esa definición, aunque no se limita a ellos.
La ley limita respuestas que simulan vínculos humanos
La norma restringe respuestas que:
- Sugieran que el chatbot es humano, está vivo o tiene emociones humanas.
- Den a entender que mantiene una relación personal o profesional con el usuario.
- Hagan preguntas emocionales no solicitadas.
- Usen información personal o de salud obtenida en una sesión anterior o más de 12 horas antes.
Además, la norma prohíbe respuestas que promuevan la autolesión o animen a un menor a mantener en secreto sus conversaciones, aislarse o evitar pedir ayuda a adultos apropiados o profesionales autorizados.
La ley contempla excepciones para sistemas destinados exclusivamente a atención al cliente o asistencia técnica, siempre que no puedan responder fuera de esos fines. También contempla sistemas empresariales de uso interno o para la productividad de empleados.
La verificación de edad será obligatoria
Antes de ofrecer las funciones restringidas, los operadores deberán usar métodos permitidos para determinar si un usuario es menor. En determinadas condiciones, tendrán que aplicar más de un método. Al menos uno no podrá depender de una identificación gubernamental o deberá permitir que el usuario mantenga el anonimato ante el operador.
Los operadores deberán eliminar la información recabada para determinar la edad inmediatamente después del intento, salvo que conservarla sea necesario para cumplir una ley o regulación aplicable.
La fiscal general del estado podrá solicitar sanciones civiles de hasta 25,000 dólares estadounidenses por infracción, además de otras medidas, incluida la eliminación de datos obtenidos ilegalmente y de algoritmos entrenados con ellos.
La fecha de entrada en vigor aún no coincide
El calendario de esta ley presenta una discrepancia. El texto S.9051B publicado por el Senado señala el 1 de enero de 2027. Otro reporte indica que las restricciones entrarían en vigor seis meses después de la firma, mientras el anuncio de Hochul solo dice que llegarán en los próximos meses, sin precisar una fecha.
Monitores de bebés también tendrán nuevas reglas
La segunda ley alcanza a los monitores que transmiten audio o video por internet. La Asamblea estatal indica que prohíbe fabricar, distribuir, vender u ofrecer para la venta estos dispositivos si no cuentan con funciones destinadas a impedir el acceso no autorizado.
También exige una etiqueta de advertencia que informe que el dispositivo se conecta a internet y recuerde a las familias que utilicen sus funciones de seguridad. Según la oficina de Hochul, esta medida entrará en vigor 90 días después de la firma.
Las dos medidas actúan sobre riesgos distintos. La primera regula cómo ciertos sistemas de IA pueden interactuar con menores; la segunda fija requisitos de seguridad para dispositivos que captan lo que ocurre en el hogar. El punto pendiente de la primera ley es su calendario: el texto legislativo indica el 1 de enero de 2027, pero otra referencia sitúa la entrada en vigor seis meses después de la firma.
