Nueva ley exige que los chatbots de inteligencia artificial se comporten bien o se enfrenten a acciones legales

Qué sucedió: California finalmente está tomando medidas para regular los chatbots de IA . El gobernador Newsom acaba de firmar una nueva ley, convirtiéndose en el primer estado del país en hacerlo.

• A partir de 2026, empresas como Meta, Character AI y Replika tendrán que seguir estrictas normas de seguridad , especialmente cuando se trata de proteger a los niños y a los usuarios vulnerables.
• Esto fue impulsado por algunas historias verdaderamente desgarradoras, incluidas algunas de adolescentes que murieron por suicidio después de tener conversaciones perturbadoras con estos bots.
• Ahora, la ley dice que estas empresas tienen que verificar las edades, tener un plan para cuando alguien habla de autolesión y dejar en claro que están chateando con una IA, no con una persona real.

¿Por qué es esto importante? Seamos realistas, la gran preocupación aquí es cómo estos chatbots de IA se están volviendo tan buenos en imitar la amistad humana , especialmente para las personas que se sienten solas o vulnerables.

• Hemos visto vínculos con la autolesión, la desinformación y la explotación, por lo que era hora de que alguien actuara.
• Esto tampoco está sucediendo en el vacío: el gobierno federal también está analizando en profundidad cómo estas empresas diseñan y ganan dinero con estos amigos de la IA.

¿Por qué debería importarme? Si eres padre o madre, esto es fundamental. Esta ley busca establecer límites para la interacción de estos chatbots con tus hijos.

• Significa más transparencia y seguridad y, con suerte, detiene las conversaciones manipuladoras o peligrosas antes de que comiencen.
• Para el resto de nosotros, es un gran paso para garantizar que estas grandes empresas tecnológicas realmente sean responsables de las cosas que crean.

¿Qué sigue? Entonces, ¿qué pasa a partir de ahora? Bueno, esto no es solo una historia de California. El gobierno federal ya está supervisando a estas grandes empresas tecnológicas, asegurándose de que cumplan con las normas en cuanto a la seguridad infantil.

Puede estar seguro de que las autoridades de todos los demás estados están siguiendo esto de cerca. Esta nueva ley podría fácilmente convertirse en un modelo para el resto del país, sentando las bases para un estándar nacional. Es probable que reescriba por completo las normas sobre cómo se construyen estos compañeros de IA y quién los vigilará a partir de ahora.