Imagen vía CANVA
La gobernadora de Nueva York, Kathy Hochul, promulgó este miércoles una ley que restringe el uso de chatbots de IA a menores, una medida que abarca a la mayoría de chatbots disponibles en el mercado.
Previamente otros estados, California, aprobaron leyes que regulan la interacción con este tipo de sistemas de IA generativa, que simulan una conversación con los usuarios como si se tratara de un acompañante, pero Nueva York acaba de establecer un margen de aplicación tan amplio.
La legislación obliga a los operadores de chatbots a verificar la edad de sus usuarios y a desactivar determinadas funciones cuando se determine que la persona es menor de edad. Entre otras disposiciones, prohíbe que los sistemas generen contenido que dé a entender que son humanos, que están vivos o que experimentan sentimientos propios de las personas.
La norma también establece que los chatbots no deben presentar sus conversaciones con usuarios menores como una relación personal o profesional, ni asumir el papel de una figura de referencia para ellos.
Asimismo, las respuestas de estos sistemas no podrán presentarse como opiniones personales ni incluir preguntas sobre los sentimientos o el estado psicológico del menor, de acuerdo con las disposiciones descritas en la ley.
Tech:NYC, organización que representa a empresas del sector tecnológico en Nueva York, criticó la normativa por considerar que su redacción es imprecisa y podría generar dudas sobre su compatibilidad con la Primera Enmienda de la Constitución de Estados Unidos, que protege la libertad de expresión.
OpenAI se sumó a las objeciones expresadas por la organización.
Las críticas se centran en el alcance de las restricciones y en cómo podrían aplicarse a las respuestas generadas por los sistemas de inteligencia artificial.
En contraste, Common Sense Media, organización que informa a las familias sobre productos mediáticos y tecnológicos dirigidos a niños y adolescentes, celebró la aprobación de la ley. Su director, Jim Steyer, afirmó que Nueva York había hecho historia y calificó la legislación como la más sólida del país en materia de seguridad de la inteligencia artificial para menores.
La norma se incorpora al debate nacional sobre cómo establecer medidas de protección para niños y adolescentes frente a los riesgos de los chatbots, sin dejar de lado las preocupaciones sobre la libertad de expresión y el alcance de la regulación tecnológica.
