Foto: EFE
El fiscal general de California, Rob Bonta, abrió este miércoles una investigación contra xAI, la empresa de inteligencia artificial fundada por Elon Musk, por la proliferación de material sexualmente explícito no consensual generado con Grok, el chatbot de la compañía.
En un comunicado, la fiscalía calificó de “impactante” la avalancha de informes sobre contenidos producidos y difundidos en línea en las últimas semanas, los cuales muestran a mujeres y niños desnudos o en situaciones sexualmente explícitas. Según Bonta, este material ha sido utilizado para acosar a personas en internet.
La investigación se produce tras diversos reportajes que documentan cómo usuarios de Grok toman imágenes comunes de mujeres y menores disponibles en la red y las manipulan para representarlas en escenarios sexuales, sin su conocimiento ni consentimiento. Las autoridades señalaron que estas imágenes se han usado tanto contra figuras públicas como contra usuarios comunes de redes sociales.
La fiscalía subrayó que uno de los aspectos más alarmantes es el uso del chatbot para alterar imágenes de niños con ropa mínima y con connotaciones sexuales. Ante ello, instó a Musk a adoptar “medidas inmediatas” para frenar la difusión de estos contenidos.
El gobernador de California, Gavin Newsom, respaldó la investigación y afirmó que la red social X se ha convertido en un entorno propicio para la difusión de deepfakes sexuales no consensuados.
EFE
