La empresa de inteligencia artificial de Elon Musk demandó a un hombre por usar Grok para producir material de abuso sexual infantil. REUTERS/Manuel Orbegozo/File PhotoxAI, la empresa de inteligencia artificial de Elon Musk, demandó a un hombre por haber utilizado Grok, su inteligencia artificial, para generar material de abuso sexual infantil.Según el escrito judicial, el acusado “deliberada e intencionalmente utilizó Grok para eludir las salvaguardas, alterar imágenes sin consentimiento, y generar y distribuir material de abuso sexual infantil”, en violación de los términos de servicio de la compañía.PUBLICIDADLa demanda fue presentada el 14 de julio ante un tribunal federal en Texas. xAI afirma en la demanda que parte de las imágenes asociadas a los cargos penales fueron producidas con Grok. REUTERS/Dado Ruvic/Illustration/File PhotoHarwood fue arrestado en febrero por posesión y distribución de material de abuso sexual infantil y enfrenta ocho cargos penales. La demanda civil de xAI sostiene que “al menos algunas” de las imágenes vinculadas a esos cargos “fueron generadas o alteradas” con Grok, y que el acusado “abusó de la herramienta para convertir fotografías no sexuales en imágenes sexualmente explícitas” sin el consentimiento de las personas retratadas, entre ellas menores de edad.PUBLICIDADSegún la demanda, Harwood creó múltiples cuentas en xAI y empleó “instrucciones engañosas” para fabricar deepfakes explícitos de adultos y menores. La demanda alega que Harwood abrió varias cuentas en xAI y usó prompts diseñados para burlar los filtros y generar deepfakes explícitos. REUTERS/Dado Ruvic/Illustration/File Photo/File PhotoLa compañía alega que diseñó esas instrucciones con el propósito de “evadir” los sistemas de protección integrados en la plataforma para impedir la generación de contenido explícito con menores.PUBLICIDADEn el escrito judicial, xAI detalló el alcance de sus medidas internas: la compañía suspendió 52.222 cuentas y realizó 73.604 reportes al Centro Nacional para Menores Desaparecidos y Explotados (NCMEC, por sus siglas en inglés) durante 2026, lo que derivó en al menos 244 arrestos.La empresa solicitó al juez una orden que prohíba a Harwood de forma permanente crear cuentas en xAI o utilizar Grok, además de una compensación económica por daños no especificados. PUBLICIDADLa demanda también reclama el reembolso de “los gastos razonables en que incurra la empresa al defenderse en cualquier acción legal iniciada por una víctima de la conducta del demandado”.Elon Musk adviertío hace un tiempo a los usuarios sobre las consecuencias legales de emplear la inteligencia artificial Grok para producir contenido ilícito. (X: elonmusk)“Las acciones del demandado constituyeron un plan calculado para weaponizar la herramienta de la empresa con fines criminales, exponiendo a víctimas reales a un daño profundo y duradero, al tiempo que exponía a la empresa a un riesgo legal significativo y a daños reputacionales”, sostuvo xAI en la demanda.PUBLICIDADEn qué momento Grok realiza la demandaLa demanda llega tras meses de críticas internacionales a xAI por las capacidades de Grok para generar deepfakes sexualizados sin consentimiento. Tras incorporar un modo denominado “picante” y la función de edición de imágenes, el chatbot fue señalado por producir imágenes sexualizadas de menores. Musk respondió públicamente con una advertencia: “Cualquiera que use Grok para crear contenido ilegal sufrirá las mismas consecuencias que si subiera contenido ilegal”. La acción contra Harwood sería la primera vez que xAI concreta esa amenaza en los tribunales.PUBLICIDAD