NoticiaAnthropic anunció que Claude puede controlar computadoras directamente para ejecutar tareas. Foto: EFE11.09.2026 14:00 Actualizado: 11.09.2026 14:00 AGENCIA DE NOTICIAS11.09.2026 14:00 Actualizado: 11.09.2026 14:00
La empresa de inteligencia artificial Anthropic afirmó este jueves 10 de septiembre que ha frustrado varios posibles complots en los que se utilizaron sus modelos de inteligencia artificial (IA) para realizar investigaciones que podrían haber contribuido al desarrollo de armas biológicas.La compañía indicó en un informe que detectó y bloqueó estos usos indebidos durante este año, aunque no pudo determinar si los estudios tenían fines legítimos o maliciosos, por lo que optó por bloquearlos ante el riesgo de que sus modelos pudieran contribuir al desarrollo de patógenos peligrosos. LEA TAMBIÉN Comunicado de la empresa de IAAnthropic es una empresa emergente estadounidense de investigación y desarrollo de IA. Foto:Anthropic"Si bien las evaluaciones son útiles porque proporcionan evidencia de capacidad, no pueden demostrar concretamente que dicha capacidad se utilizaría alguna vez para desarrollar armas biológicas en el mundo real", explicó la empresa en el documento.Hasta el momento, la corporación californiana negó que tuviera constancia de que alguna empresa privada haya compartido públicamente "evidencia del posible mal uso de sus plataformas para el desarrollo de armas biológicas".Anthropic incluyó además en otro comunicado una extensa lista de casos detectados en los últimos ocho meses en los que se habían usado sus modelos de IA de manera indebida, incluido el chatbot Claude, en China, Rusia y Yemen. LEA TAMBIÉN Este informe surge entre crecientes preocupaciones de expertos en el sector tecnológico por el uso dual de la IA, ya que los modelos capaces de ayudar en investigaciones biológicas también pueden servir para actividades peligrosas, y también de voces que alertan de los peligros derivados de la creciente autonomía de estos modelos.La empresa tecnológica aseguró haber desarrollado sistemas de detección para identificar y bloquear los usos que puedan suponer un riesgo en sus modelos de IA.Advertencias de Google sobre las IAIA Foto:Imagen de referencia generada por IA.La multinacional Google ha alertado del cambio significativo en el uso malicioso de la inteligencia artificial (IA) y de que los ciberdelincuentes y grupos de espionaje ya están utilizando sistemas cada vez más autónomos y más rápidos, capaces por sí solos de planificar, automatizar y ejecutar un ataque.La empresa tecnológica ha dado a conocer un informe elaborado por el Grupo de Inteligencia sobre Amenazas de la empresa, en el que revela cómo los atacantes están utilizando de manera masiva la inteligencia artificial para optimizar sus operaciones y cómo los ciberdelincuentes están logrando sustraer valiosa propiedad intelectual relacionada con la IA. LEA TAMBIÉN El informe "AI Threat Tracker" ('Rastreador de Amenazas con IA') que ha elaborado un grupo de expertos de la empresa estadounidense se ha publicado un mes después de que la compañía OpenAI anunciara la paralización de su nuevo modelo (Astra) tras concluir que alcanzaba un nivel “crítico” en ciberseguridad, que era capaz de identificar y desarrollar vulnerabilidades y de planear ciberataques de forma autónoma.Los analistas de Google han concluido que los casos de uso de 'agentes' avanzados de IA han dejado de ser experimentales y ya no se limitan únicamente a la detección de vulnerabilidades, y han constatado los múltiples incidentes que se han dirigido contra modelos y sistemas basados en IA en los sectores tecnológico, sanitario y de medios de comunicación y entretenimiento en Norteamérica y Europa.Agencia EFE. Sigue toda la información de Tecnología en Facebook y Twitter, o en nuestra newsletter semanal.
