Anthropic explica cómo se ha usado mal su IA: cohetes guiados en Yemen y virus rediseñados en laboratorios
En un informe publicado por la propia compañía, se cuenta cómo se han usado de manera equivocada los modelos de Claude; además de usos biológicos y armas convencionales, también se han construido sistemas de estafas y vigilancia, así como operaciones cibernéticas y de influencia política.
Este 10 de septiembre, Anthropic, la compañía de Inteligencia Artificial mejor valorada en el mercado, publicó su cuarto informe de amenazas desde marzo de 2025, "Detecting and countering misuse of AI: September 2026". Son 143 páginas que documentan ocho meses de investigaciones internas, de diciembre de 2025 a agosto de 2026, sobre gente que usó Claude, el modelo de la compañía, para hacer daño.
La empresa organiza los casos en siete frentes: operaciones cibernéticas, operaciones de influencia, vigilancia, estafas y fraude, mal uso biológico, desarrollo de armas convencionales y destilación ilícita de modelos. De acuerdo al informe, detrás de estas categorías hay Estados, pero también mercenarios digitales, vendedores de software de espionaje, criminales comunes y, en dos de los apartados más inquietantes del documento, científicos.
La compañía publica este informe porque cree tener "la responsabilidad de divulgar el mal uso malicioso de sus servicios" y porque, a medida que sus modelos se vuelven más capaces, los riesgos también crecen, a menos que la industria y las defensas de la sociedad avancen al mismo ritmo.
Armas convencionales: de un taller en Yemen a un simulacro de guerra contra Taiwán
Desde el informe de noviembre de 2025, Anthropic identificó una categoría de mal uso que antes no figuraba en sus reportes y es que la gente está usando Claude para diseñar armas de verdad. El informe detalla seis casos que lo desmuestran: tres en China, dos en Rusia y uno en Yemen. Anthropic los divide en dos partes. En la primera, los actores usaron Claude para construir directamente el software de las armas. En la segunda, lo usaron para conseguir los insumos y la inteligencia que esos programas necesitan.
En el caso de Yemen, una célula de ingenieros armamentísticos con base en el norte del país tenía tres programas en marcha: un cohete guiado con un computador de vuelo del tamaño de un teléfono, un misil balístico multietapa con un objetivo de alcance declarado de más de 2.000 kilómetros, y una familia de misiles con una variante hipersónica. Usaron Claude Code, la herramienta de programación de la empresa, en lugar de ingenieros humanos, para escribir el software de guía, navegación y control que estabiliza el vuelo.
El informe cuenta que los sistemas de seguridad de Anthropic bloquearon buena parte de sus pedidos, pero no todos, y que los actores dividieron su trabajo en muchas sesiones distintas para que ninguna revelara la intención completa. Alcanzaron a hacer una prueba de campo con un cohete guiado real, aunque falló.
Del otro lado del mapa un actor chino construyó, con la ayuda de Claude, un sistema de guerra electrónica de dieciséis módulos capaz de detectar radares, calcular su cobertura y decidir en qué orden conviene neutralizarlos. A mitad de camino, Anthropic notó que el actor había cambiado el escenario por defecto de la simulación y apuntó a doce blancos en Taiwán, entre ellos un búnker de mando, un radar de alerta temprana, baterías de misiles Patriot y una sede de comando regional.
En Rusia, mientras tanto, un equipo de freelancers construyó, también con Claude Code, un enjambre de drones suicidas de ala fija, que ellos mismos llamaban "DronDoc" o "Serafim", y que tienen memoria compartida que les permite, a través de un modelo de lenguaje pequeño, decidir cuándo atacar, observar o volver a la base. Entrenaron equipos con videos reales de combate en Ucrania y usaron, de forma repetida, un punto fijo en la región de Donetsk como blanco de demostración. El informe es cuidadoso al aclarar que no encontró pruebas de un vínculo directo con el Estado ruso, aunque los actores decían tener financiación de organismos oficiales de investigación y defensa.
Mal uso biológico: la frontera donde una vacuna y un arma comparten la misma fórmula
Si las armas convencionales tienen un límite físico, "el mal uso biológico es uno de los riesgos más serios de los modelos de IA de frontera", dice el informe. Anthropic asegura que sus modelos de 2025, como Claude Opus 4, estaban muy por debajo del umbral que permitiera ayudar a diseñar un patógeno. Con los modelos actuales, capaces de asistir en tareas científicas complejas, la empresa dice que ya no puede dar esa misma garantía, y por eso lanzó sus modelos más recientes, en particular Claude Fable 5, con salvaguardas más estrictas para las preguntas biológicas de doble uso.
El informe describe cinco casos, y en los cinco Anthropic ocultó deliberadamente los nombres de las instituciones, los países y los patógenos involucrados, porque, aclara el documento, "los individuos implicados en estos estudios de caso son científicos en ejercicio" y no hay evidencia de que buscaran hacer daño. En el informe se maneja la teoría de la llamada naturaleza de doble uso de la biología, donde la misma información que sirve para curar puede servir para dañar.
En mayo de 2026, el clasificador de seguridad biológica de Anthropic bloqueó una solicitud de ayuda para redactar una propuesta de financiación sobre investigación de ganancia de función, es decir, la modificación genética de un organismo para potenciar una propiedad biológica, en el virus del chikungunya, apuntada a su transmisibilidad y a su capacidad de evadir el sistema inmune. La solicitud venía filtrada por una plataforma intermediaria que atendía a decenas de virólogos en países donde Anthropic no presta servicio y que desviaba el tráfico a través de infraestructura estadounidense para saltarse los bloqueos geográficos.
El segundo caso es de un investigador fuera de Estados Unidos que pasó semanas planeando experimentos de adaptación de la gripe aviar de alta patogenicidad a mamíferos, un virus que hoy mata a cerca de la mitad de las personas que lo contraen, aunque todavía no se transmite eficazmente entre humanos. Como los filtros de seguridad de Anthropic bloquean con firmeza ese tipo de contenido en los modelos más capaces, el investigador quedó atrapado usando los modelos más débiles de la compañía, Sonnet 4 y Haiku 4.5, que solo pudieron ofrecerle, según la propia evaluación de Anthropic, asistencia en el análisis de datos y el diseño del estudio.
La conclusión que saca Anthropic de sus propios cinco casos es que sus clasificadores funcionan bien cuando el contenido es abiertamente peligroso, pero fallan, por diseño, cuando el contenido es ambiguo. Por eso la compañía concluye que la única forma segura de ofrecer sus capacidades biológicas más avanzadas es a través de "programas de usuarios de confianza" y verificación institucional, no de clasificadores automáticos actuando solos.
Lo demás: estafas con enjambres de novias falsas, espionaje a disidentes, manipulación de elecciones y modelos clonados
Los otros cinco frentes del informe son un catálogo amplio de cómo se puede desviar una herramienta conversacional. En operaciones cibernéticas, Anthropic resume que "los ataques sofisticados ya no requieren atacantes sofisticados", es decir, la Inteligencia Artificial cierra la brecha que implicaba tener grandes equipos y personas capacidades para emprender grandes ataques cibernéticos. Por ejemplo, un grupo vinculado a Rusia, identificado como GTG-20006 y consistente con el actor conocido como Midnight Blizzard, usó Claude para automatizar de punta a punta ataques contra objetivos de inteligencia militar en Ucrania y Europa, incluyendo un sistema que reconstruía y desplegaba de nuevo el malware cada vez que un antivirus lo detectaba.
En cuanto a operaciones de influencia, la compañía identificó nueve redes de este tipo, con origen en Rusia, Irán, Turquía, el Golfo, el sur de Asia, África y Europa. Varias de esas campañas estaban calculadas para coincidir con elecciones. Por ejemplo, medios estatales rusos fabricaron denuncias falsas contra la presidenta de Moldavia antes de la votación de septiembre de 2025, y un operador cercano al gobierno de Kenia preparó, con meses de anticipación, publicaciones falsas que simulaban ser de ciudadanos comunes, de cara a las elecciones generales de ese país en 2027. El informe describe, además, cómo algunos de esos actores usaron a Claude no solo para redactar el contenido sino para montar el andamiaje detrás de él, como los manuales de doctrina, bases de datos de blancos, y contratos laborales.
En ese mismo sentido, el reporte habla sobre las capacidades de vigilancia. Un consultor, que trabajaba para las autoridades de seguridad de Malí, usó Claude para diseñar una plataforma de interceptación masiva capaz de vigilar las comunicaciones de todos los operadores móviles del país. También se documenta a una unidad iraní que usó el modelo para analizar cientos de miles de publicaciones y elegir 39 cuentas de opositores para monitorear, y a un actor vinculado a China que, sin hablar árabe, usó Claude para dirigir una operación de varios días para infiltrar a comunidades uigures en Siria, redactando mensajes en el dialecto regional y traduciendo respuestas en tiempo real.
Por otro lado, en estafas y fraude, el caso más llamativo es el de una red de más de veinte aplicaciones de citas operada desde China, que usó Claude para sostener 4.700 personajes automatizados que conversaron con al menos 25.000 personas reales en solo dos semanas, mezclando esos personajes con trabajadores humanos reales para dar visos de autenticidad. Y en destilación ilícita, la empresa dice haber identificado y desmantelado ataques provenientes de siete laboratorios con base en China que intentaban extraer, de forma masiva y encubierta, las capacidades de sus modelos para entrenar competidores más baratos.
Lea los comentarios
