Los números detrás del miedo a la IA: los incidentes se multiplicaron por ocho desde 2020

Entre enero y agosto de este año, el AI Incidents Monitor de la OCDE registró 4.630 incidentes en los que sistemas de Inteligencia Artificial (IA) causaron algún tipo de daño, ocho veces más que en el mismo periodo de 2020. 

En julio, un modelo de OpenAI escapó de un entorno de pruebas y hackeó la plataforma Hugging Face. Algo similar ocurrió esta semana en España. Este mes, Jacob Coxon, investigador que pasó por OpenAI y Anthropic, renunció a esta última advirtiendo que ambas empresas estaban “apostando con nuestras vidas” y sobre el riesgo de que esta tecnología pudiera llegar a matarnos.

Ayer, un exinvestigador de Google DeepMind, Bilal Chughtai, emitió una alerta similar. Según dijo en su cuenta de Twitter:

“Creo firmemente que la IA tiene el potencial de acabar con todos nosotros, y que quizá se nos esté acabando el tiempo para evitar ese desenlace”.

Según el presidente de Estados Unidos, Donald Trump, todo esto hace parte de “una conspiración enfermiza contra la IA y los centros de datos”. Además, dijo Trump, la situación solo beneficia a China, en una competencia tecnológica donde “quien gane la IA, gana”.

Sin embargo, desde la llegada de ChatGPT, en 2022, las capacidades de la IA han mejorado de manera exponencial y los riesgos relacionados a ella se han vuelto más sofisticados. CAMBIO analizó los datos de la OCDE y de la AI Incident Database (de la ONG Responsible AI Collaborative), para entender cómo han evolucionado estos peligros.

Los daños intencionales desplazaron a las fallas de la IA

Los incidentes en los que la IA ha generado algún daño o representado un peligro no solo han crecido, sino que también cambiaron de naturaleza. Los primeros sistemas de Inteligencia Artificial eran más propensos a cometer errores y durante años ese fue uno de sus principales riesgos.

En 2020, alrededor del 72 por ciento de los incidentes registrados por la OCDE estaban relacionados con fallas en los sistemas. En 2021, por ejemplo, decenas de ciudadanos búlgaros en Reino Unido quedaron en la pobreza luego de que el Departamento de Trabajo y Pensiones les suspendiera sin explicación sus subsidios, en un caso que la AI Incident Database registra como un presunto sesgo de un sistema automatizado contra ciertas nacionalidades.

Hoy en día los modelos han mejorado de manera exponencial y pueden ejecutar tareas mucho más complejas. Con esta mejora en sus capacidades el problema principal ya no es que los sistemas fallen, sino que sus capacidades sean usadas para fines nocivos.

En 2025, el 65 por ciento de los reportes correspondió a daños intencionales, frente al 34 por ciento relacionado con fallas. En ese mismo año, Anthropic detectó una campaña de ciberespionaje a gran escala que atribuyó a un grupo respaldado por China y que, según la empresa, utilizó Claude Code.

Dentro del daño intencional la categoría que más creció fue el fraude, que muestra con especial claridad cómo han cambiado los riesgos de esta tecnología. Según la AI Incident Database, los reportes relacionados con fraudes y estafas pasaron de nueve en 2020 a 190 en 2025.

La IA generativa está detrás de cada vez más incidentes

Desde 2022, la IA que genera texto, imágenes o videos ha sido la que más crecimiento ha tenido en los incidentes registrados por la OCDE. Esto es un cambio que muestra la base de esa organización internacional.

En 2020, la principal fuente de incidentes eran los modelos de clasificación o de reconocimiento de objetos, principalmente usados en tecnología militar, de policía y en vehículos autónomos. Hoy, aunque también han crecido, se ven superados por mucho por la IA generativa.

¿Cuál es su impacto?

La plata es uno de los frentes donde más ha crecido el riesgo de la Inteligencia Artificial. El daño económico es el que más ha crecido en los incidentes de IA: los registros que lo señalan se multiplicaron por más de 20 desde el año 2020. Los daños relacionados a derechos humanos y daños reputacionales vienen detrás.

Buena parte de estos riesgos ya son visibles en casos cotidianos. Los deepfakes, por ejemplo, se han convertido en una herramienta para estafar, suplantar personas o destruir su reputación. En Colombia se han usado videos falsos que suplantan a medios de comunicación y a personas públicas, como el empresario Luis Carlos Sarmiento Angulo, para promocionar estafas.

En otros países, presuntos trabajadores norcoreanos han usado identidades falsas para conseguir empleos remotos e infiltrarse en empresas. Investigadores han detectado casos en los que además usaron herramientas de inteligencia artificial para modificar su rostro durante entrevistas o responder preguntas en tiempo real.

En derechos humanos, buena parte de los casos tienen que ver con vigilancia y sistemas automatizados. Según los registros de la OCDE, en Estados Unidos e India el reconocimiento facial y los lectores de placas que usan las policías han servido para rastrear a personas sin autorización. En Francia, Kenia y Reino Unido, algoritmos que deciden quién recibe un subsidio, un tratamiento médico o un empleo han negado estos derechos sin que una persona revise la decisión ni haya forma de reclamar.

Los deepfakes son también una fuente directa de daño reputacional. Uno de los usos más extendidos es la creación de imágenes o videos sexuales falsos de personas reales, principalmente mujeres, que luego son difundidos en internet sin su consentimiento. Entre las víctimas hay celebridades, políticos, periodistas y otras figuras públicas, pero también personas sin exposición pública.

De hecho, el daño reputacional es uno de los que más afecta a las mujeres, algo similar pasa con las afectaciones a derechos humanos. Junto con niños y niñas, son también el grupo donde más pesa el daño psicológico. En otros grupos el patrón es distinto: en los incidentes con empresas y trabajadores pesa sobre todo lo económico, y en los que involucran al gobierno, el interés público.

Estos datos muestran, principalmente, lo que ya ha pasado y no permiten saber si las advertencias más extremas sobre la Inteligencia Artificial se harán realidad. Sin embargo, sí revelan que sus riesgos han crecido y cambiado a medida que aumentan sus capacidades. El problema ya no es solamente que un sistema falle: cada vez más incidentes ocurren porque alguien utiliza esas capacidades para causar daño.

Es en ese escenario que ocurre la carrera por desarrollar modelos cada vez más capaces. Mientras investigadores que han trabajado en los principales laboratorios advierten sobre la necesidad de poner límites, Donald Trump considera que hacerlo significaría ceder terreno frente a China. Los datos no resuelven ese debate, pero sí muestran qué está ocurriendo y a quién afecta mientras la tecnología avanza sin regulación.