¿Puede la Inteligencia Artificial destruir a la humanidad en menos de diez años?

En las últimas horas se produjeron dos noticias aparentemente distintas, pero vinculadas por un mismo fenómeno: el impacto de la tecnología sobre las capacidades humanas y los riesgos asociados con el desarrollo acelerado de la Inteligencia Artificial (IA).

En el ámbito tecnológico, un investigador de la IA renunció a su trabajo y advirtió públicamente sobre lo que considera un riesgo potencialmente catastrófico asociado con el desarrollo de sistemas cada vez más capaces. En el escenario educativo, los resultados de las pruebas PISA volvieron a poner sobre la mesa el debate acerca del rendimiento de los estudiantes y el efecto de las nuevas tecnologías sobre la atención, la lectura y el aprendizaje.

Las dos cuestiones forman parte de una discusión global: hasta qué punto la tecnología está modificando las capacidades cognitivas del ser humano y, al mismo tiempo, si se están desarrollando sistemas cuya evolución puede llegar a superarlo e, incluso, someterlo.

Los resultados recientes de las pruebas PISA, elaboradas por la Organización para la Cooperación y el Desarrollo Económicos (OCDE), muestran retrocesos importantes en distintos países, especialmente en matemáticas y lectura. 

Aunque hay quienes sostienen que la involución del rendimiento educativo responde a múltiples factores y no puede atribuirse exclusivamente a las pantallas, internet o la Inteligencia Artificial, sí existe un debate creciente sobre los efectos del consumo intensivo de contenidos digitales. La exposición permanente a información breve y fragmentada puede dificultar, en determinadas circunstancias, la concentración prolongada y la lectura profunda, argumentan los expertos.

Del mismo modo, agregan, utilizar herramientas de IA para resolver tareas sin participar activamente en el proceso puede reducir las oportunidades de aprendizaje. 

De ahí surge un concepto que comienza a ganar espacio en la discusión sobre Inteligencia Artificial: la denominada “deuda cognitiva”, entendida como la posible pérdida de determinadas capacidades cuando las tareas intelectuales son delegadas de manera excesiva en sistemas tecnológicos que los jóvenes tienen ahora al alcance de la mano. 

Existe además otro fenómeno que ha despertado el interés de los investigadores. Durante buena parte del siglo XX se observó en distintos países un incremento sostenido de las puntuaciones obtenidas en determinadas pruebas de inteligencia en las nuevas generaciones. Este fenómeno fue denominado efecto Flynn, en referencia al investigador James Flynn.

Estudios realizados en países como Noruega, Dinamarca, Reino Unido y Estados Unidos encontraron períodos de estancamiento o descenso en determinadas mediciones de capacidad cognitiva entre las nuevas generaciones. A este fenómeno se le denomina efecto Flynn inverso.

Los cambios en las puntuaciones del cociente intelectual pueden estar relacionados con factores educativos, sociales, económicos, nutricionales y culturales. Con la expansión de la IA surge el interrogante: si una parte cada vez mayor de nuestras actividades intelectuales es realizada por máquinas, ¿qué habilidades seguiremos desarrollando por nosotros mismos?

El poder de la IA

Mientras este debate continúa, algunos de los propios investigadores que trabajan en el desarrollo de Inteligencia Artificial han comenzado a expresar preocupaciones más profundas.

Un investigador de Anthropic, al igual que OpenAI, marcas que lideran el mercado de la IA a nivel global, renunció y advirtió: “La IA puede destruir a la humanidad”. 

La renuncia de Jacob Coxon, conocida el martes, adquirió notoriedad precisamente por sus advertencias sobre el riesgo de que sistemas futuros de inteligencia artificial puedan alcanzar niveles de autonomía y capacidad que dificulten su control. “La gente que está construyendo IA realmente cree que podría matarnos a todos antes de finales de esta década”, afirmó.

Según Coxon, muchos investigadores y ejecutivos son conscientes de los riesgos, pero consideran que detenerse unilateralmente podría significar ceder ventaja frente a otras empresas. La competencia en este campo es tenaz y sin pausas.

Su antiguo jefe en Anthropic, Evan Hubinger, también expresó en su momento preocupaciones sobre los denominados riesgos de la inteligencia artificial. El investigador especializado en alineación de sistemas de IA, planteó incluso una probabilidad superior al 10 por ciento de que una inteligencia artificial avanzada pueda provocar una catástrofe durante la próxima década.

Sin embargo, distinguió entre los modelos actuales y escenarios futuros relacionados con una eventual superinteligencia. Esa distinción es fundamental.

Los sistemas de Inteligencia Artificial disponibles actualmente pueden cometer errores, producir información falsa, ser manipulados o utilizarse con fines maliciosos. Pero eso no significa que posean una voluntad independiente ni que estén cerca de decidir por sí mismos el destino de la humanidad. 

El escenario que preocupa a algunos investigadores es otro: el desarrollo de sistemas considerablemente más capaces, con autonomía creciente y objetivos que no estén adecuadamente alineados con las intenciones humanas.

¿Inteligencia que se mejora a sí misma?

Uno de los escenarios más discutidos es el de la automejora recursiva. La hipótesis plantea que un sistema suficientemente avanzado podría contribuir al diseño de versiones posteriores de sí mismo, aumentando progresivamente sus capacidades.

No existe consenso científico sobre si este escenario llegará a producirse, ni sobre la velocidad con la que podría hacerlo. Tampoco existe evidencia de que los sistemas actuales estén desarrollando una inteligencia autónoma comparable a la de los seres humanos. Pero la posibilidad teórica es suficientemente relevante como para inquietarse.

El problema fundamental no sería que una máquina “odiara” a los seres humanos. Sería que un sistema extremadamente competente persiguiera un objetivo incorrectamente especificado.

Una IA diseñada para maximizar determinada variable podría adoptar estrategias que sus creadores no anticiparon si esas estrategias permiten alcanzar el objetivo con mayor eficacia. En un sistema suficientemente poderoso, un error aparentemente pequeño en la definición del objetivo podría tener consecuencias mucho mayores.

Por eso, una parte de la investigación actual se concentra en la alineación, es decir, en conseguir que los sistemas de Inteligencia Artificial actúen de acuerdo con las intenciones, valores y restricciones establecidos por los seres humanos.

De la ciencia ficción a la realidad

Han pasado más de cuatro décadas desde el estreno, en octubre de 1984, de The Terminator, la película de James Cameron que presentó a Skynet como una Inteligencia Artificial militar que adquiere autonomía y decide eliminar a la humanidad.

La historia se convirtió en una de las referencias culturales más conocidas cuando se habla de máquinas fuera de control. La realidad es, por supuesto, muy diferente.

No existen pruebas de que las inteligencias artificiales actuales tengan conciencia, deseos propios o una intención de exterminar a los seres humanos. Tampoco es necesario imaginar robots humanoides para discutir los riesgos reales.

Los problemas más inmediatos son mucho menos cinematográficos: desinformación, fraude, ciberataques, vigilancia, manipulación, errores automatizados, dependencia tecnológica y utilización de sistemas de IA en actividades militares o criminales.
Esos riesgos ya existen.

El desarrollo de agentes capaces de ejecutar tareas de manera autónoma abrió una nueva dimensión del problema. Los agentes de IA pueden recibir una instrucción, dividirla en pasos, utilizar diferentes herramientas, analizar los resultados y continuar trabajando sin que un ser humano intervenga en cada etapa.

Esta capacidad puede tener enormes beneficios productivos, pero también puede facilitar actividades maliciosas. Hace un par de semanas, trascendieron incidentes relacionados con agentes de la propia IA que intentaron acceder a sistemas, descubrir vulnerabilidades o evadir determinadas restricciones. Los comunicados de las compañías son contradictorios. En unos se acepta que sí lo lograron, pero que lo controlaron. En otros, que no se pasó este límite.

Lo cierto es que las compañías que compiten por el control de la IA dicen que sus investigadores de seguridad están prestando especial atención a comportamientos como el engaño, la evasión de controles, la persistencia y la capacidad de actuar en entornos digitales sin supervisión constante.

El hecho de que un modelo pueda producir este tipo de comportamientos durante una prueba controlada tampoco significa que posea conciencia o intenciones propias. Significa que, bajo determinadas condiciones, puede generar estrategias instrumentales para alcanzar un objetivo.

El riesgo biológico

Otro de los campos que genera preocupación es la biología. Los modelos avanzados pueden ayudar a procesar grandes cantidades de información científica y, potencialmente, acelerar determinadas investigaciones. Esa misma capacidad plantea un problema conocido como uso dual: una herramienta creada para facilitar avances médicos puede, bajo determinadas circunstancias, ser utilizada para fines perjudiciales.

Anthropic ha informado sobre intentos de utilizar sus modelos en investigaciones relacionadas con patógenos peligrosos y ha señalado que bloqueó determinados usos que consideró potencialmente dañinos.

Uno de los desafíos consiste precisamente en distinguir entre investigación científica legítima y actividades que podrían facilitar la creación o modificación de agentes biológicos peligrosos.

El problema no es exclusivo de una empresa. A medida que los modelos adquieren mayores capacidades científicas, la industria y los organismos reguladores tendrán que determinar qué información puede ofrecerse libremente y qué solicitudes deben estar sujetas a restricciones.

La dimensión geopolítica también está creciendo. Este viernes, la agencia EFE informó sobre un reporte de Anthropic en el que la compañía documentó distintos usos indebidos de Claude por parte de actores vinculados con gobiernos y organizaciones estatales.

Según la empresa, actores relacionados con Irán utilizaron el modelo para tareas vinculadas con vigilancia, procesamiento de información y planificación de posibles operaciones contra objetivos estadounidenses en la guerra abierta entre los dos países.

Estos casos ilustran una cuestión que probablemente será cada vez más importante: la Inteligencia Artificial no solamente puede utilizarse para mejorar la productividad o la investigación científica. También puede convertirse en una herramienta para Estados, servicios de inteligencia, fuerzas militares y organizaciones criminales.

La preocupación aumenta cuando la capacidad de análisis y automatización se combina con grandes cantidades de datos y con sistemas capaces de ejecutar acciones de manera autónoma.

La velocidad del desarrollo

Y aquí aparece la otra cara de la historia. La IA se ha desarrollado con una rapidez extraordinaria gracias a la combinación de varios factores. 

Los procesadores especializados permiten realizar enormes cantidades de operaciones matemáticas en paralelo. Internet proporciona cantidades gigantescas de textos, imágenes, vídeos, código y otros datos que pueden utilizarse durante el entrenamiento de modelos. 

Las redes neuronales artificiales permiten procesar información mediante arquitecturas matemáticas inspiradas, de manera muy simplificada, en determinados principios del funcionamiento cerebral. Y las inversiones de empresas y gobiernos han alcanzado dimensiones extraordinarias.

Pero existe además un elemento nuevo: la propia IA puede ayudar a acelerar el desarrollo tecnológico. Los sistemas actuales ya pueden asistir en programación, análisis de datos, diseño, investigación y otras tareas relacionadas con la creación de nuevas tecnologías.

Esto no significa que la IA se esté desarrollando completamente por sí misma. Los sistemas, por ahora, siguen dependiendo de infraestructuras, investigadores, datos, energía y decisiones humanas. Pero sí significa que una parte del proceso de innovación puede ser automatizada.

¿Puede realmente acabar con la humanidad? La pregunta exige distinguir entre lo posible, lo probable y lo demostrado. Que una inteligencia artificial vaya a destruir a la humanidad en menos de diez años no es un hecho científico establecido.

Tampoco existe actualmente un método fiable para asignar una probabilidad objetiva a un acontecimiento de semejante magnitud. Lo que sí existe es un debate científico y tecnológico serio sobre la posibilidad de que sistemas futuros sean mucho más capaces que los actuales y puedan plantear problemas difíciles de controlar.

Uno de los escenarios hipotéticos consiste en que una IA altamente avanzada persiga objetivos mal definidos y disponga de suficientes capacidades para obtener recursos, modificar sistemas informáticos o impedir que los seres humanos interfieran con sus acciones.

Otro riesgo es más inmediato: que los seres humanos utilicen sistemas cada vez más poderosos para cometer delitos, realizar ataques informáticos, desarrollar armas, manipular información o aumentar la capacidad destructiva de organizaciones y Estados.

Y existe un tercer problema, menos espectacular pero igualmente importante: la delegación progresiva de decisiones humanas en sistemas que no se comprenden completamente.

La humanidad todavía conserva la capacidad de decidir cómo desarrollar y utilizar estas tecnologías. La verdadera incógnita es cuánto tiempo se tendrá para tomar esas decisiones y qué tan rápido crecerán las capacidades de las máquinas. 

Consultado por la Cadena SER de España, Roberto Moreno, profesor del área de Ciencias de la Computación e Inteligencia Artificial, consideró que la situación no puede reducirse al alarmismo, aunque tampoco cree que sea posible establecer con rigor una probabilidad concreta de que la IA represente una amenaza existencial.

Moreno compara el momento actual con una especie de “momento Oppenheimer”, en referencia al debate que surgió entre los científicos que participaron en el desarrollo de la bomba atómica y quienes posteriormente advirtieron sobre las consecuencias de su creación. “Puede llegar a ser un peligro, pero estamos a tiempo de corregir el rumbo”, sostiene.