“Mitigar el riesgo de extinción (de la humanidad) derivado la Inteligencia Artificia (IA)l debe ser una prioridad mundial junto con la mitigación de otros riesgos que amenazan a la sociedad como las pandemias o la guerra nuclear”.
Afirmar que la IA es tan peligrosa para el futuro de la humanidad como una guerra nuclear parece una exageración dicha por algunos ambientalistas radicales o por nostálgicos de un pasado pastoril que se oponen a las nuevas tecnologías. Lo sorprendente es que se trata de una declaración firmada por más de 600 de los expertos que han desarrollado la IA o la conocen muy bien, incluyendo a Bill Gates, al creador del famoso ChatGPT y a los presidentes de las tres compañías líderes en IA, OpenAI, DeepMind y Anthropic.
Estos expertos señalan cuatro grupos de riesgos catastróficos que tiene la IA: Su uso con fines malintencionados, la velocidad de su desarrollo que hace casi imposible controlarla, que se prioricen las utilidades sobre la seguridad y que la autonomía de la IA la lleve a tomar decisiones equivocadas. Estos riesgos están interconectados y “pueden amplificar otros riesgos existenciales como la creación de pandemias, guerras nucleares, totalitarismo o ciberataques a infraestructura crítica”.
Hace unas semanas analice la amenaza que puede representar la IA para los empleos y los ingresos de millones de personas, pero el peligro va mucho más allá del mercado laboral, impactando el funcionamiento de la sociedades tanto en sus sistemas democráticos como en las relaciones sociales por los cambios en la distribución de la riqueza.
Las amenazas para la democracia
Muchos analistas creen que la IA puede debilitar el tejido social y socavar los sistemas democráticos que aún existen en el mundo, imponiendo una especie de “algocracia”, que sería la forma de gobierno donde los algoritmos son los que toman las decisiones.
Le pregunte a los tres chats de IA más usados (Chat GPT, Gemini 1.5 y Copilot), que dirían de ellos mismos, sobre los riesgos que puede representar la IA para la democracia. Esta fue su respuesta con los principales riesgos que identificaron:
“1. Aumento de la Desigualdad Digital: La adopción desigual de la IA puede ampliar la brecha digital, dejando a algunos grupos socioeconómicos marginados y sin acceso equitativo a la participación política en línea .
2. Manipulación de la Opinión Pública: Los algoritmos de IA pueden ser utilizados para manipular la opinión pública y difundir propaganda política, socavando la integridad de los procesos democráticos.
3. Concentración del Poder: el desarrollo y la difusión de IA puede quedar concentrada en las manos de muy pocas corporaciones y gobiernos, lo que puede conducir a una nueva forma de tiranía.
4. Vulnerabilidad a Ataques Cibernéticos: Los sistemas de IA en la infraestructura electoral pueden ser vulnerables a ataques cibernéticos, comprometiendo la seguridad y la legitimidad de los resultados electorales.
5. Pérdida de Privacidad: El uso extendido de la IA en la política puede implicar una mayor vigilancia y recopilación de datos personales, erosionando la privacidad de los ciudadanos y generando preocupaciones éticas.
6. Barreras Éticas y Sesgos Algorítmicos: Los sistemas de IA pueden estar sujetos a sesgos algorítmicos y decisiones éticamente cuestionables, lo que puede conducir a la discriminación y a la injusticia en los procesos políticos y democráticos.”
Una mayor concentración de la riqueza
Según el estudio del FMI (Gen-AI: Artificial Intelligence and the Future of Work) la IA puede generar un importante aumento de la productividad y de la producción, pero un cambio mucho más pequeño en la distribución de los ingresos provenientes del trabajo: un aumento del Gini de los ingresos menor al 1% en los países donde hay una gran complementariedad de la IA con la mayoría de los empleos.
Por el contrario el impacto sobre la distribución de la riqueza si es significativo: en todos los escenarios el Gini de la riqueza tiene un impresionante aumento de alrededor de 7 puntos porcentuales, porque las mayores utilidades provenientes del uso de la IA se concentrar en unos pocos, que son los propietarios de las empresas desarrolladoras de IA, o de las que la usan con mayor intensidad, así como lo altos ejecutivos de las mismas. Con razón señala el estudio del FMI que este efecto puede ser aún mayor en países que ya hoy tienen una alta concentración de la riqueza, como sería el caso de Colombia.
El otro impacto que no se puede menospreciar es el de los cambios en la distribución del ingreso y la riqueza entre países, ya bastante desigual. Con la IA es posible que una parte de la producción de bienes que se había desplazado a países en desarrollo vuelva a los países industrializados (reshoring), lo cual impulsara el retorno de capitales y empleos a estos últimos. El caso más citado es el de los “call centers”.
En una nota final del estudio del FMI, que sorprende porque usualmente es poco atento a los aspectos políticos de sus recomendaciones, se alerta por las implicaciones de política económica: “La historia muestra que las presiones económicas pueden conducir a conflictos sociales y exigencias de cambios políticos. Garantizar la cohesión social es prioritario. Las políticas oficiales deben promover la integración ética y equitativa de la IA …”
La conclusión no puede ser impedir el desarrollo de la IA, lo cual no solo es imposible sino que implicaría prescindir de los aportes positivos que puede hacer la IA a la sociedad, a la economía y a la misma democracia, sino que el objetivo debe ser fortalecer la gobernanza mundial de la IA, creando instituciones públicas que la orienten al bien común.
Para ello se requiere una estrecha cooperación internacional para el desarrollo de marcos regulatorios apropiados para que las nuevas tecnologías funcionen con Apertura y Neutralidad, como sucede con Internet, se controlen los monopolios y los riesgos de seguridad. y se asegure que las innovaciones sean éticas, transparentes y reguladas para que las máquinas no terminen controlando nuestras vidas y para que no aumenten las desigualdades sociales.
