Esta semana, el secretario general de Naciones Unidas, Antonio Guterres, advirtió que la Inteligencia Artificial está siendo desarrollada a un ritmo tan acelerado que los marcos globales de gobernanza ya han quedado rebasados. Es decir, que los mecanismos de regulación, las instituciones y los procesos multilaterales diseñados para enfrentar los desafíos de esta tecnología han resultado insuficientes y los riesgos son enormes. Durante el Diálogo Global sobre Gobernanza de la IA señaló que, sin una regulación internacional urgente, la inteligencia artificial amenaza la democracia. Me detendré en uno de los conceptos que más preocupan de esta discusión sobre los alcances de la IA: lo que Foucault llamó los “dispositivos de control”, es decir, el conjunto de mecanismos mediante los cuales una sociedad regula, vigila y disciplina el comportamiento de los individuos.
Cuando el filósofo francés publicó Vigilar y castigar en 1975, no imaginaba un mundo en el que miles de millones de personas llevarían voluntariamente en la mano un dispositivo capaz de registrar sus desplazamientos, sus gustos, sus conversaciones, sus emociones y sus preferencias políticas. Sin embargo, la pregunta crítica que atraviesa toda su obra parece escrita para nuestro tiempo: ¿cómo logran las sociedades que los individuos se disciplinen a sí mismos, sin necesidad de recurrir permanentemente a la fuerza?
La tesis central de Foucault es ampliamente conocida. La modernidad no eliminó el poder represivo, simplemente lo hizo más complejo y sofisticado. Entre los siglos XVIII y XIX, el castigo dejó de ser un espectáculo público sobre el cuerpo para convertirse en un sistema permanente de vigilancia destinado a moldear la conducta. El objetivo ya no era producir sufrimiento físico, sino formar individuos obedientes, dóciles y productivos para el sistema.
El símbolo de esa transformación fue el panóptico de Jeremy Bentham: un diseño arquitectónico de prisión en el que las celdas rodean una torre central desde donde los guardianes pueden observar a todos los reclusos sin ser vistos. La incertidumbre permanente de estar siendo observados lleva a los presos a disciplinarse por sí mismos. El triunfo del poder consiste precisamente en que la vigilancia sea interiorizada y termine siendo ejercida por cada individuo sobre sí mismo.
Un siglo y medio después, ese dispositivo de control trascendió las cárceles para instalarse bajo nuevas formas en el mundo digital. Las plataformas tecnológicas y las redes sociales constituyen una especie de panóptico personalizado en el que la vigilancia ya no es ejercida únicamente por el Estado, sino también por empresas tecnológicas, algoritmos y por los propios ciudadanos.
A través del teléfono celular compartimos opiniones, fotografías, emociones y relaciones personales. Nadie nos obliga a exponernos, lo hacemos voluntariamente, buscando reconocimiento, pertenencia o visibilidad. La vigilancia ha dejado de ser una imposición externa para convertirse en una práctica cotidiana y voluntaria. Se trata, como sostiene el filósofo surcoreano Byung-Chul Han, de un dispositivo aún más eficaz: el sujeto termina explotándose a sí mismo bajo la ilusión de ejercer a cabalidad su libertad. Mientras cree actuar libremente, alimenta las plataformas digitales con datos que terminan orientando su propio comportamiento y todo porque el control deja de percibirse como una limitación y comienza a experimentarse como una forma de participación.
Esta transformación adquiere una dimensión especialmente preocupante cuando se traslada al terreno político. Si Foucault mostró que poder y saber son inseparables, la economía digital demuestra que poder, datos, algoritmos y comportamiento también lo son. La consecuencia ya no consiste únicamente en conocer mejor a los votantes, sino en influir sobre ellos con una precisión sin precedentes. Tal y como lo hemos vivido recientemente en las elecciones presidenciales en Colombia, las campañas ya no dependen exclusivamente de grandes discursos o de publicidad masiva. Hoy segmentan mensajes para grupos muy específicos, activan emociones según el perfil psicológico de cada usuario y refuerzan prejuicios mediante algoritmos que privilegian los contenidos con mayor capacidad de generar interacción, aunque ello implique polarización, desinformación o discursos de odio.
El castigo también ha mutado sus formas. Hoy aparece como linchamiento digital, cancelación pública, campañas de desprestigio o invisibilización algorítmica. Muchos ciudadanos moderan sus opiniones no porque exista una prohibición legal, sino porque anticipan el costo social de expresarlas. De esta manera, la disciplina funciona mejor cuando ha sido interiorizada y autoinfligida.
Sin embargo, reducir la realidad digital al panóptico sería insuficiente. Internet también ha multiplicado las posibilidades de organización ciudadana, de vigilancia al poder, de denuncia de la corrupción y de movilización democrática. Las mismas tecnologías que permiten controlar también permiten resistir. El problema no reside en la tecnología en sí misma, sino en la enorme concentración de poder que puede surgir alrededor de quienes controlan los datos, los algoritmos y la arquitectura de la nueva ágora digital.
Es por eso que la pregunta ya no sólo es quién vigila a los ciudadanos, sino quién diseña los mecanismos mediante los cuales ellos terminan controlándose a sí mismos. Hoy, buena parte del desarrollo y de la infraestructura mundial de la inteligencia artificial está concentrada en un reducido grupo de gigantes tecnológicos de Estados Unidos y China. Desde allí operan, casi siempre de manera invisible, algoritmos, métricas de popularidad y modelos de negocio que transforman nuestra atención en mercancía y nuestras emociones en datos.
Foucault comprendió que el poder más eficaz es aquel que logra hacerse invisible. En el siglo XXI, el mayor desafío para las democracias no consiste solamente en regular las nuevas tecnologías, sino en impedir que terminemos aceptando la vigilancia permanente como el precio inevitable de la libertad. El mayor riesgo para la democracia no es que nos vigilen, sino que dejemos de advertir que estamos siendo vigilados mientras desconocemos qué hacen quienes diseñan y dominan la IA con esa información.
Lea los comentarios
