Tras los bombardeos de Hiroshima y Nagasaki, Einstein, Russell y otros científicos se pronunciaron públicamente. Advirtieron que el desarrollo tecnológico y nuclear, sin un control ético estricto, podría causar la total destrucción de la humanidad.
La semana pasada volvió a surgir un debate similar en torno a la pregunta: ¿puede la Inteligencia Artificial (IA) convertirse en una amenaza para la humanidad? El tema adquirió particular y preocupante atención después de que investigadores vinculados a algunos de los principales laboratorios de Inteligencia Artificial abandonaran sus cargos para advertir sobre los riesgos letales de una evolución tecnológica que avanza más rápido que nuestra capacidad para controlarla.
Sin lugar a dudas, los cuestionamientos deben ser escuchados y debatidos. Pero, quizás, la pregunta más relevante no sea si la IA acabará con la humanidad. No estoy seguro de que allí se encuentre la causa raíz del asunto. Creo que el problema originario es el mismo, por ejemplo, de la época de la creación de la bomba atómica: ¿quién decide la orientación de una tecnología cuyas consecuencias afectan a toda la humanidad?
Para esta discusión resulta muy actual el filósofo austriaco Paul Feyerabend. Feyerabend fue un iconoclasta. Se hizo famoso por cuestionar la existencia de un método científico único (Tratado contra el método) y por desafiar la idea de que la ciencia debía ocupar un lugar privilegiado frente a otras formas de conocimiento (La ciencia en una sociedad libre). En este último texto, Feyerabend cuestionaba: ¿por qué habría de tener la ciencia un lugar privilegiado en una sociedad democrática? No cuestionaba el valor del conocimiento científico ni pretendía suplantar a los expertos por personas sin conocimiento. Su preocupación era otra: que la competencia técnica terminara convirtiéndose en legitimidad y verdad, respaldada por la ‘autoridad’ de una élite de expertos que toman decisiones en nombre de toda la humanidad.
Una de sus afirmaciones es contundentemente clara: la opinión de los expertos debe ser tenida en cuenta, pero ellos no deben tener la última palabra. La última palabra debe tenerla la sociedad. Y la diferencia es fundamental. Un grupo de científicos puede decirnos qué puede hacer una bomba atómica, cuáles son sus riesgos y qué consecuencias podrían derivarse de su utilización. No obstante, de ahí no se desprende que puedan decidir, por sí solos, si la bomba se lanza desde un avión, como sucedió en 1945.
Por eso Feyerabend escribió también que los ciudadanos no especialistas pueden y deben supervisar la ciencia. Y advertía que, cuando una cuestión tiene consecuencias importantes para una sociedad, sería irresponsable aceptar sin más el juicio de los científicos, sin someterlo a un amplio escrutinio democrático.
No se trata de oponer ignorancia a conocimiento, sino de distinguir competencia de legitimidad. Un ingeniero puede saber cómo construir un sistema capaz de identificar rostros. Un programador puede desarrollar una máquina capaz de generar decisiones. Un investigador puede determinar hasta dónde puede llegar un modelo de Inteligencia Artificial. Pero ninguno de esos conocimientos responde por sí mismo a una pregunta fundamental: ¿debemos hacerlo y utilizarlo? La diferencia parece elemental, pero puede ser decisiva en el momento histórico que estamos viviendo. De ello depende nuestra vida, porque una pequeña élite mundial de investigadores, ingenieros, empresarios y grandes compañías tecnológicas está tomando decisiones sobre tecnologías que pueden afectar el trabajo, la educación, la privacidad, la información, la seguridad, la economía e incluso nuestra propia existencia, según declaran los desarrolladores disidentes.
Y aquí aparece la dimensión ética. La ética no debería llegar después de la innovación, como un notario, para refrendar lo decidido. Las preguntas éticas deben acompañar la investigación desde el principio: ¿qué estamos intentando construir?, ¿para quién?, ¿cuáles son los riesgos?, ¿cuáles son los límites y quién tiene derecho a determinarlos?
La Inteligencia Artificial ha hecho visible un problema muy antiguo. Desde la Revolución Industrial, cada avance en nuestra capacidad para transformar el mundo ha incrementado nuestra responsabilidad sobre aquello que decidimos hacer con ese poder. Lo vemos en la energía nuclear, la biotecnología, la manipulación genética, la vigilancia digital y ahora en la inteligencia artificial.
Feyerabend entendió que el problema no consistía en prescindir de los científicos en la democracia, sino en evitar que los científicos prescindieran de la democracia, que es lo que podría estar ocurriendo. Su propuesta puede sonar radical. Es cierto que el conocimiento experto es indispensable, pero no debe convertirse en un cheque en blanco para decidir. La ciencia debe participar en la deliberación pública, no reemplazarla.
Por eso, quizá la pregunta que deberíamos hacernos ante la Inteligencia Artificial no sea solo si ella llegará algún día a superar nuestra inteligencia. La pregunta más inmediata es si nosotros somos lo suficientemente inteligentes para decidir qué hacer con ella. El verdadero peligro surge cuando una sociedad permite a una pequeña élite de expertos la capacidad de decidir, sin deliberar. La Inteligencia Artificial puede terminar siendo más poderosa de lo que hoy imaginamos. Lo que todavía está en nuestras manos es decidir qué mundo queremos construir con ella.
Lea los comentarios
