Carta abierta pide pausa en la inteligencia artificial (IA)

Al mismo tiempo que comienzan a aparecer múltiples aplicaciones de ChatGPT, el popular programa de inteligencia artificial (IA) publicado por OpenAI, varias centenas de expertos, académicos e industriales, han publicado este miércoles una carta abierta pidiendo una moratoria de por lo menos seis meses en el entrenamiento (“enseñanza”) de sistemas más poderosos que GPT-4, la última maravilla de OpenAI, hasta asegurarse que los riesgos inherentes de esta tecnología son controlados.

Para entender la importancia y la competencia de los firmantes, basta con ver los cinco primeros: Yoshua Bengio (profesor de IA en la Universidad de Montreal, reciente ganador del Premio Turing, especie de Nobel de la informática, y que ha resistido a los cantos de sirena de grandes compañías de high tech para guardar la independencia de su investigación académica), Stuart Russell (profesor de informática en Berkeley y autor del libro más utilizado para la enseñanza de la IA en las universidades), Elon Musk (propietario, entre otras empresas, de Tesla y Twitter, y cofundador, ahora retirado, de OpenAI), Steve Wozniak (cofundador de Apple con Steve Jobs), Yuval Noah Harari (famoso autor de obras de divulgación).

El éxito público de ChatGPT y su gran difusión mediática han lanzado una carrera entre las grandes empresas de high tech para desarrollar su propia aplicación de IA y tomar una parte en el gran mercado previsto. Y todo esto con una tecnología, el machine learning o aprendizaje automático, donde nadie, ni siquiera los creadores de los programas, son capaces de explicar completamente el camino seguido para generar un resultado. Sin que se pueda impedir que el programa genere respuestas falsas (alucinaciones), englobadas en un lenguaje formal perfecto, dando una enorme impresión de comportamiento humano y con un aura de infalibilidad que los usuarios aceptan con gran ilusión. Como dicen los autores de la carta abierta, estas herramientas presentan “profundos riesgos para la sociedad y la humanidad”.