Jefe de Microsoft pide gobernar IA y proteger infraestructuras críticas

En un llamado a la rendición de cuentas, el presidente de Microsoft, Brad Smith, instó a que los responsables de la inteligencia artificial (IA) lo sean por sus deficiencias. Asimismo, solicitó a los legisladores que implementen medidas de seguridad para controlar el uso de IA en la red eléctrica, el suministro de agua y otras infraestructuras críticas.

En medio de los debates legislativos en Washington sobre las leyes necesarias para regular la IA, tanto grandes como pequeñas empresas han apresurado la introducción de una IA cada vez más versátil en el mercado.

En una entrada de blog publicada recientemente, Smith hizo énfasis en la necesidad de establecer mecanismos de rendición de cuentas. Expresó: "Es fundamental garantizar que las máquinas estén siempre sujetas a la supervisión efectiva de las personas, y que aquellos que las diseñan y manejan sean responsables ante los demás. En resumen, debemos asegurar que la IA permanezca bajo control humano".

Le puede interesar: Google prueba anuncios en búsquedas de IA generativa para competir con Microsoft

Como parte de un plan de gobernanza pública de la IA, Smith resaltó la importancia de prestar especial atención a la red eléctrica, los sistemas de abastecimiento de agua y otras infraestructuras críticas. En su blog, propuso que se establezcan nuevas leyes que requieran que los operadores de estos sistemas incorporen medidas de seguridad en el diseño de IA de alto riesgo.

Smith también instó a los desarrolladores de potentes modelos de IA a utilizar un sistema similar al de "Conozca a su cliente" para controlar el uso de su tecnología y proporcionar informes públicos sobre el contenido que crea la IA. Esto permitiría identificar videos falsos y promover la transparencia.

En semanas anteriores, Sam Altman, CEO de OpenAI, la startup detrás de ChatGPT, compareció ante el Congreso y advirtió sobre la preocupación por el uso de la IA para interferir en la integridad de las elecciones. Altman, respaldado por Microsoft, también abogó por la regulación y la cooperación global en el campo de la IA, así como por incentivos para el cumplimiento de normas de seguridad.

Lea también: Empleos que desaparecerán y emergerán por la inteligencia artificial

En el Capitolio se están considerando diversas propuestas centradas en la regulación de la IA que pueda poner en peligro la vida o el sustento de las personas, como en los campos de la medicina y las finanzas. Además, se están debatiendo normas para garantizar que la IA no se utilice para discriminación o violaciones de los derechos civiles.

Esta creciente preocupación ha dado lugar a una serie de reuniones relevantes, como la visita de los presidentes ejecutivos de OpenAI, Microsoft y Alphabet Inc a la Casa Blanca este mes. Durante el encuentro, se reunieron con el presidente Joe Biden para abordar estos temas.

En resumen, el llamado de Brad Smith, presidente de Microsoft, a gobernar la IA y proteger las infraestructuras críticas destaca la importancia de la rendición de cuentas y la seguridad en el desarrollo y uso de la IA. Se espera que los legisladores actúen prontamente para establecer las regulaciones necesarias y garantizar un uso responsable de esta tecnología en beneficio de la sociedad.

Con información de Reuters y redactado por Inteligencia Artificial.