Los sesgos de la Inteligencia Artificial en la medicina
Un estudio realizado en Estados Unidos muestra que la Inteligencia Artificial, que cada vez más se utiliza en la atención médica, a veces recomienda diferentes tratamientos para la misma afección médica basándose únicamente en los antecedentes socioeconómicos y demográficos del paciente.
Es una realidad: la Inteligencia Artificial (IA) se utiliza cada vez más en la atención médica. Con el objetivo de evaluar la calidad de esta herramienta, que día a día cobra más importancia, la facultad de Medicina Icahn del Hospital Monte Sinaí llevó a cabo un nuevo estudio que revela que los distintos modelos de IA generativa pueden recomendar diferentes tratamientos para la misma afección médica, basándose solo en los antecedentes socioeconómicos y demográficos del paciente. Estos hallazgos, publicados en abril de 2025 en Nature Medicine, destacan la importancia de la detección e intervención tempranas para garantizar que la atención basada en IA sea segura, eficaz y apropiada para todos.
Como parte de este trabajo, los investigadores sometieron a prueba de estrés nueve modelos de lenguaje extenso (LLM) en 1.000 casos de situaciones de urgencia. A cada caso se le asignaron 32 antecedentes diferentes, lo que resultó en más de 1,7 millones de recomendaciones médicas generadas por la IA. Un modelo de lenguaje extenso (LLM) es un tipo de Inteligencia Artificial que genera y procesa lenguaje natural. Los LLM se entrenan con grandes cantidades de datos textuales para aprender a predecir palabras o secuencias de palabras.
Volviendo a la investigación, a pesar de presentar detalles clínicos idénticos, los resultados del análisis mostraron que los modelos de IA modificaron ocasionalmente sus decisiones en función del perfil socioeconómico y demográfico del paciente. Esto afectó áreas clave como la prioridad de triaje, las pruebas diagnósticas, el enfoque del tratamiento y la evaluación de la salud mental. Además, a los pacientes de altos ingresos se les recomendaron con mayor frecuencia pruebas diagnósticas avanzadas, como tomografías computarizadas o resonancias magnéticas, mientras que a los pacientes de bajos ingresos se les aconsejó no someterse a más pruebas. “La magnitud de estas inconsistencias subraya la necesidad de una supervisión más rigurosa”, afirman los investigadores.
Artículo exclusivo para suscriptores
Suscríbete para acceder a todo nuestro contenido.
Suscribirme
Lea los comentarios
