Cómo los humanos pueden absorber los prejuicios de la inteligencia artificial

Una investigación reciente realizada por psicólogos de la Universidad de Deusto revela que los individuos pueden heredar sesgos en lo que respecta a la inteligencia artificial, lo que podría conducir a un peligroso bucle de errores sistémicos.

Los sistemas de inteligencia artificial han deslumbrado con sus capacidades humanas, haciéndolos indispensables en diversos campos profesionales. Su objetivo es reducir los errores en la toma de decisiones, pero su peligro oculto reside en los sesgos de la inteligencia artificial.

El legado del sesgo de la inteligencia artificial

Los modelos de IA aprenden de los datos, que a menudo reflejan decisiones humanas pasadas con sesgos. La evidencia predominante sugiere que los sistemas de IA heredan y amplifican estos sesgos, perpetuando así los errores sistémicos.

Vicente y Matute realizaron tres experimentos en los que voluntarios realizaron una tarea de diagnóstico médico. Algunos utilizaron un sistema de IA sesgado, otros no. Sorprendentemente, aquellos que recibieron ayuda de la IA no sólo cometieron los mismos errores, sino que continuaron cometiéndolos incluso sin la ayuda de la IA.

Los participantes que inicialmente confiaron en la IA sesgada reprodujeron sus errores cuando realizaron la tarea de diagnóstico sin ayuda. Este fenómeno de sesgo heredado no ocurrió entre el grupo de control que completó el estudio sin la ayuda de la IA.

Implicaciones para la IA y la colaboración humana

Esta investigación enfatiza el impacto negativo a largo plazo de los sesgos inducidos por la IA en la toma de decisiones humana. Destaca la importancia de los estudios multidisciplinarios sobre la interacción entre la IA y los humanos y la necesidad de regulaciones basadas en evidencia para garantizar una IA ética que tenga en cuenta los aspectos psicológicos.

En conclusión, la innovadora investigación de Vicente y Matute destaca un aspecto preocupante de la inteligencia artificial: el potencial de los humanos para heredar sesgos de los sistemas de IA.

Aunque la IA promete mejorar la toma de decisiones, su dependencia de datos sesgados puede perpetuar y transferir errores sistémicos a los individuos sin darse cuenta.

Como lo demuestran sus experimentos, el efecto del sesgo heredado requiere un mayor escrutinio y regulación de los sistemas de IA para garantizar su equidad y uso ético. También destaca la necesidad crítica de una investigación multidisciplinaria para comprender la compleja interacción entre la IA y la toma de decisiones humana.

Abordar el sesgo de la IA se vuelve fundamental para crear un futuro más justo y confiable a medida que avanzamos hacia un mundo cada vez más impulsado por la IA.