En una intervención ante el Consejo de Derechos Humanos de la ONU, donde este 15 de septiembre se presentó un informe sobre el impacto de estas nuevas tecnologías en las libertades fundamentales, Bachelet pidió frenar el desarrollo de algunas de ellas "hasta que se hayan puesto en vigor las salvaguardas adecuadas".

"No podemos seguir reaccionando tardíamente a los efectos de la IA, ni permitir que se use de manera ilimitada, sin fronteras ni supervisión, para enfrentarnos luego a sus casi inevitables consecuencias sobre los derechos humanos", afirmó la alta comisionada.

Elaboración automática de perfiles

El informe ha estudiado el uso de la IA en sistemas de elaboración automática de perfiles, toma de decisiones y otras tecnologías de aprendizaje para las máquinas, que, según concluye, pueden vulnerar el derecho a la intimidad y otros relativos a la salud, la educación, la libertad de movimiento o la de expresión.

Según el documento, ya ha habido casos en que algunas personas han sido "injustamente tratadas" por el uso de IA, por ejemplo negándoles prestaciones del seguro social o siendo detenidas como consecuencia de errores en los sistemas de reconocimiento facial (muy desarrollados y ya ampliamente usados en China).

"Los datos que alimentan y orientan a los sistemas de IA pueden ser deficientes, discriminatorios, obsoletos o poco pertinentes", concluye el documento, que señala que estas bases sesgadas "pueden conducir a la adopción de decisiones discriminatorias, un riesgo aún mayor en grupos que ya se encuentran marginados".

La IA puede decidir quién obtiene empleo

La expresidenta chilena recordó que "la inteligencia artificial llega ahora a casi todos los rincones de nuestras vidas" y puede decidir "quién recibe servicios públicos, o quién tiene oportunidad de obtener un empleo".

El informe presentado hoy ante el Consejo de Derechos Humanos reclama además a las empresas y Estados que desarrollan esta tecnología que aumenten la transparencia en esta investigación.