Si bien la IA puede ofrecer muchos beneficios a la humanidad como analizar grandes conjuntos de datos para identificar tendencias y patrones, lo que permite una mejor toma de decisiones en diversos campos; facilitar el acceso a la información y la educación a personas de todo el mundo; acelerar la investigación y el desarrollo en áreas como la medicina, la energía y el medio ambiente; procesar grandes cantidades de datos de manera rápida y eficiente, liberando a los humanos para tareas más complejas, pese a esto también encarna varios riesgos.
Entre algunos se podría mencionar la consolidación de gobiernos autoritarios, facilitando la vigilancia masiva, censura y represión. Desarrollo de armas autónomas letales. Discriminación y sesgo en áreas como la justicia penal, el empleo y la vivienda. Menoscabo de la privacidad, la IA puede ser utilizada para recopilar, almacenar y analizar grandes cantidades de datos personales, lo que amenaza la privacidad y la autonomía individual.
Frente a esto se hace cada vez más urgente la regulación de la IA no solo desde un enfoque basado en identificación y mitigación de riesgos sino desde un enfoque basado en derechos humanos en todo el ciclo de desarrollo de la IA: recopilación de datos hasta el diseño, desarrollo, implementación y uso.
Esto permitirá la protección de derechos fundamentales para prevenir violaciones a derechos como la privacidad, la libertad de expresión y la no discriminación.
También podría promover la inclusión y la equidad, mediante la prevención de la discriminación para que la IA beneficie a todas las personas por igual. Un enfoque de derechos humanos permitiría fomentar la transparencia y la rendición de cuentas para que los sistemas de IA sean transparentes y comprensibles, y que los responsables de su desarrollo y uso sean responsables de sus impactos.
El Consejo de Derechos Humanos de la ONU ha emitido resoluciones sobre los derechos humanos y la IA, y se ha creado un órgano asesor sobre IA para asesorar sobre su gobernanza. Así mismo la UNESCO ha desarrollado recomendaciones éticas para la IA, que buscan promover el desarrollo y uso responsable de la IA. Sin embargo, todavía hay grandes desafíos sobre la participación de la sociedad civil en la toma decisiones sobre IA, también han aparecido voces solicitando una moratoria en el uso de tecnologías de IA de alto riesgo hasta que se establezcan salvaguardias adecuadas.
Se hacen urgentes entonces varias acciones a nivel normativo, de participación y en el uso de esta tecnología que ahora mismo está cuestionando varios sectores como los medios de comunicación, los gobiernos y organizaciones de sociedad civil. Entre las prioritarias:
Fortalecer los marcos legales y regulatorios, con leyes y otros instrumentos que aborden los riesgos específicos que plantea la IA para los derechos humanos.
Promover la participación de la sociedad civil, asegurando que ella tenga un rol activo en la configuración de políticas y regulaciones sobre IA.
Fomentar la investigación y desarrollo responsable, incentivando la creación de sistemas de IA que sean éticos, transparentes e inclusivos.
Promover la educación y la concienciación, a través de la educación sobre la IA y sus implicaciones para los derechos humanos.