Trabajadores han sufrido explotación en Kenia y Pakistán po desarrolladoras de herramientas IA.
Desde finales de 2022, y a lo largo de 2023, hubo un revuelo en torno a la Inteligencia Artificial (IA) que empujó a los responsables de elaborar políticas y elaborar debates sobre su seguridad y regulación.
El lanzamiento de ChatGPT a finales de 2022 terminó con el logro de un acuerdo pionero en la Unión Europea sobre una Ley de Inteligencia Artificial para la región.
Aunque el texto definitivo aún se trabaja, los indicios señalan que el primer “reglamento de IA” del mundo occidental contribuye a proteger a las personas de las consecuencias negativas de la IA, pero no garantiza la protección de los derechos humanos, especialmente de las personas más marginadas, destacaron los editores de Amnistía Internacional (AI), David Nolan, Hajira Maryam y Michael Kleinman, Amnesty Tech.
Congreso, insuficiente
IA recordó que Reino Unido realizó una cumbre sobre la seguridad en la IA en noviembre de 2023, en la que dirigentes globales, actores clave y grupos de la sociedad civil se reunieron para debatir sus riesgos.
Aunque el debate sobre la gobernanza de la IA es bienvenido, y se necesita urgentemente generar compromisos concretos y ver los riesgos actuales más importantes, lo que se podría traducir en acciones sustanciales para otras jurisdicciones internacionales.
“No debemos ignorar los peligros documentados que estas herramientas suponen cuando se utilizan como medio de control social, vigilancia masiva y discriminación. Demasiado a menudo, los sistemas de IA están alimentados por enormes cantidades de datos privados y públicos que reflejan injusticias sociales y que con frecuencia dan lugar a resultados sesgados y más desigualdad”.
IA mencionó que la inteligencia artificial se podría usan en herramientas policiales predictivas hasta los sistemas automatizados que se usan en la toma de decisiones del sector público para determinar quién puede acceder a la atención médica y la asistencia social y la vigilancia de migrantes y refugiados.
“La IA ha socavado de manera flagrante y continua los derechos humanos de los sectores más marginados de la sociedad”.
Te va a interesar:
Algoritmos afectan a minorías
Otras formas de IA, como los algoritmos de detección de fraudes, también han afectado desproporcionadamente a minorías étnicas, que han soportado devastadores problemas económicos documentados por Amnistía Internacional, mientras que la policía y las fuerzas de seguridad han utilizado la tecnología de reconocimiento facial para atacar a comunidades racializadas.
Amnistía Internacional agregó que hasta el momento no existe un consenso generalizado sobre la definición de IA porque incluye muchos métodos y aplicaciones tecnológicas.
Para el uso de sistemas de IA están implicadas gran cantidad de interesados, lo cual supone que estos sistemas son resultado de insumos de trabajo, datos, software y economía.
Los principios del desarrollo y uso “responsable” de la IA —el núcleo del actual marco normativo favorable a la innovación que persigue Reino Unido— no brindan una protección adecuada frente a los riesgos de la tecnología emergente y deben tener carácter legal.
Además, se deben incluir mecanismos amplios de rendición de cuentas, más allá de las evaluaciones técnicas, especialmente cuando se ponen a prueba sesgos algorítmicos.
El organismo internacional pidió “eliminar todas las exenciones al uso de la IA en materia de seguridad nacional o cumplimiento de la ley. Cuando la regulación futura limite o prohíba el uso de sistemas de IA en una jurisdicción, no existan lagunas o vacíos normativos que permitan que esos sistemas se exporten a otros países”.
Ejemplificó que ha habido casos documentados de trabajadores que han sufrido explotación en Kenia y Pakistán por parte de empresas que desarrollan herramientas de IA.
“Más que palabrería del legislador, lo que necesitamos es una regulación vinculante que haga rendir cuentas a las empresas y otros actores clave del sector, y que garantice que los beneficios no se logran a expensas de los derechos humanos”, además que pidió una rendición de cuentas.