Protección contra despidos masivos, a niños y supervisión en medicamentos, parte de la estrategia de la administración Biden.

Hace unos días, el CEO de OpenAI, Sam Altaman, estuvo en un escándalo en donde diversos colaboradores de la empresa lo habrían acusado de desarrollar una Inteligencia Artificial (IA) que pondría a la humanidad en peligro.

Lo extraño, es que Altman fue reinstalado en su puesto y las acusaciones fueron puestas de lado.

A continuación, te presentamos algunos lineamientos que precisamente el gobierno de Estados Unidos previó, al menos desde finales de octubre, que estarían pasando menos de 8 semanas después:

Marcas de agua

1. El contenido generado con IA debe tener marca de agua. El Departamento de Comercio implementó una guía para que los audios, imágenes, video y textos esté etiquetados, olo que permitirá determinar qué contenido es creado por una entidad no humana e identificar deepfakes.

2. Corregir fallos. La iniciativa IA Cyber Challenge de la administración Biden busca establecer un programa de ciberseguridad de alto nivel para corregir vulnerabilidades.

3. Legislación para proteger datos de niños. Una orden ejecutiva del presidente Joe Biden pidió al Congreso acelerar las políticas y para que los legisladores garanticen que se proteja la privacidad de los ciudadanos mientras las grandes firmas de IA entrenan sus modelos, con un enfoque de protección a la privacidad de los niños.

Atracción de talento

4. Datos de empresas deben ser públicos La Casa Blanca evaluará a agencias y corredores de datos de terceros en la recopilación y utilización de información “disponible comercialmente”, es decir, que sean conjuntos de datos públicos. Algunos datos de “identificación personal” estarán disponibles para el público, pero no significa que las Big Techs que experimenten con IA tengan rienda suelta para usar la información.

5. Reducir la discriminación mediante IA. Habrá un protocolo-guía para que propietarios, contratistas federales para reducir los sesgos. Además los algoritmos de IA no deberán estar manipulados; se analizarán sentencias relacionadas con el sistema de justicia penal.

6. Atraer especialistas internacionales. El sitio oficial ai.gov tiene un portal para los solicitantes que buscan becas de IA y oportunidades de trabajo en el gobierno de Estados Unidos. La orden busca actualizar criterios de visa para inmigrantes que tengan experiencia en IA.

No a despidos masivos

7. Apoyar a trabajadores por despidos masivos. La administración Biden apoyará a trabajadores en la negociación colectiva de contratos en sindicatos mediante las mejores prácticas para proteger sus derechos contra posibles daños como vigilancia, reemplazo de empleos y discriminación. La orden de Biden contempla un informe especial sobre el potencial de la IA para alterar los mercados laborales.

8. Brindar bioseguridad. Al utilizar modelos para proyectos relacionados con la ciencia y la biología se buscará la implementación de nuevos estándares para el “cribado de biosíntesis” para proteger a los ciudadanos sobre “materiales biológicos peligrosos” diseñados mediante IA. Lo anterior abarcaría la supervisión de la producción de medicamentos que no busquen atentar contra los ciudadanos con medicamentos.

9. Supervisión a big techs. Los desarrolladores de sistemas IA (como OpenAI, Google y Microsoft) deben compartir los resultados de sus pruebas de seguridad con el gobierno federal de manera obligatoria. Mientras entrenen sus modelos, se le exigirá que compartan los resultados de las pruebas de seguridad con un llamado “equipo rojo” antes que se publiquen. (Un equipo rojo son personas que ponen a prueba la seguridad de una entidad digital haciéndose pasar por actores maliciosos).

Se buscan regular las actuales aplicaciones (ChatGPT) y se les exigiría compartir los resultados de seguridad que tengan el umbral más alto de rendimiento.

“[El umbral] no va a atrapar a los sistemas de IA entrenados por estudiantes de posgrado o incluso profesores. Esto realmente está atrapando a los sistemas más poderosos del mundo”, dijo un funcionario en calidad de anonimato.

10. Las pruebas para el equipo rojo las supervisará el Instituto Nacional de Estándares y Tecnología. El Departamento de Seguridad Nacional y los Departamentos de Energía también trabajarán conjuntamente para determinar si las IA plantean ciertos riesgos en el ámbito de la ciberseguridad, así como en nuestra infraestructura química, biológica, radiológica y nuclear.

Estas órdenes ejecutivas buscan prevenir a empresas como Open AI, Google y Microsoft y para que protejan al ciudadano estadounidense promedio.

Con información de Mashable (La Casa Blanca anuncia una orden ejecutiva sobre la regulación de la IA: cómo se ven afectados ChatGPT y los suyos | Triturable (mashable.com) )