A menos que AMLO—por ocurrencia—, no derogue al INAI, la Cofece ni al IFT, México podría apuntalar la nueva normatividad para la Inteligencia Artificial.
A partir de 2023, con la irrupción de la herramienta de Inteligencia Artificial (IA) más famosa en el mundo, ChatGPT, los cambios en la cultura, entretenimiento, tecnología, datos personales, publicidad e información, presentado cambios estructurales.
Lo anterior, porque la IA tiene el potencial no solo de dinamizar el conocimiento, sino de trastocar por completo la vida del ser humano por su delicado manejo de data personal.
Por ello, la IA necesita una regulación que englobe ciertos aspectos generales, así como el cuidado del uso de la data en la integridad de la planeación e inclusión financiera, personal y electoral, entre otros.
“En el entorno de los ecosistemas digitales, las regulaciones de las normativas en torno a la tecnología, siempre van pasos atrás al desarrollo de la tecnología per se. Como la IA tiene un insumo de base de datos significativo, hay temas de privacidad y propiedad intelectual, pero todavía no están claros en la regulatoria”, destacó en plática con DobleFilo México, Sissi de la Peña, experta en regulación digital y Directora en la Academia Mexicana de Ciberseguridad y Derecho Digital (AMCID).
Mencionó que a principios de 2023, iniciaron en el Senado los trabajos de la Alianza Nacional de Inteligencia Artificial (ANIA), que busca consolidar las voces de la sociedad civil, academia, iniciativa privada, organismos internacionales y las big tech, con una discusión conjunta para brindar un marco jurídico tecnológico.
Lo anterior, para proteger la ciberseguridad, las elecciones, la educación, las políticas públicas, la innovación y el desarrollo: “la ANIA desarrolla estas mesas con distintas conversaciones sobre los retos, las oportunidades, riesgos y propuestas”, y el reto ante esta normatividad, “es no inhibir a la misma innovación”.
Sandbox como propuesta
Dijo que ante ello, se está analizando el contexto internacional y una de las propuestas fueron la realización de un arenero regulatorio o “sandbox regulatorio, que son espacios de innovación para proponer prototipos de política pública”.
Agregó que para ello, la AMCID, con apoyo del gobierno de Reino Unido, iniciaron el proyecto para la realización del sandbox regulatorio para la IA en México, ya que a diferencia de una agencia, y por los tiempos electorales, “se llevaría más de 4 años para agilizar este tema”.
Órganos reguladores
De la Peña argumentó que en México hay buenos órganos reguladores, como el Instituto Nacional de Transparencia, Acceso a la Información y Protección de Datos Personales (INAI), la Comisión Federal de Competencia Económica (Cofece), el Instituto Federal de Telefomunicaciones (IFT) y la Comisión Nacional Bancaria y de Valores (CNBV) que proponen conjuntamente la regulación del uso de la tecnología.
Ejemplificó que a nivel mundial, en la Unión Europea, España iniciará también con un proyecto piloto; mientras que en Brasil se gestiona un mecanismo similar al de México, además de Singapur.
Dijo que para que el sandbox tenga éxito, se debe visualizar un manejo holístico que comprenda la gran diversidad de experiencias, con la participación de tecnólogos, hacedores de política pública y especialistas en filosofía, con diferentes habilidades, experiencias y disciplinas que podrían contribuir a la regulación.
Ley Fintech la contempla
La especialista reconoció que la figura del sandbox regulatorio está contemplada en la Ley Fintech que se aprobó durante 2018, ya que el sector financiero es uno de los más regulados a nivel mundial, lo cual va a permitir dinamizar la inclusión financiera, a diferencia de los sistemas tradicionales de la banca que no podían asimilarse.
Reconoció que por el cambio de gobierno durante 2018, hubo pérdida de habildades en el conocimiento técnico de la implementación de los sandbox “y probablemente, los implementadores de la Ley Fintech actualmente no han sabido cómo promover esta figura”.
Reconoció que Reino Unido ha sido líder mundial en la implementación de sandbox regulatorios a nivel mundial y llamaron a los emprendedores a participar en esta figura, además de pasar de las conversaciones sobre ética e IA, “que si bien tienen que estar consideradas, también tenemos que dar los pasos siguientes en su implementación”.
En marzo, resolutivos
Sissi de la Peña adelantó que para marzo de 2024 se van a tener las conclusiones del mecanismo, aclarando que se trata de una etapa exploratoria de la posibilidad y viabilidad para que México implemente una nueva normativa.
Aclaró que el sandbox es solo es para la regulación de la IA y no para el sector fintech; entre órganos reguladores que participarían —a menos que el Ejecutivo desaparezca a varios por razones de no transparentar las labores del Gobierno Federal— están la Cofece, IFT, INAI, el Senado de la República, la academia, el sector privado y la sociedad civil, para iniciar los nuevos modelos de negocios o emprendedurismos a futuro.
En contraparte, dijo que cuando hay iniciativas para regular, se tiene poco conocimiento de la tecnología, ya que “siempre emiten iniciativas de ley o reglas o normas basadas en su experiencia propia sin conocer realmente la tecnología que está detrás de la misma o de los modelos de negocios y lo que hacen regularmente es inhibir su desarrollo”.
Te va a interesar:
En puerta, 20 propuestas sobre IA
Cuestionada sobre la propuesta del diputado Miguel Torruco de Morena para sancionar la creación de deepfakes (o falsedades profundas), la especialista mencionó que “en el caso de los deepfakes, ni siquiera tenemos un completo entendimiento de cuáles pueden ser sus alcances de acuerdo a un solo caso, pero pueden haber muchos más”.
“Por lo regular, los legisladores regulan en base a un caso muy sonado, porque está el tema de moda, porque les da visibilidad, pero sin hacer las consultas necesarias con los técnicos o la gente que realmente conoce del tema o los académicos. En este momento hay alrededor de 20 iniciativas de ley en el Congreso que tienen un componente de IA y las que se sumen en los siguientes días o a final de año”.
Agregó que la tercera mesa de el sandbox sería aplicable a la política nacional de datos abiertos, dado que los datos abiertos (de los gobiernos) son esenciales para fomentar el desarrollo de una tecnología que se alimenta de datos principalmente “y es donde queremos explorar un caso de estudio”.
Mencionó que como parte del sandbox se realizará una encuesta pública, en los que “habrá dos eventos en línea en los que todo el mundo podrá participar con un intercambio de experiencias a nivel internacional, ya que las nuevas normativas tecnológicas ya no pueden quedar en un nivel local, sino que tienen una implicación global y no podemos apartarnos o aislarnos de homogenizar la forma en lo que regulamos esto, a diferencia del mundo, y también tiene que haber un componente de intercambio de experiencias”.
Finalmente, expresó que los grandes medios de comunicación tienen la responsabilidad de verificar si alguna información dada a conocer ha sido creada con IA y si es veraz, “pero eso es algo es parte del debate en el que estamos”.
El dato relevante
Un caso emblemático del uso perjudicial de deepfakes lo dio a conocer la La Fiscalía General de Justicia de Ciudad de México (FGJCDMX) con la detención de Diego “N”, ex alumno de la Escuela Superior de Comercio y Administración (ESCA), del Instituto Politécnico Nacional (IPN) por el delito de violencia digital en contra de un grupo de estudiantes.
El acusado usó sin autorización, fotos de estudiantes para modificarlas con IA y venderlas como contenido explícito a través de plataformas digitales.
Para ver la entrevista completa: