Posicionamiento sobre la propuesta de Iniciativa de Ley para el uso de inteligencia artificial y el tratamiento de datos personales por sujetos obligados en la Ciudad de México
Quiero reconocer que este Instituto se sume a la discusión internacional sobre cómo regular el desarrollo y operación de los sistemas de inteligencia artificial para asegurar a las personas el disfrute de sus beneficios, a la vez que se prevean sus riesgos. La propuesta que se pone a nuestra consideración busca salvaguardar la protección de datos personales asociados al desarrollo, entrenamiento y uso de estas tecnologías cuando las empleen los actores públicos institucionales de la Ciudad de México. Y hablo de tecnologías, pues así se las acota y define en el glosario de la iniciativa que se nos propone, siguiendo definiciones internacionales. La preocupación es válida, oportuna y pertinente. Pero quiero considerar, en el curso de mi participación, si corresponde o no a este Instituto e incluso al órgano legislativo de esta entidad federativa resolver las preocupaciones que el proyecto pone a nuestra consideración.
En la Recomendación sobre la ética de la inteligencia artificial de la Unesco, se define a la IA, en sentido amplio como “tecnologías de procesamiento de la información que integran modelos y algoritmos que producen una capacidad para aprender y realizar tareas cognitivas, dando lugar a resultados como la predicción y la adopción de decisiones en entornos materiales y virtuales.” Esa recomendación señala que, para estar basado en derechos humanos, el enfoque de IA debe contemplar diez principios básicos, a saber:
- Proporcionalidad e inocuidad,
- Seguridad y protección,
- Derecho a la intimidad y protección de datos,
- Gobernanza y colaboración adaptativas y de múltiples partes interesadas,
- Responsabilidad y rendición de cuentas,
- Transparencia y explicabilidad,
- Supervisión y decisión humanas,
- Sostenibilidad,
- Sensibilización y educación, así como
- Equidad y no discriminación.
Por ello, una eficaz regulación del desarrollo, entrenamiento y uso de los sistemas de Inteligencia Artificial debe considerar al menos estos diez aspectos mencionados, y requeriría prever su uso tanto por actores del sector público, como, quizá de manera principal, por los actores del sector privado. Algunos de los diez aspectos señalados involucran derechos salvaguardados por este instituto, como lo son el derecho a la protección de datos, la rendición de cuentas, la transparencia. Otros, sin embargo, exceden la competencia y los alcances que tenemos como garante local de los derechos de protección de datos y acceso a la información pública y son probablemente ajenos a la naturaleza de este organismo.
Tras revisar la normativa aplicable a la materia, veo que un organismo garante de la naturaleza del INFO es ajeno a la regulación de este tema más allá de los aspectos previstos por la normativa vigente en materia de protección de datos personales. Y sostengo que es ese marco, tanto en el ámbito nacional como en el local, el que será necesario actualizar. En la actualidad las entidades competentes para proponer y conocer sobre Inteligencia Artificial son instancias federales, puesto que los desarrolladores de estos sistemas pueden incluso ser empresas privadas extranjeras.
La Ley General de Protección de Datos Personales en Posesión de los Sujetos Obligados prevé, en su artículo 30, que “Entre los mecanismos que deberá adoptar el responsable para cumplir con el principio de responsabilidad establecido en la presente Ley están, al menos, los siguientes:
VII. Diseñar, desarrollar e implementar sus políticas públicas, programas, servicios, sistemas o plataformas informáticas, aplicaciones electrónicas o cualquier otra tecnología que implique el tratamiento de datos personales, de conformidad con las disposiciones previstas en la presente Ley y las demás que resulten aplicables en la materia, y
VIII. Garantizar que sus políticas públicas, programas, servicios, sistemas o plataformas informáticas, aplicaciones electrónicas o cualquier otra tecnología que implique el tratamiento de datos personales, cumplan por defecto con las obligaciones previstas en la presente Ley y las demás que resulten aplicables en la materia.”
Y en su artículo 74, la misma norma dispone “Cuando el responsable pretenda poner en operación o modificar políticas públicas, sistemas o plataformas informáticas, aplicaciones electrónicas o cualquier otra tecnología que a su juicio y de conformidad con esta Ley impliquen el tratamiento intensivo o relevante de datos personales, deberá realizar una Evaluación de impacto en la protección de datos personales, y presentarla ante el Instituto o los Organismos garantes, según corresponda, los cuales podrán emitir recomendaciones no vinculantes especializadas en la materia de protección de datos personales.
Por lo anterior, tengo la convicción de que la materia que se busca regular para la protección de datos personales en los sistemas de inteligencia artificial mediante una norma específica, resulta redundante en relación con las disposiciones asociadas a la normativa en materia de protección de datos personales.
Por su parte, la Ley General en Materia de Humanidades, Ciencias, Tecnologías e Innovación, prevé (art. 18) como una responsabilidad de los gobiernos de las entidades federativas la elaboración de “sus respectivos programas en materia de humanidades, ciencias, tecnologías e innovación contemplando las propuestas que presenten las dependencias y entidades de la administración pública local que fomenten, realicen o apoyen actividades de […] desarrollo tecnológico e innovación”, para lo que considerarán las opiniones que emitan los órganos internos consultivos, las universidades, las instituciones de educación superior, los centros de investigación y la comunidad en general, así como los sectores social y privado, de la entidad federativa correspondiente.
Esa misma disposición contempla que “el diseño e implementación de los programas de las entidades federativas deberán contemplar como punto de partida las necesidades, problemáticas, capacidades y vocaciones de los municipios y de las demarcaciones, según corresponda, de conformidad con la legislación aplicable. Asimismo, los programas de las entidades federativas deberán ser congruentes con los fines, principios y bases de las políticas públicas.” Esa misma norma reserva como competencia federal (artículo 22, fracción I) la facultad de integrar, formular, conducir, ejecutar y evaluar la política nacional en materia de humanidades, ciencias, tecnologías e innovación, conforme a los fines, principios y bases de las políticas públicas previstos en dicha Ley.
La legislación en materia de ciencia y tecnología de esta ciudad está pendiente de armonizarse con la norma general vigente, y esa es una buena oportunidad para detallar los aspectos relativos a la regulación de los sistemas de inteligencia artificial en los aspectos señalados por las orientaciones internacionales, ajenos a la protección de datos personales, previstos por la norma especializada en esa materia.
Sin duda, la protección de la privacidad y las garantías del uso legítimo de los datos personales en manos de los actores públicos institucionales y del sector privado debe actualizarse y robustecerse en consideración del acelerado avance de los desarrollos tecnológicos que observamos, a fin de atender con oportunidad y eficacia los desafíos que nos ofrecen.
Sin embargo, creo que para que esta regulación sea eficaz, robusta y apropiada, debe provenir del ámbito nacional, a fin de asegurar un estándar común de protección, clara definición de competencias y responsabilidades, así como claridad en los principios, bases y metodologías que se emplearán para estos fines.
Por ello, en atención a los principios de certeza, legalidad, eficacia y profesionalismo que la ley local de transparencia pide al Pleno que guíen las actividades de este Instituto, respetuosamente emitiré un voto concurrente, del proyecto que se pone a nuestra consideración. Reitero, sin embargo, mi felicitación por traer a la discusión un tema que requiere pronto examen por parte de los órganos legislativos competentes de nuestro país.
Confío en que pronto las normas nacionales correspondientes se adecuen para atender las preocupaciones señaladas por los organismos internacionales y de las que el proyecto de nuestro colega, el Comisionado Bonilla, hace eco.
