Académica Patricia Peña expone sobre Inteligencia Artificial y Derechos Humanos, Feminismo y Educación

La co-investigadora del proyecto Fondecyt sobre #RegulaciónConvergente expuso en tres importantes encuentros sobre inteligencia artificial en Chile y América Latina. 

Con foco en  educación, derechos humanos y género, sus intervenciones relevaron la necesidad de regulaciones éticas al avanzar en el uso de este tipo de tecnologías en la región.

IA y educación

La “Vuelta a clases con Inteligencia Artificial: Impulsemos la Educación del Futuro juntos” es una iniciativa impulsada por el Ministerio de Ciencia, Tecnología, Conocimiento e Innovación (MinCiencia) junto a la Universidad Metropolitana de Ciencias de la Educación (UMCE), el Centro Nacional de Inteligencia Artificial (CENIA) y la Fundación Kodea que fue presentada al público el pasado viernes 7 de marzo. En esta instancia, Peña presentó el prototipo de la chatbot feminista Sof*IA, un desarrollo conversacional para el apoyo de víctimas y el reporte de casos de violencia y acoso digital de género, en particular hacia mujeres y diversidades.

Patricia Peña presentando la Chatbot Sof*IA

La presentación tuvo como foco mostrar cómo al utilizar la tecnología de forma responsable, con un enfoque en los derechos humanos y con perspectiva de  género, se puede aportar a la integridad y cuidado  de las mujeres y diversidades en el ciberespacio.

El evento, cuyo fin era fomentar el interés en la IA y tecnología en la formación pedagógica de actuales y futuros docentes, según destacó la ministra de Ciencia, Aysén Etcheverry contó con la participación del Presidente Gabriel Boric, quien fue el encargado de presentar el plan “Impulsemos la educación del futuro juntos y juntas”, iniciativa que busca fortalecer las competencias digitales y el uso de la IA en la educación a través de cuatro cursos impartidos con apoyo de la Fundación Kodea

Gabriel Boric en el evento "Vuelta a Clases"

CIDH: Audiencia sobre Inteligencia Artificial y DDHH

En el marco de las audiencias organizadas por la Relatoría para la Libertad de Expresión de la Comisión Interamericana de Derechos Humanos (CIDH), Patricia Peña expuso en representación de la Red Feminista de Investigación en Inteligencia Artificial (fA+Ir) de América Latina y el Caribe.  La académica e investigadora presentó sus observaciones y recomendaciones en tres dimensiones que la CIDH debería considerar dentro de sus planes para la región. 

La primera es la inclusión de comunidades marginadas en la toma de decisiones de la gobernanza de la IA, enfatizando en que los modelos actuales refuerzan imaginarios coloniales y reproducen discursos que invisibilizan, discriminan y excluyen a ciertas poblaciones o grupos.

En segundo lugar explicó cómo es posible potenciar la IA como una herramienta para la igualdad de género,señalando que es necesario repensar todo el ciclo de vida de una solución basada en IA y su gobernanza. Por último, señaló la importancia de un marco de derechos humanos en normativas y regulaciones a nivel local. “En nuestros países hemos constatado que muchas veces estos (marcos) favorecen intereses corporativos sin salvaguardar los derechos humanos” afirmó Peña. 

La académica recomienda a la CIDH que los Estados garanticen procesos de gobernanza de IA con análisis de impacto en derechos humanos, promuevan desarrollos transparentes con auditorías independientes al sector privado, y adopten evaluaciones de impacto en sectores clave como justicia, salud, educación, entre otros. Además, sugiere restringir el uso de IA para vigilancia masiva y discriminación. Insta a la CIDH a elaborar un informe temático y un marco normativo interamericano que establezca estándares vinculantes para asegurar que la IA respete los derechos humanos y la justicia de género.

Patricia Peña en la sesiones de la CIDH

Khipu 2025: Encuentro Latinoamericano de Inteligencia Artificial

Patricia Peña también participó en la conferencia #KHIPU2025 sobre Inteligencia Digital en Latinoamérica, encuentro que se realizó en la Facultad de Administración de la Pontificia Universidad Católica. El evento reunió a estudiantes, académicos y profesionales de distintas disciplinas para discutir  las innovaciones, estudios y aproximaciones a la IA en la región. En la instancia, Peña presentó un póster sobre el prototipo de la Chatbot SOF+IA,sus alcances como una inteligencia artificial conversacional feminista.

A partir de estos encuentros se pone en evidencia la importancia de abordar la IA desde una perspectiva ética y con enfoque de género. La  co-investigadora en Regulación Convergente  no solo destacó el potencial de la tecnología para abordar problemáticas sociales, sino también la necesidad de construir marcos regulatorios que prioricen los derechos humanos y la justicia de género en el desarrollo y aplicación de estas herramientas.

Categorías


Sobre NOSOTROS

Lee también…

  • Académica Patricia Peña expone sobre Inteligencia Artificial y Derechos Humanos, Feminismo y Educación

es_ESESPANOL