AI, Gender and Power
Rewriting Latin America’s Digital Future
Credits: Generated using Grok.
During the 2023 Colombian regional elections, I received a video that appeared to show a female candidate making a controversial statement. The lighting, voice and expressions were nearly perfect. But the message? Entirely fabricated. It was an AI-generated deepfake and disturbingly convincing.
I became fearful. Despite the fact that these types of fabrication were already a global reality, they had still felt distant from Colombia and region as a hole. The downsides of artificial intelligence were no longer a far-off concern, but a present and pressing threat, particularly to democracy, equity and the future of public discourse.
However, communities are also harnessing the positive potential of AI. In Buenos Aires, Argentina, the San Martín Cultural Center became the stage for a remarkable initiative: a free hackathon dedicated to combating gender-based violence. Programmers, developers, designers, journalists, and students joined forces, channeling creativity and technology into tangible solutions.
They tackled themes ranging from dismantling stereotypes and symbolic violence, to developing strategies that protect women in high-risk situations, engaging communities in prevention, and creating tools to raise awareness and respond to street harassment. It was a day where AI merged with grassroots initiatives driving gender empowerment in the region.
Despite these islands of hope—which need to be made sustainable and provide models—AI technologies throughout Latin America and the Caribbean are reshaping elections, manipulating public perception and reinforcing long-standing inequalities. These manipulations have particularly harmful impacts on women and marginalized groups. This situation is unfolding in societies in which digital governance is still evolving, public institutions are under pressure and gender gaps remain alarmingly wide.
This is a part of the world where immense wealth too often turns into a trap for development, and where the Global North seems to race ahead at a pace that feels impossible to match. Still, we must engage with these technological advances to avoid falling further behind and ending up in an even more vulnerable position. It’s like taking the training wheels off a bike too soon, when the rider is only just beginning to learn but knows s/he must keep going to avoid being left at the end of the race.
Latin America’s Double Disadvantage
AI is global, but its consequences are local. In Latin America, the risks are multiplied by a double disadvantage: institutional fragility and deep-rooted social inequities.
Unlike high-income regions with strong regulatory safeguards, Latin American countries are confronting the rise of AI with limited legal frameworks, poor infrastructure, weak consensus, doubts about its agency, patchy enforcement and widespread gaps in digital literacy. To make matters worse, the multiple pre-existent inequalities risk being further deepened by the very technologies that promise progress. It creates a perfect storm, in which those who have been forced to be the most vulnerable often become the primary targets.
But who, specifically, are we talking about? According to scholars Hernán Galperín and Malena Arcidiacono, in Latin America and the Caribbean, technological gaps disproportionately impact certain groups. Indigenous people, older adults, other populations in vulnerable conditions and women in particular, whose inequalities are intensified by socioeconomic and cultural factors, are particularly vulnerable.
Around the world, women are still logging on less, learning less and missing out on the full promise of the digital age. Even the simple act of getting online and developing the skills to make the most of it remains unevenly distributed. Europe is the rare exception, with the smallest gap between men and women in internet access, less than five percentage points apart.
Yet the digital divide is not only about cables, connections and devices. It is a much more complex story. Beyond access, women are less likely than men to use technology as a pathway to economic empowerment, whether it is for finding a job, starting a business or driving innovation. Many use it only to communicate with friends and relatives and often feel less confident navigating the digital world. This imbalance is reflected in the underrepresentation of women in STEM (the popular acronym for Science, Technology, Engineering and Mathematics) and ICT (Information and Communications Technology). Only 28.2% of the workforce in these sectors are women (WEF, 2024), and within that small share, few occupy leadership roles or positions with significant responsibility.
Credits: Generated using ChatGPT-5
Suddenly, gender becomes the decisive fault line. One that determines who benefits from technology and who bears its harms. In the age of AI, those harms are multiplying:
- Deepfake pornography used to shame female journalists and politicians.
- Gendered disinformation campaigns that discourage women from running for office.
- Health applications that ignore female-specific data, leading to flawed diagnostics.
- Algorithmic bias in AI systems can quietly reinforce workplace inequalities, disadvantaging women during hiring and recruitment processes and that silently exclude them from job opportunities.
- Outside the office, unpaid domestic work and caregiving responsibilities continue to fall disproportionately on women, leaving them with less time and flexibility for full-time employment, reskilling or improving digital skills.
- In the labor market, women face more job automation in certain roles, such as office support and service-related occupations, placing their positions at higher risk of being replaced by technology.
- In the fast-growing gig economy, marked by short-term and freelance work, women often find themselves in more precarious and vulnerable situations, with less stability and fewer protections.
- Even language is not free from bias. AI models, including machine translation tools and virtual personal assistants like Alexa, can perpetuate gender stereotypes when portraying femininity as synonymous with assistance or defaulting to male pronouns for gender.
This is not science fiction. It’s happening now and often with impunity.
Technology is Not Neutral
There is a dangerous assumption that technology, including AI, is inherently objective or progressive. But AI systems are only as fair as the data and humans that shape them. And in Latin America, where gender inequality is systemic, these technologies often replicate and amplify existing discrimination.
Inequalities rarely exist alone. They stack and intertwine. Gender meets ethnicity, social class, education level, among others, creating overlapping barriers that technology can either help break or make unbreakable. When AI inherits these layers of bias, it does not just reflect discrimination; it magnifies it.
For example, natural language processing models trained on Spanish social media data often unintentionally learn and reproduce misogynistic language, perpetuating harmful biases. Facial recognition systems struggle to identify Afro-descendant and Indigenous women, increasing the risk of exclusion or abuse.
Even worse, AI tools used in public policy, such as social protection algorithms or predictive policing, often fail to incorporate these intersecting data, resulting in outcomes that overlook the needs of women, especially those living in poverty or rural areas.
Credits: Generated using ChatGPT-5
What AI Governance Must Look Like in Latin America
Governance is not just about regulation, it’s about inclusion, voice and power. Latin America urgently needs an AI governance model that reflects its particular realities and empowers those historically excluded from digital decision-making. Here’s what that requires:
- Gender responsive regulation: Any AI legislation must include mandatory gender impact assessments, ensure nondiscrimination in algorithmic design and protect against digital gender-based violence.
- Local innovation ecosystems: Rather than importing foreign AI models wholesale, countries should invest in building local AI capabilities, especially those led by women and diverse communities.
- Intersectional data strategies: Governments must strengthen data collection systems that account for gender, race, ethnicity and geography. Without this, AI risks making invisible those already on the margins.
- Inclusive participation in policymaking: Civil society, academia and women-led tech organizations must be at the table, not as token contributors but as co-authors of national digital strategies.
- Digital literacy with a gender lens: Building capacity is not just about technical skills, but about critical awareness. Girls, women and LGBTQ+ communities must be empowered to understand, question and shape AI, not just consume it.
- Public-private-social alliances: The private sector, especially the major technology firms operating in the region, has a responsibility to co-develop solutions alongside governments and civil society. These partnerships must go beyond compliance, they must build trust, accountability and shared outcomes.
A Global Issue with Regional Stakes
The United States, China and Europe are leading different AI regulatory and innovation paths, each with geopolitical implications. Latin America cannot afford to be a passive recipient of models developed elsewhere. It must assert its agency, values and priorities, especially regarding social inclusion and democratic accountability.
That doesn’t mean rejecting global cooperation. On the contrary, multilateral efforts, whether through the United Nations, the Organization for Economic Co-Operation and Developmet (OECD) or new regional alliances, are essential for building interoperable frameworks. But Latin America’s voice must be present and loud in those spaces. And that voice must reflect its diversity, not just the views of urban technocrats, but also rural women, Indigenous leaders and Afro-Latinx communities.
All of the above, with the understanding that the goal is not to replicate complex models only for them to fail in execution, but rather to understand the diversity of realities and focus on phased processes where the pains and gains are clear, and the ultimate objective is to address those historical and systemic asymmetries.
The Window Is Closing
As Colombia, Chile, Brazil and Uruguay approach new electoral cycles, the threats posed by unregulated AI grow more urgent. Without rapid and inclusive action, we risk further eroding civic trust, weakening public institutions and reinforcing the gender divide in the digital era.
But there is hope. Across the region, we see pockets of innovation that show what’s possible:
- Women-led AI startups building ethical data tools in Bogotá.
- Hackathons in Buenos Aires pushing back against online misogyny.
- Municipal governments in Mexico exploring AI for social services with equity by design.
What’s missing is scale, coordination and sustained investment.
A Call to Action
Latin America has an opportunity, not only to regulate AI, but to reimagine it. To move beyond mere compliance and toward a future where technology reflects the region’s democratic aspirations and social commitments.
This will not be easy. It requires political will, cross sector collaboration and above all, the courage to confront uncomfortable truths about bias, power and exclusion.
But the cost of inaction is far greater.
AI will not wait. The question is whether Latin America will shape its future with purpose or allow algorithms designed elsewhere to shape it instead.
IA, Género y Poder
Reescribiendo el futuro digital de América Latina
Por Víctor Muñoz
Crédito: Generado usando Grok.
Durante las elecciones regionales de Colombia en 2023, recibí un video que parecía mostrar a una candidata haciendo una declaración polémica. La iluminación, la voz y las expresiones eran casi perfectas. ¿El mensaje? Totalmente fabricado. Era un deepfake generado con inteligencia artificial y perturbadoramente convincente.
Sentí miedo. Aunque este tipo de falsificaciones ya eran una realidad global, hasta entonces se habían percibido como algo lejano para Colombia y la región en general. Los aspectos negativos de la inteligencia artificial dejaron de ser una preocupación distante para convertirse en una amenaza presente y urgente, particularmente para la democracia, la equidad y el futuro del discurso público.
Sin embargo, las comunidades también están aprovechando el potencial positivo de la IA. En Buenos Aires, Argentina, el Centro Cultural San Martín se convirtió en el escenario de una iniciativa extraordinaria: un hackatón gratuito dedicado a combatir la violencia de género. Programadores, desarrolladores, diseñadores, periodistas y estudiantes unieron fuerzas, canalizando creatividad y tecnología en soluciones tangibles.
Abordaron temas que iban desde el desmontaje de estereotipos y la violencia simbólica, hasta el desarrollo de estrategias para proteger a mujeres en situaciones de alto riesgo, involucrar a las comunidades en la prevención y crear herramientas para concientizar y responder al acoso callejero. Fue un día en que la IA se fusionó con iniciativas de base que impulsan el empoderamiento con base en el género de la región.
A pesar de estos visos de esperanza, que necesitan hacerse sostenibles y servir de modelos, las tecnologías de IA en toda América Latina y el Caribe están remodelando elecciones, manipulando la percepción pública y reforzando desigualdades históricas. Estas manipulaciones afectan especialmente a las mujeres y a los grupos marginados. Esto ocurre en sociedades donde la gobernanza digital aún está en evolución, las instituciones públicas están bajo presión y las brechas de género siguen siendo alarmantemente amplias.
Esta es una parte del mundo donde la gran riqueza con frecuencia se convierte en una trampa para el desarrollo, y donde el Norte Global parece avanzar a un ritmo imposible de igualar. Aun así, debemos involucrarnos con estos avances tecnológicos para evitar quedarnos aún más atrás y quedar en una posición de mayor vulnerabilidad. Es como quitarle las ruedas de entrenamiento a una bicicleta demasiado pronto, cuando el ciclista apenas está aprendiendo pero sabe que debe seguir adelante para no quedar al final de la carrera.
La doble desventaja de América Latina
La IA es global, pero sus consecuencias son locales. En América Latina, los riesgos se multiplican por una doble desventaja: fragilidad institucional y profundas inequidades sociales.
A diferencia de las regiones de altos ingresos, con sólidos mecanismos regulatorios, los países latinoamericanos enfrentan el auge de la IA con marcos legales limitados, infraestructura deficiente, bajo consenso, dudas sobre su capacidad de acción, aplicación irregular de las normas y amplias brechas en alfabetización digital. Para empeorar las cosas, las múltiples desigualdades preexistentes corren el riesgo de profundizarse aún más debido a las mismas tecnologías que prometen progreso. Esto crea la tormenta perfecta, en la que quienes ya eran más vulnerables suelen convertirse en los principales objetivos.
¿Pero de quiénes, específicamente, estamos hablando? Según los académicos Hernán Galperín y Malena Arcidiácono, en América Latina y el Caribe, las brechas tecnológicas afectan de forma desproporcionada a ciertos grupos: pueblos indígenas, personas mayores, poblaciones en condiciones de vulnerabilidad y, en particular, a las mujeres. Cuyas desigualdades se intensifican por factores socioeconómicos y culturales.
En todo el mundo, las mujeres siguen conectándose menos, aprendiendo menos y perdiéndose de las promesas completas de la era digital. Incluso el simple hecho de acceder a internet y desarrollar las habilidades necesarias para aprovecharlo al máximo sigue distribuyéndose de forma desigual. Europa es la excepción, con la menor brecha entre hombres y mujeres en acceso a internet, de menos de cinco puntos porcentuales.
Pero la brecha digital no se trata solo de cables, conexiones y dispositivos. Es una historia mucho más compleja. Más allá del acceso, las mujeres tienen menos probabilidades que los hombres de usar la tecnología como una vía de empoderamiento económico, ya sea para encontrar un empleo, iniciar un negocio o impulsar la innovación. Muchas la usan únicamente para comunicarse con familiares y amistades, y a menudo se sienten menos seguras al navegar en el mundo digital. Este desequilibrio se refleja en la subrepresentación femenina en las áreas STEM (acrónimo de Ciencia, Tecnología, Ingeniería y Matemáticas) y en las TIC (Tecnologías de la Información y las Comunicaciones). Solo el 28,2 % de la fuerza laboral en estos sectores está compuesta por mujeres (WEF, 2024) y, dentro de ese reducido porcentaje, pocas ocupan roles de liderazgo o puestos con alta responsabilidad.
Crédito: Generado usando ChatGPT-5
De repente, el género se convierte en la línea divisoria decisiva: aquella que determina quién se beneficia de la tecnología y quién sufre sus daños. Y en la era de la IA, esos daños se multiplican:
- Deepfakes pornográficos para avergonzar a periodistas y políticas.
- Campañas de desinformación con sesgo de género que desalientan a las mujeres de postularse a cargos públicos.
- Aplicaciones de salud que ignoran datos específicos de mujeres, lo que lleva a diagnósticos erróneos.
- Sesgos algorítmicos en sistemas de IA que refuerzan silenciosamente desigualdades en el trabajo, desfavoreciendo a las mujeres durante los procesos de contratación y excluyéndolas de oportunidades laborales.
- Fuera de la oficina, el trabajo doméstico no remunerado y las tareas de cuidado siguen recayendo desproporcionadamente en las mujeres, dejándolas con menos tiempo y flexibilidad para empleos de tiempo completo, recapacitación o mejora de habilidades digitales.
- En el mercado laboral, las mujeres enfrentan mayor automatización en ciertos roles, como apoyo administrativo y ocupaciones relacionadas con servicios, lo que pone sus puestos en mayor riesgo de ser reemplazados por tecnología.
- En la economía de trabajos temporales y autónomos (gig economy), las mujeres suelen encontrarse en situaciones más precarias y vulnerables, con menos estabilidad y menos protecciones.
- Incluso el lenguaje está cargado de sesgos: modelos de IA, incluidos traductores automáticos y asistentes virtuales como Alexa, pueden perpetuar estereotipos de género al asociar lo femenino con tareas de asistencia o usar por defecto pronombres masculinos.
Esto no es ciencia ficción. Está ocurriendo ahora y, con frecuencia, con impunidad.
La tecnología no es neutral
Existe una peligrosa suposición de que la tecnología, incluida la IA, es intrínsecamente objetiva o progresista. Pero los sistemas de IA solo son tan justos como los datos y las personas que los diseñan. Y en América Latina, donde la desigualdad de género es sistémica, estas tecnologías a menudo replican y amplifican la discriminación existente.
Las desigualdades rara vez existen de forma aislada; se acumulan e interconectan. El género se cruza con la etnicidad, la clase social, el nivel educativo, entre otros factores, creando barreras superpuestas que la tecnología puede ayudar a derribar o a volver infranqueables. Cuando la IA hereda estas capas de sesgo, no solo refleja discriminación: la amplifica.
Por ejemplo, los modelos de procesamiento de lenguaje natural entrenados con datos de redes sociales en español aprenden y reproducen, sin intención, lenguaje misógino, perpetuando sesgos dañinos. Los sistemas de reconocimiento facial tienen dificultades para identificar a mujeres afrodescendientes e indígenas, aumentando el riesgo de exclusión o abuso.
Peor aún, las herramientas de IA utilizadas en políticas públicas —como los algoritmos de protección social o la vigilancia predictiva— suelen no incorporar estos datos interseccionales, lo que genera resultados que ignoran las necesidades de las mujeres, especialmente aquellas que viven en pobreza o en zonas rurales.
Crédito: Generado usando ChatGPT-5
Cómo debe ser la gobernanza de la IA en América Latina
La gobernanza no se trata solo de regulación, sino de inclusión, voz y poder. América Latina necesita con urgencia un modelo de gobernanza de la IA que refleje sus realidades particulares y empodere a quienes históricamente han sido excluidos de la toma de decisiones digitales. Esto implica:
- Regulación con perspectiva de género: cualquier legislación sobre IA debe incluir evaluaciones obligatorias de impacto de género, garantizar la no discriminación en el diseño algorítmico y proteger contra la violencia digital basada en género.
- Ecosistemas locales de innovación: en lugar de importar modelos extranjeros de IA sin adaptación, los países deben invertir en capacidades locales, especialmente en proyectos liderados por mujeres y comunidades diversas.
- Estrategias de datos interseccionales: los gobiernos deben fortalecer los sistemas de recolección de datos que contemplen género, raza, etnicidad y geografía. Sin esto, la IA corre el riesgo de invisibilizar a quienes ya están en los márgenes.
- Participación inclusiva en políticas públicas: la sociedad civil, la academia y las organizaciones tecnológicas lideradas por mujeres deben estar presentes en la mesa, no como participantes simbólicos, sino como coautoras de las estrategias digitales nacionales.
- Alfabetización digital con enfoque de género: la formación no se trata solo de habilidades técnicas, sino de conciencia crítica. Niñas, mujeres y comunidades LGBTQ+ deben tener la capacidad de comprender, cuestionar y moldear la IA, no solo consumirla.
- Alianzas público-privadas-sociales: el sector privado, especialmente las grandes tecnológicas que operan en la región, tiene la responsabilidad de desarrollar soluciones junto a gobiernos y sociedad civil. Estas alianzas deben ir más allá del cumplimiento normativo: deben generar confianza, rendición de cuentas y resultados compartidos.
Un problema global con implicaciones regionales
Estados Unidos, China y Europa están liderando caminos diferentes en regulación e innovación en IA, cada uno con implicaciones geopolíticas. América Latina no puede permitirse ser un receptor pasivo de modelos desarrollados en otros lugares. Debe afirmar su capacidad de decisión, sus valores y prioridades, especialmente en lo que respecta a inclusión social y rendición de cuentas democráticas.
Esto no significa rechazar la cooperación global. Por el contrario, los esfuerzos multilaterales —ya sea a través de Naciones Unidas, la Organización para la Cooperación y el Desarrollo Económicos (OCDE) o nuevas alianzas regionales— son esenciales para construir marcos interoperables. Pero la voz de América Latina debe estar presente y ser fuerte en esos espacios. Y esa voz debe reflejar su diversidad, no solo la perspectiva de tecnócratas urbanos, sino también de mujeres rurales, líderes indígenas y comunidades afro-latinoamericanas.
Todo lo anterior, entendiendo que el objetivo no es replicar modelos complejos para que fracasen en la ejecución, sino comprender la diversidad de realidades y enfocarse en procesos escalonados donde las pérdidas y ganancias sean claras. Todo para que el objetivo final sea abordar esas asimetrías históricas y sistémicas.
La ventana se está cerrando
A medida que Colombia, Chile, Brasil y Uruguay se acercan a nuevos ciclos electorales, las amenazas que plantea una IA no regulada se vuelven más urgentes. Sin una acción rápida e inclusiva, corremos el riesgo de erosionar aún más la confianza ciudadana, debilitar las instituciones públicas y reforzar la brecha de género en la era digital.
Pero hay esperanza. En toda la región vemos focos de innovación que muestran lo que es posible:
- Startups de IA lideradas por mujeres que desarrollan herramientas éticas de datos en Bogotá.
- Hackatones en Buenos Aires que combaten la misoginia en línea.
- Gobiernos municipales en México que exploran la IA para servicios sociales con equidad desde el diseño.
Lo que falta es escala, coordinación e inversión sostenida.
Un llamado a la acción
América Latina tiene la oportunidad no solo de regular la IA, sino de reimaginarla. De ir más allá del simple cumplimiento y avanzar hacia un futuro donde la tecnología refleje las aspiraciones democráticas y los compromisos sociales de la región.
Esto no será fácil. Requiere voluntad política, colaboración entre sectores y, sobre todo, el coraje de enfrentar verdades incómodas sobre sesgo, poder y exclusión.
Pero el costo de la inacción es mucho mayor.
La IA no esperará. La pregunta es si América Latina moldeará su futuro con propósito o permitirá que lo moldeen algoritmos diseñados en otros lugares.
Víctor Muñoz is a technology strategist and public policy expert focused on AI governance in Latin America. He served as National Digital Advisor and has led regional digital transformation initiatives centered on ethics, inclusion and innovation. His most recent book, AI Beyond Algorithms, offers a comprehensive understanding of AI for everyone (not just engineers). He is a Faculty Associate at Berkman Klein Center for Internet & Society at Harvard University. www.victormunoz.me
Víctor Muñoz es estratega en tecnología y experto en políticas públicas centradas en la gobernanza de la IA en América Latina. Fue Consejero Nacional Digital y ha liderado iniciativas regionales de transformación digital con enfoque en ética, inclusión e innovación. Su libro más reciente, IA más allá de los algoritmos, ofrece una comprensión integral de la IA para todos (no solo para ingenieros). Es Investigador Asociado del Berkman Klein Center for Internet & Society de la Universidad de Harvard. www.victormunoz.me
Related Articles
Race and Culture: AI Is Not Neutral
For many Latin Americans, “Artificial Intelligence” is El Cuco—the bogeyman. The words evoke imagery of technology enabled monsters from the big screen…
Technology and Collective Memory: Commemorating the Unidad Popular
The one thousand days of Salvador Allende’s presidency, from 1970–1973, marked a period of political innovation in Chile.
Endangered Languages in the New Age of AI
Fifteen years ago, while in Mexico City, I stumbled upon the retrospective exhibition Helen Escobedo: A escala humana, a tribute to the artist at the city’s Museum of Modern Art.
