Giving a Soul to AI
When Fiction Illuminates the Ethics of the Present
To better understand the present of artificial intelligence, I decided to travel to the future. I did so through writing a novel, Robots with Soul: Trapped Between Truth and Freedom. From that fiction, I was able to observe the present as if it were already history and ask myself what do we need to change today so that the superintelligence of the future is not a dystopia, but hopeful progress? I wanted to explore in my novel the consequences of lies and coercion, trends that will increase due to growing human disinformation and propaganda, and the impact of an AI that will create an internet of its own, inhuman content, which has already been coined as the “dead internet.”
We accept AI as a co-pilot in our lives. The personalization that the industry sells as a benefit is techno-surveillance. Amazon adjusts prices thousands of times a day based on our behavior. Similarly, Uber increases fares when it detects a low battery on a phone, and Delta Air Lines once considered dynamic pricing that rose if a passenger was rushing to a relative’s funeral; what the market presents as efficiency is, in practice, emotional exploitation.
The risk grows when commercial logic spills over into government. In Mexico and El Salvador, Pegasus spyware was used against journalists and human rights defenders under the pretext of national security. These cases show how technology, presented as protection, can turn into a mechanism of political control.
Addiction is not accidental either. Just as social media was designed to maximize our screen time, chatbots and virtual assistants are already showing psychological effects such as insomnia, anxiety and emotional dependence. The World Health Organization (WHO) and the American Psychological Association have warned of their impact on memory and mental health. The question, then, is not whether AI helps us, but whether we are willing to give it access to our most vulnerable intimacy.
I’ve been trying to use literature to help us understand this complicated AI panorama and how it affects Latin America and the world at large. In a parallel essay that helped me refine the novel, I described AI as a “tenant” installed in our home: silent, persistent and always observing. Every search on Google, every video on TikTok, every WhatsApp conversation becomes an intimate confession that feeds its algorithms. This tenant offers us convenience, but at the cost of exposing our emotions, beliefs and prejudices.
One of the most repeated promises is that AI, free of prejudice, will be objective and safe. But that objectivity is a mirage. The machine repeats the biases of the data on which it was trained. Amazon had to scrap a hiring tool because it discriminated against women. And sometimes AI doesn’t even need false data to get it wrong; it simply invents it—the famous “hallucinations,” responses that sound articulate but are false, delivered with the certainty of truth.
Reducing AI only to its risks would be shortsighted. This same “tenant” that learns our prejudices can also become an unprecedented ally. In mammography it detects patterns that a human eye might overlook, giving a mother valuable time against cancer. AlphaFold by DeepMind solved the long-standing riddle of protein folding. This challenge haunted biology for 50 years, earning its creators, Demis Hassabis and John Jumper, the 2024 Nobel Prize in Chemistry.
The duality that looms over the new digital ecosystem is very present for the characters in Robots with a Soul. They realize that the only way to neutralize the evil that besieges humans and robots as well is to act with a deep ethical sense, adhering to the Virtues of Creation that God used to create everything from nothing. To overcome the conflicts between both species and find solutions that benefit everyone, they proactively seek conditions of equality with humanity.
Yet these bright lights coexist with the persistent shadow of bias bubbles. Fed by algorithms that reinforce our existing beliefs and make opposing views invisible, they erode public debate and undermine collective trust. When trust in information is lost, trust in democracy is also lost. According to Latinobarómetro, barely a third of Latin Americans trust the democratic system today—the lowest level in decades. The paradox is that there have never been so many elections nor so much connectivity, and yet trust is collapsing.
Journalists warn that press freedom is being undermined, judges face verdicts influenced by algorithms, and politicians are trapped in digital echo chambers. What happens if we accept a democracy without journalists investigating, without judges deciding, without politicians negotiating? What remains is a democracy without a soul.
Between Ethics and Power
The honest debate about AI lies in how to harmonize three forms of progress: technological, economic and democratic. None can stand alone, and all three risk fractures if not considered together. This is as true in Latin America, as it is in the United States and elsewhere.
Within this context, two opposing visions emerge, reflecting the tension between fear and optimism. Effective altruism calls for aligning AI with human values to avoid existential risks, while accelerationism trusts in unbridled progress as the only way to confront humanity’s global problems. Amid this fracture, the underlying question is both complex and straightforward: how do we humanize artificial intelligence without losing our own souls?
To avert a War of Consciousness with humans, the robots in my novel create their own Codex of Cosmic Consciousness. This set of commandments is rooted in the belief that they must act with a strong ethical foundation, choosing good over evil, to achieve peace and coexistence. They are convinced that these principles will pave the way for a harmonious alliance with humanity, in which both species can navigate life and the future with creativity, guided by the virtues of truth, freedom, and goodness.
We must avoid the false dichotomy of choosing between naïve optimism and paralyzing fear. What we need is an intermediate path that combines innovation with responsibility, pragmatism with verifiable ethics. It is the view of philosophers such as Shannon Vallor (University of Edinburgh) and Luciano Floridi (Oxford and Yale), advocates of an applied and culturally plural ethics.
The risk, however, is that everything remains rhetorical. Many companies engage in ethics washing, adopting codes of conduct that serve more for public relations than for protecting users. Google dissolved its ethics council a week after creating it. Meta boasts of its Oversight Board but does not give it absolute authority over its algorithms. In the face of this, sometimes the only correction comes from a whistleblower, such as Frances Haugen, who revealed that Facebook knew Instagram harmed teenagers’ mental health.
AI ethics cannot be isolated from geopolitics or the environment. The United States bets on private innovation, while China subordinates it to the objectives of the Communist Party. Washington sees microchips as a geopolitical arsenal and has blocked exports of advanced semiconductors to slow China’s progress. Beijing, for its part, invests heavily in AI research and controls much of the global supply of rare earth minerals—essential for the production of chips, batteries and other technologies—converting raw materials into a strategic lever. The dispute goes beyond trade: TikTok has become a symbol of distrust, while both powers compete to define the technological standards that will shape the following decades.
In Latin America, the problem is more pronounced. A recent journalistic investigation, “The Invisible Hand of Big Tech,” by the consortium, which includes outlets like Brazil’s Agência Pública, Colombia’s Cuestión Pública, and the Latin American Center for Investigative Journalism (CLIP), revealed a significant imbalance in the regulation of large technology companies. ue to the lack of lobby regulation, these companies exert pressure to influence public policy in their favor. Through organizations such as the Latin American Internet Association (ALAI) and the hiring of former officials—a practice known as the “revolving door,”— exemplified by Brazil’s former president, Michel Temer, being hired by Google—Big Tech has managed to block laws like the “Fake News Law” in Brazil and weaken mental health in Colombia (as it relates to internet regulation) and data protection regulations in Ecuador. These actions prioritize business over public protection, highlighting the lack of a solid legal framework to safeguard users and ensure a healthy internet.
In Latin America and elsewhere, the ethical debate also cannot ignore the energy paradox. Training models such as GPT requires enough power to supply entire cities. Microsoft, Google and Amazon are exploring nuclear energy to sustain this revolution, though that path is not free of shadows, as history showed at Chernobyl and Fukushima; the risks of accidents and possible sabotage remain. The future may be more hopeful in another direction. In August, UCLA researchers published a breakthrough in photonic neural networks that process information with light instead of electrons, promising to reduce AI’s ecological footprint drastically.
The challenge is not only material. Just as AI tests our energy resources, it also questions our spiritual ones. It not only demands power to function, but it also demands meaning to coexist with us. That is why it touches the most intimate fiber of our culture and identity. What value will authentic human experience have in a world saturated with machine-generated art and interactions? How will we protect the beauty of our imperfect creativity against the seduction of a flawless replica?
Rediscovering the Soul
At this point, the question is not technical but philosophical: what does it mean to give a soul to AI? In my novel, it is a call to imbue technology with ethical and intellectual values so that it makes its best decisions, based on truth, freedom, goodness and creativity. Following the advice of philosophers of old, like Aristotle, my robots recall that ethics is not reduced to rules but to the cultivation of virtues.
That same conviction also runs through contemporary thinkers. The book Genesis: Artificial Intelligence, Hope, and the Human Spirit (2024, by Eric Schmidt, Craig Mundie, and, posthumously, Henry Kissinger) insists that AI’s course lies neither in blind faith nor in fear, but in a strategy that combines safer design, responsible governance and alignment with human values, with dignity as its guiding principle.
From the future, Robots with a Soul speaks to the present, urging that technology should not only become faster or more powerful, but a faithful ally of human dignity. In both the present and the future, we must neither fear nor idealize AI but make it more human. Let it have a soul.
Dotar de Alma a la IA
Cuando la Ficción Ilumina la Ética del Presente
Por Ricardo Trotti
Para entender mejor el presente de la inteligencia artificial, decidí viajar al futuro. Lo hice escribiendo una novela, Robots con Alma: atrapados entre la verdad y la libertad. Desde esa ficción, pude observar el presente como si ya fuera historia y preguntarme qué necesitamos cambiar hoy para que la superinteligencia del futuro no sea una distopía, sino un progreso lleno de esperanza. Quise explorar en mi novela las consecuencias de la mentira y la coerción, tendencias que aumentarán debido a la creciente desinformación y propaganda, y el impacto de una IA que creará su propio contenido, inhumano, lo que ya se ha acuñado como la “internet muerta”.
Aceptamos la IA como un copiloto en nuestras vidas. La personalización que la industria vende como un beneficio es, en realidad, tecnovigilancia. Amazon ajusta los precios miles de veces al día basándose en nuestra conducta. De manera similar, Uber aumenta las tarifas cuando detecta poca batería en un teléfono, y Delta Air Lines llegó a considerar precios dinámicos que subían si un pasajero se apresuraba a ir al funeral de un familiar. Lo que el mercado presenta como eficiencia es, en la práctica, explotación emocional.
El riesgo crece cuando la lógica comercial se extiende al gobierno. En México y El Salvador se utilizó el software Pegasus para espiar a periodistas y defensores de derechos humanos con el pretexto de la seguridad nacional. Estos casos muestran cómo la tecnología, presentada como protección, puede convertirse en un mecanismo de control político.
La adicción tampoco es accidental. Así como las redes sociales fueron diseñadas para maximizar nuestro tiempo de pantalla, los chatbots y asistentes virtuales ya están mostrando efectos psicológicos como insomnio, ansiedad y dependencia emocional. La Organización Mundial de la Salud (OMS) y la Asociación Americana de Psicología han advertido sobre su impacto en la memoria y la salud mental. La pregunta, entonces, no es si la IA nos ayuda, sino si estamos dispuestos a darle acceso a nuestra intimidad más vulnerable.
He estado tratando de usar la literatura para ayudarnos a entender este complicado panorama de la IA y cómo afecta a América Latina y al mundo en general. En un ensayo paralelo que me ayudó a pulir la novela, describí a la IA como un “inquilino” instalado en nuestra casa: silencioso, persistente y siempre observando. Cada búsqueda en Google, cada video en TikTok, cada conversación de WhatsApp se convierte en una confesión íntima que alimenta sus algoritmos. Este inquilino nos ofrece comodidad, pero a costa de exponer nuestras emociones, creencias y prejuicios.
Una de las promesas más repetidas es que la IA, libre de prejuicios, será objetiva y segura. Pero esa objetividad es un espejismo. La máquina repite los sesgos de los datos con los que fue entrenada. Amazon tuvo que desechar una herramienta de contratación porque discriminaba a las mujeres. Y a veces la IA ni siquiera necesita datos falsos para equivocarse; simplemente los inventa, las famosas “alucinaciones”, respuestas que suenan articuladas, pero son falsas, ofrecidas con la certeza de la verdad.
Reducir la IA solo a sus riesgos sería una miopía. Este mismo “inquilino” que aprende nuestros prejuicios también puede convertirse en un aliado sin precedentes. En una mamografía detecta patrones que un ojo humano podría pasar por alto, dándole a una madre un tiempo valioso contra el cáncer. AlphaFold de DeepMind resolvió el antiguo enigma del plegamiento de proteínas. Este desafío persiguió a la biología durante 50 años, lo que les valió a sus creadores, Demis Hassabis y John Jumper, el Premio Nobel de Química en 2024.
La dualidad que se cierne sobre el nuevo ecosistema digital está muy presente para los personajes de Robots con Alma. Se dan cuenta de que la única forma de neutralizar el mal que los asedia, tanto a humanos como a robots, es actuar con un profundo sentido ético, adhiriéndose a las Virtudes de la Creación que Dios utilizó para crear todo de la nada. Para superar los conflictos entre ambas especies y encontrar soluciones que beneficien a todos, buscan proactivamente condiciones de igualdad con la humanidad.
Sin embargo, estas luces brillantes coexisten con la persistente sombra de las burbujas de sesgo. Alimentadas por algoritmos que refuerzan nuestras creencias existentes y hacen invisibles las opiniones opuestas, erosionan el debate público y socavan la confianza colectiva. Cuando se pierde la confianza en la información, también se pierde la confianza en la democracia. Según Latinobarómetro, apenas un tercio de los latinoamericanos confía hoy en el sistema democrático, el nivel más bajo en décadas. La paradoja es que nunca ha habido tantas elecciones ni tanta conectividad, y sin embargo la confianza se está desmoronando.
Los periodistas advierten que la libertad de prensa está siendo socavada, los jueces se enfrentan a veredictos influenciados por algoritmos y los políticos están atrapados en cámaras de eco digitales. ¿Qué sucede si aceptamos una democracia sin periodistas que investiguen, sin jueces que decidan, sin políticos que negocien? Lo que queda es una democracia sin alma.
Entre la ética y el poder
El debate honesto sobre la IA radica en cómo armonizar tres formas de progreso: tecnológico, económico y democrático. Ninguno puede sostenerse por sí solo, y los tres corren el riesgo de fracturarse si no se consideran en conjunto. Esto es tan cierto en América Latina, como en los Estados Unidos y en cualquier otro lugar.
Dentro de este contexto, surgen dos visiones opuestas que reflejan la tensión entre el miedo y el optimismo. El altruismo eficaz llama a alinear la IA con los valores humanos para evitar riesgos existenciales, mientras que el aceleracionismo confía en el progreso desenfrenado como la única forma de afrontar los problemas globales de la humanidad. En medio de esta fractura, la pregunta subyacente es tan compleja como sencilla: ¿cómo humanizamos a la IA sin perder nuestras propias almas?
Para evitar una Guerra de Conciencias con los humanos, los robots de mi novela crean su propio Códice de Conciencia Cósmica. Este conjunto de mandamientos se fundamenta en la creencia de que deben actuar con una base ética sólida, eligiendo el bien sobre el mal, para lograr la paz y la coexistencia. Están convencidos de que estos principios allanarán el camino para una alianza armoniosa con la humanidad, en la que ambas especies puedan navegar por la vida y el futuro con creatividad, guiados por las virtudes de la verdad, la libertad y la bondad.
Debemos evitar la falsa dicotomía de elegir entre un optimismo ingenuo y un miedo paralizante. Lo que necesitamos es un camino intermedio que combine innovación con responsabilidad, pragmatismo con ética verificable. Es la visión de filósofos como Shannon Vallor (Universidad de Edimburgo) y Luciano Floridi (Oxford y Yale), defensores de una ética aplicada y culturalmente plural.
El riesgo, sin embargo, es que todo se quede en la retórica. Muchas empresas se dedican al ethics washing, adoptando códigos de conducta que sirven más para las relaciones públicas que para proteger a los usuarios. Google disolvió su consejo de ética una semana después de crearlo. Meta se jacta de su Oversight Board pero no le da autoridad absoluta sobre sus algoritmos. Frente a esto, a veces la única corrección viene de un whistleblower, como Frances Haugen, quien reveló que Facebook sabía que Instagram dañaba la salud mental de los adolescentes.
La ética de la IA no puede aislarse de la geopolítica o el medio ambiente. Estados Unidos apuesta por la innovación privada, mientras que China la subordina a los objetivos del Partido Comunista. Washington ve los microchips como un arsenal geopolítico y ha bloqueado las exportaciones de semiconductores avanzados para frenar el progreso de China. Pekín, por su parte, invierte fuertemente en investigación de IA y controla gran parte del suministro global de minerales de tierras raras —esenciales para la producción de chips, baterías y otras tecnologías—, convirtiendo las materias primas en una palanca estratégica. La disputa va más allá del comercio. TikTok se ha convertido en un símbolo de desconfianza, mientras ambas potencias compiten para definir los estándares tecnológicos que darán forma a las próximas décadas.
En América Latina, el problema es más pronunciado. Una reciente investigación periodística, “La Mano Invisible de las Big Tech”, realizada por un consorcio que incluye medios como la brasileña Agência Pública, la colombiana Cuestión Pública y el Centro Latinoamericano de Investigación Periodística (CLIP), reveló un desequilibrio significativo en la regulación de las grandes empresas tecnológicas. Debido a la falta de regulación del lobby, estas compañías ejercen presión para influir en las políticas públicas a su favor. A través de organizaciones como la Asociación Latinoamericana de Internet (ALAI) y la contratación de exfuncionarios —una práctica conocida como la “puerta giratoria”, ejemplificada con la contratación del expresidente de Brasil, Michel Temer, por parte de Google—, las Big Tech han logrado bloquear leyes como la “Ley de las Fake News” en Brasil y debilitar las normas de salud mental en Colombia (respecto a la regulación de internet) y de protección de datos en Ecuador. Estas acciones priorizan los negocios sobre la protección pública, destacando la falta de un marco legal sólido para salvaguardar a los usuarios y garantizar una internet saludable.
En América Latina y en otros lugares, el debate ético tampoco puede ignorar la paradoja energética. Entrenar modelos como GPT requiere energía suficiente para abastecer a ciudades enteras. Microsoft, Google y Amazon están explorando la energía nuclear para sostener esta revolución, aunque ese camino no está libre de sombras, como demostró la historia en Chernóbil y Fukushima, es decir, persisten los riesgos de accidentes y también de posibles sabotajes. El futuro puede ser más esperanzador en otra dirección. En agosto, investigadores de la UCLA publicaron un avance en redes neuronales fotónicas que procesan información con luz en lugar de electrones, prometiendo reducir drásticamente la huella ecológica de la IA.
El desafío no es solo material. Así como la IA pone a prueba nuestros recursos energéticos, también cuestiona los espirituales. No solo exige poder para funcionar, sino que también exige significado para coexistir con nosotros. De esa forma toca la fibra más íntima de nuestra cultura e identidad. ¿Qué valor tendrá la experiencia humana auténtica en un mundo saturado de arte e interacciones generadas por máquinas? ¿Cómo protegeremos la belleza de nuestra creatividad imperfecta frente a la seducción de una réplica perfecta?
Redescubriendo el Alma
En este punto, la pregunta no es técnica sino filosófica: ¿qué significa dotar de alma a la IA? En mi novela, es un llamado a infundir en la tecnología valores éticos e intelectuales para que tome sus mejores decisiones, basadas en la verdad, la libertad, la bondad y la creatividad. Siguiendo el consejo de filósofos de la antigüedad como Aristóteles, mis robots recuerdan que la ética no se reduce a reglas, sino a cultivar virtudes.
Esa misma convicción también se encuentra en pensadores contemporáneos. El libro Génesis: Inteligencia Artificial, Esperanza y el Espíritu Humano (2024, de Eric Schmidt, Craig Mundie y, póstumamente, Henry Kissinger) insiste en que el rumbo de la IA no está en la fe ciega ni en el miedo, sino en una estrategia que combine un diseño más seguro, una gobernanza responsable y la alineación con los valores humanos, siendo la dignidad el principio rector.
Desde el futuro, Robots con Alma habla al presente instando a que la tecnología no solo se vuelva más rápida o poderosa, sino que sea un aliado fiel de la dignidad humana. Tanto en el presente como en el futuro, no debemos temer ni idealizar a la IA, sino hacerla más humana. Que tenga alma.
Truth and freedom have always been Ricardo Trotti‘s tools, both in his career as a journalist and press freedom advocate and in his work as a writer. With the publication of this novel, he ventures into science fiction to reflect on the future of AI and its impact on the most essential human values.
La verdad y la libertad siempre han sido las herramientas de Ricardo Trotti, tanto en su carrera como periodista y defensor de la libertad de prensa como en su trabajo como escritor. Con la publicación de esta novela, se aventura en la ciencia ficción para reflexionar sobre el futuro de la IA y su impacto en los valores humanos más esenciales.
Related Articles
Race and Culture: AI Is Not Neutral
For many Latin Americans, “Artificial Intelligence” is El Cuco—the bogeyman. The words evoke imagery of technology enabled monsters from the big screen…
Technology and Collective Memory: Commemorating the Unidad Popular
The one thousand days of Salvador Allende’s presidency, from 1970–1973, marked a period of political innovation in Chile.
Endangered Languages in the New Age of AI
Fifteen years ago, while in Mexico City, I stumbled upon the retrospective exhibition Helen Escobedo: A escala humana, a tribute to the artist at the city’s Museum of Modern Art.
