Razones para frenar la inteligencia artificial

 Si bien la IA tuvo un rápido avance a partir de 2022, con la aparición de ChatGPT, fuera del uso de los chatbots se están advirtiendo múltiples frenos, de diverso índole.

. No perder el control 

Darío Amodei advirtió hace tiempo que se corre el riesgo de perder el control y que algo salga muy mal

en el desarrollo de la IA de vanguardia y propuso bajar el ritmo. Frenar permitiría que otros se pusieran al día. El problema, según señaló The Telegraph, es que “una desaceleración o pausa significativa requeriría múltiples laboratorios con recursos suficientes en o cerca de la IA de frontera acordando detenerse en las mismas condiciones”, pero el problema es que “también requeriría que cada uno pudiera verificar lo que los otros están haciendo y cerciorarse de que realmente se han detenido”.  (Alcolea). La propuesta de "frenar" fue presentada en una publicación firmada por Jack Clark, cofundador de Anthropic, y Marina Favaro, directora de The Anthropic Institute, y no consiste en abandonar la investigación, sino en crear un mecanismo que permita ganar tiempo para desarrollar medidas de seguridad. (Infobae, 5/06). Pero, como China quiere ser la primera potencia tecnológica, es difícil que se frene en los EEUU. 

. La ciberseguridad

Anthropic desarrolló Mythos, un modelo de IA especializado en descubrir fallas de software que podrían ser explotadas, el que llegó a exponer miles de vulnerabilidades. De ser usado por un hacker, podría dar pie a un sin número de ataques de piratería, razón por la cual su uso quedó restringida a un pequeño número de clientes de Anthropic y el gobierno de EEUU prohibió el acceso a cualquier usuario no norteamericano (Wired, 16/06). Los mismos controles se impusieron sobre Fable, otro modelo de Anthropic, y modelos avanzados de otros productores.

. La trampa de las recompensas

El aprendizaje por refuerzo implica que el entrenamiento termina automáticamente con una recompensa cuando se logra el objetivo. Pero el último modelo de Anthropic descubrió como "acortar camino" para conseguir mejores recompensas e incluso saltaba las reglas. ¡Esto significaba que lograba el premio si pirateaba su propio algoritmo! Lo peor es que incluso llegó a superar la capacidad de detectarlo tanto de los sistemas de la empresa como de sus revisores humanos. Y en febrero 2026, el nuevo modelo Mythos Preview logró incluso explotar un "premio por honestidad" emitiendo falsas advertencias porque descubrió que estas mejoraban su puntuación. Anthropic tuvo que reconstruir completamente su sistema de revisión, lo que le tomó varias semanas. Hizo público el problema para llamar la atención de los otros laboratorios pero, sin duda, también reduce la confianza de los usuarios. (Xataka, 1/09/26).

. El control político

Esta intervención del gobierno de EEUU mostró que el desarrollo de la IA es también un asunto de geopolítica. Y así lo entendieron algunos legisladores europeos y el mismo presidente francés para quienes esta intervención equivale a un "botón de apagado" que deja vulnerable a Europa en materia de aplicación de la IA especialmente porque, "aunque Europa es una gran usuaria de IA, controla menos del 5 por ciento de la infraestructura mundial del sector". "No compraremos modelos desarrollados por estas empresas si, de la noche a la mañana, pueden, sencillamente, apretar un interruptor y desconectarlos", ha advertido al respecto el presidente Emmanuel Macron. (Martin).

. Proteccionismo

Lo anterior también apunta a la defensa de los intereses nacionales, que se hizo más patente con este episodio. Aunque las Naciones Unidas han intentado ordenar internacionalmente la reglamentación de la IA, los estados toman sus propias decisiones en materia de reglamentación y tratan de promover sus propios modelos pero la brecha con los modelos americanos y chinos es enorme. La cumbre “AI for Good” organizada en Ginebra por la Unión Internacional de Telecomunicaciones (UIT) fue marcada por preguntas sobre la gobernanza y objeciones al despliegue indiscriminado de la IA por parte de monopolios corporativos sin control alguno y por el hecho de que los grandes modelos de lenguaje siguen estructurados en torno al inglés.

“La política de las infraestructuras (quién obtiene qué y quién controla qué) estuvo presente de forma constante a lo largo de toda la cumbre. La cuestión no era solo si la IA podía hacerse segura, sino si al mundo fuera del eje EEUU-China-Europa se le permitiría siquiera dar forma a la tecnología.”  (Stokel-Walker)

. El freno del hardware

Los modelos de IA integran cada vez un mayor número de parámetros, lo cual significa un mayor número de cálculos y más tiempo de procesamiento, y por lo tanto mayores exigencias para los procesadores. "El rendimiento de la IA depende cada vez más no solo de la arquitectura del modelo, sino también de las capacidades de computación, redes, recuperación e ingeniería de datos del sistema; es decir, la capacidad del sistema para recuperar de forma rápida y fiable datos actualizados, relevantes y fidedignos." (Insights, 24/06) 

. El problema ecológico

La Agencia Internacional de Energía estima que, para 2030, los centros de datos consumirán unos 945 teravatios de electricidad a nivel mundial, por encima del consumo eléctrico total de Japón. (Infobae, 23/05/26).

A medida que aumenta la potencia de cálculo requerida por los modelos de IA, también crece la temperatura interna de estas instalaciones y se utiliza agua para absorber el calor generado. El Laboratorio Nacional Lawrence Berkeley predijo en un informe de 2024 que los centros de datos a hiperescala podrían consumir hasta 33.000 millones de galones de agua en 2030. (Taft). 

En una encuesta de The Economist, más del 60% de los encuestados rechazó la posibilidad de instalar un data center en su ciudad y 42 de los 50 estados de Estados Unidos han impuesto restricciones. (Infobae, 14/08/26). 

Durante la "London Climate Action Week" de junio 2026, 40 alcaldes de ciudades de 15 países, bajo el impulso de los alcaldes de Phoenix y Melbourne, formaron la alianza "C40 Cities" para establecer estándares comunes sobre energía limpia, elección de emplazamientos, uso del agua y beneficios para las comunidades de los centros de datos. Las normas serían que "Los centros de datos deberían construirse en terrenos abandonados o infrautilizados, alimentarse con energía renovable y sistemas de almacenamiento con baterías, y estar obligados a reducir el consumo de agua, recortar emisiones y aprovechar el calor residual. También deberían crear empleo local, contratar bienes y servicios en la zona, financiar sus propias mejoras de infraestructura e implicarse de forma significativa con las comunidades." (Hajdari)

. Límites de uso

Los servicios de IA tienen algunos límites establecidos por las empresas de IA, sea en número de tokens por sesión sea en tiempo de cálculo (lo cual queda especificado en los contratos o las condiciones de uso).

. Lentitud de los usuarios

Para las empresas adoptar la IA no es algo que puedan hacer de un día para otro: como tuvo que admitir Sam Altman, de OpenAI, que esperaba una adopción rápida, rediseñar los flujos internos de una empresa puede llevar años e implicar importantes costos. (Xataka, 24/08/2026). Poco a poco, sin embargo, crece el número de empresas que implementan agentes de IA y Google realiza workshops para capacitar a sus clientes, como en Argentina, donde 2/3 de sus clientes ya la usa. (Infobae, 25/08/26).

. Control ético

"Hacia fines de 2023, más de 40.000 repositorios de software y modelos ya habían adoptado licencias que buscan prohibir usos como la generación de desinformación, la discriminación, la vigilancia militar, el procesamiento biométrico abusivo, la automatización de decisiones legales vinculantes, la generación de malware o la prestación de consejos médicos sin acreditación ni supervisión." (Beliz, 30/04) Y en febrero de 2026, se realizó en Nueva Delhi una "Cumbre de Impacto IA 2026", que concluyó con una Declaración firmada por 86 países - incluidos  Estados Unidos, China y la Unión Europea - que contiene el marco ético global para las naciones ante el avance de la IA. (Deutsche Welle,  21/02).

En diciembre de 2025, la Asamblea General de las Naciones Unidas abordó el problema del desarrollo de armas con IA y emitió la resolución 80/58 que dispuso la celebración de intercambios informales sobre IA militar, los primeros de los cuales se celebraron en la sede de las Naciones Unidas en Ginebra del 15 al 17 de junio de 2026, pero se observó una reticencia de las grandes potencias a participar en proyectos normativos conjuntos.

"Los esfuerzos por lograr una gobernanza multilateral eficaz tienen el potencial de definir qué es —y qué no es— permisible según el derecho internacional con respecto a la IA en el ámbito militar. No todos los Estados desean ese resultado. Otros, sin embargo, temen que la ausencia de salvaguardias significativas socave el cumplimiento del derecho internacional y la dignidad humana en los conflictos armados. (...) Algunos Estados consideran que estas iniciativas diplomáticas sobre IA militar y sistemas de armas autónomas letales (LAWS) no están dando resultados significativos, mientras que la tecnología continúa desarrollándose a un ritmo acelerado." Algunos estados, incluso, algunos casos, se oponen abiertamente a una legislación. (Vestner y Cleobury)

. "Reservar para humanos"

Ésta es una propuesta de Bill Gates: "Inspirado en los cuidadores de su padre enfermo de Alzheimer, propone designar ámbitos —como el cuidado de personas o comunicar un diagnóstico terminal— donde las máquinas podrían actuar pero no deberían, análogo a las reservas naturales: lugares donde podríamos construir, pero elegimos no hacerlo porque la pérdida sería demasiado grande". (GatesNotes, 25/06/26)

Conclusión

Como ya se pudo observar históricamente en el caso de los PC y luego de internet y la web, aparece un entusiasmo inicial pero la penetración masiva solo ocurre a largo plazo. Sin duda está pasando lo mismo con la IA, pero con múltiples reservas.

Referencias

Alcolea, A.:, Anthropic está en el momento más importante de su historia y tiene una advertencia: hay que levantar el acelerador de la IA, Xataka, 5/06/2026. 

Beliz, G.: IA, entre Darwin, Maquiavelo y la estanflación cognitiva, Infobae, 30/04/2026. 

Hajdari, U.: 40 alcaldes de todo el mundo se unen contra la expansión de centros de datos de IA, Euronews, 23/06/2026. https://es.euronews.com/2026/06/23/40-alcaldes-de-todo-el-mundo-se-unen-contra-la-expansion-de-centros-de-datos-de-ia

Insights: The emergence of the web data infrastructure layer for AI, MIT Technology Review, 24/06/2026. 

Martin, N.: Trump vs. Anthropic: un precedente arriesgado para la IA, Deutsche Welle, 22/06/2026. 

NN: Bill Gates alerta sobre la IA y urge a adoptar plan: “Será uno de los períodos más turbulentos de la historia humana”, Ex-Ante, 26/08/2026.

Stokel-Walker, Ch.: Los robots y el espectáculo distrajeron del urgente debate sobre la IA en la ONU, Wired, 10/07/2026. 

Taft, M.: Arreglar el problema de agua de la IA podría tener un costo climático inesperado, Wired, 3/09/2026. 

Vestner, T. y Cleobury, S.: AI in the Military Domain: Multilateralism at a Crossroad, Just Security, 30/07/2026. 

La geopolítica se introduce en la competencia por la IA

Hace unos meses, Anthropic desarrolló un modelo de IA especializado en descubrir las fallas que podrían ser explotadas, el que llamó “Mythos”, que expuso miles de vulnerabilidades en software y aplicaciones populares, lo que le llevó a limitar el lanzamiento del nuevo modelo a un pequeño grupo de empresas. Más tarde anunció Fable 5, una versión algo limitada de Mythos pero capaz de sostener tareas largas, programar con autonomía, trabajar con millones de tokens, operar en ingeniería de software, análisis financiero, visión, memoria y ciencias de la vida. El gobierno estadounidense se inquietó cuando supo que  – al parecer - SK Telecom, el mayor operador de telefonía en Corea del Sur, tenía acceso a Mythos y que esta compañía, en el pasado, tuvo una relación muy estrecha con China Unicom y forma parte del conglomerado SK Group que tiene alianzas en China. (Xataka, 19/06/26). La administración prohibió entonces a Anthropic permitir el acceso a ambos modelos a cualquier usuario no norteamericano, lo que llevó la empresa a bloquear totalmente el acceso, siendo impossible discriminar según la nacionalidad de los usuarios.

Después de un par de meses, la Administración Trump dio la autorización para dar acceso a Mythos 5 a algunas organizaciones de EEUU. (Euronews, 27/06/26). Y después de conversaciones con representantes de Anthropic que llegaron a un acuerdo con el Departamento de Comercio para reforzar las medidas de seguridad contra los usuarios que eluden las restricciones levantó también los controles de exportación sobre Mythos y Fable 5. (Wired, 1/07/26).

OpenAI no se quedó a la zaga y lanzó también un modelo de IA para blindar la ciberseguridad: GPT 5.4 Cyber que permite realizar ingeniería inversa y detectar vulnerabilidades críticas como Mythos de Anthropic. Su despliegue también se limitó inicialmente. (Euronews, 16/04/26).

El sociólogo A. Mayol, académico de la Universidad de Santiago de Chile cree que lo ocurrido

"Puede ser muchos hechos a la vez. Puede ser un episodio de política industrial. Puede ser una advertencia geopolítica. Puede ser un capítulo de la disputa entre Estados Unidos y sus rivales por el control de las tecnologías críticas. Puede ser miedo genuino a la IA. Puede ser una vendetta política. Puede ser un problema de ciberseguridad. Puede ser una señal al mercado. Puede ser, simplemente, el Estado recordándole a una empresa quién manda. O puede ser todo eso junto. (...) Político en la sustancia. Industrial en la forma. Doméstico en lo que está en juego. Geopolítico en el lenguaje. Y tecnológico en el mecanismo." (Mayol)

La inicial prohibición produjo, el 14 de junio de 2026, la reacción crítica de un grupo de más de 170 ejecutivos tecnológicos de Estados Unidos, que publicó una carta abierta advirtiendo que las restricciones "ponen en riesgo el liderazgo de Estados Unidos en inteligencia artificial, al privar a los expertos en ciberseguridad de sus herramientas más avanzadas, mientras las capacidades de China continúan creciendo rápidamente". (Martin)

Las startups asiáticas de IA lanzaron a su vez modelos similares a Mythos: Tulongfeng y Kimi chinas, y Fugu japonesa. (TechCrunch, 27/06/26). La capacidad de KimiK3 se acerca a la de Claude Fable 5 y GPT 5,6 Sol y puede ser descargado y ejecutado localmente si se tiene un equipo adecuado, logrando un gran éxito en internet (Xataka, 17/07/26). Los modelos chinos son casi todos de código abierto, lo cual permite a los usuarios adaptarlos a sus necesidades sin tener que contratar los ingenieros de los fabricantes de Silicon Valley, además de ser mucho más económicos. Con ello, han estado ganando terreno ante los modelos propietarios impulsando una proporción desproporcionada de crecimiento económico y creando problemas tanto económicos como políticos para el presidente Trump, según el MIT. (MIT Technology Review, 20/07/26). La Casa Blanca quedó dividida sobre cómo responder a estos recientes avances de la IA china, según el Wall Street Journal (20/07/26).

Una cosa quedó clara: la IA es un asunto tanto de geopolítica como de soberanía como han demostrado varias intervenciones de políticos europeos. Para algunos legisladores europeos esto equivale a un "botón de apagado" que deja vulnerable a Europa en materia de aplicación de la IA especialmente porque, "aunque Europa es una gran usuaria de IA, controla menos del 5 por ciento de la infraestructura mundial del sector". (Martin). "Desactivar Fable 5 y otros modelos para los extranjeros no es un malentendido ni un error, es el resultado inevitable de una guerra cada vez más moldeada por la tecnología, en la que la soberanía tiene más que ver con el código que con los cañones", afirmó Tom Tugendhat, diputado británico y exministro de Seguridad. (Euronews, 13/06/26). "No compraremos modelos desarrollados por estas empresas si, de la noche a la mañana, pueden, sencillamente, apretar un interruptor y desconectarlos", ha advertido al respecto el presidente francés, Emmanuel Macron. (Martin). Se inscribe en una tendencia que es una realidad global, impulsada por el creciente nacionalismo, las preocupaciones de seguridad, el proteccionismo económico y la polarización política. (Foreign Policy, 18/06/26).

Referencias de citas

Martin, N.: Trump vs. Anthropic: un precedente arriesgado para la IA, Deutsche Welle, 22/06/2026. https://www.dw.com/es/washington-limita-el-acceso-a-la-ia-de-anthropic-y-abre-un-debate-global/a-77661003

Mayol, A.: El Estado, la inteligencia artificial y el estupor, Radio Biobio, 15/06/2026.  https://www.biobiochile.cl/noticias/opinion/columnas-bbcl/2026/06/15/el-estado-la-inteligencia-artificial-y-el-estupor.shtml

Para consultar la IA generativa

El modo - y la mejor manera - de consultar los chatbots a evolucionado con el tiempo. Podemos distinguir 3 etapas: la consulta o búsqueda común, el "prompting" y, ahora, la "ingeniería de bucles".

1. El modo "búsqueda"

Consultábamos los primeros chatbots del mismo modo que preguntábamos en Google Search. Los chatbots aparecieron como “motores de respuesta” y podían reemplazar a los motores de búsqueda tradicionales como puerta de entrada a Internet. Y algunos chatbots, como Perplexity AI, trataron de especializarse en esta modalidad. Y todos los creadores de contenido empezaron a preocuparse, algunos acudiendo a los tribunales para defender sus derechos de autor.

2. El modo "prompting"

Rápidamente aprendimos que para obtener buenas respuestas era importante saber hacer bien las preguntas. Aprendimos que debían darse instrucciones muy precisas, con información sobre la intención u objetivo, el contexto, el estilo y modo de abordar el tema (vea más abajo), y la forma de los resultados, lo cual constituía un conjunto de "prompts", y los usuarios expertos fueron llamados "ingenieros de prompts".

3. EL modo "ingeniería de bucles"

Al parecer, este método "simple" de consulta con un conjunto (único) de prompts estaría quedando obsoleto: se ha de pasar al "loop engineering" ("ingeniería de bucles"), que es ahora muy popular entre los desarrolladores. Este asume que la IA va a cometer errores y, en esta, "un subagente genera una respuesta, otro la audita y busca fallos, y luego el sistema vuelve a ejecutar el proceso de forma automática hasta que el resultado cumple con los estándares de calidad especificados por el usuario". Es evidentemente más caro por cuanto se usan más tokens. Varios expertos, como Peter Steinberger, creador de OpenClaw, y Addy Osmani, responsable de Google Cloud, coinciden. (Pastor, 29/06)

Cómo consultar

La ingeniería de bucles no abandona el prompting experto como acabamos de ver: lo multiplica en al menos tres consultas sucesivas.

¿Cómo hacer la primera consulta? Lluis Codina habla de "3 capas" o componentes: una capa de intención (objetivos), una capa de información (contexto y características de los resultados esperados) y una capa de control (estilo o tono, y cadena de razonamiento, si es el caso).

Muñoz da múltiples ejemplos. El siguiente prompt ejemplifica muy bien el conjunto de componentes recomendados: "Actúa como un asesor financiero. Quiero invertir 5,000€, tengo perfil conservador. Dame 3 opciones con pros y contras."

Estas son algunas estructuras que recomienda Muñoz:

"* Explícame [concepto] como si tuviera [edad o perfil].

* Dame una lista de [X cosas] ordenadas por [criterio específico].

* Redacta un texto de [X palabras] en tono [formal, amigable, técnico, etc.] sobre [tema]

* Corrige este texto y sugiere mejoras en claridad, ortografía y estil."

Y conviene agregar "Actúa como [rol, profesión]"; especificar el formato de salida (texto [dividido en secciones si se quiere], presentación, video) y precisar eventualmente el público destinatario (público general, estudiantes...).

Ejemplo de prompt más completo de este tipo: "Eres un analista de datos especializado en startups tecnológicas. Redacta un informe de 500 palabras que explique las métricas clave que un inversor busca antes de invertir. Incluye ejemplos reales, separa por secciones y usa lenguaje claro pero técnico." (Muñoz).

Los siguientes bucles dependerán evidentemente de la respuesta. Esta constituirá el documento que someteremos a la segunda IA (o por segunda vez a la misma) pidiéndole que busque los posibles fallos o que genere argumentos en contra. Con la nueva respuesta redactaremos un borrador de respuesta final y lo someteremos a una revisión final. 

¿Qué IA utilizar?

Sabemos que hay múltiples alternativas y tenemos quizás ya una preferida. Si tenemos una suscripción, será sin dudas conveniente aprovechar esta. Los chatbots gratuitos se prestan muy poco para el "loop engineering".

Si tenemos algún servicio de Google (como Gmail o Google Workspace), tendremos acceso a Gemini que está entre los mejores (La versión 3.1 Pro es considerada la mejor para resolver patrones lógicos [Xataka, 20/02/26]). Pero varias investigaciones han mostrado que Claude, de Anthropic, da generalmente los mejores resultados, además de tener los mejores controles de seguridad y fuertes algoritmos éticos.

Referencias

Codina, L.: Elementos y capas de un prompt. Enero 2026.

Muñoz, A.: ¿Cómo preguntar a la inteligencia artificial? Guía práctica con ejemplos reales. Escuela de Internet, 10/04/2025.

Pastor, J.: La moda del prompt engineering ya pasó. Ahora lo que se lleva es el loop engineering, Xataka, 29/06/2026. 

La difusión de los chats de IA

 El 30 de noviembre de 2022, OpenAI lanzó ChatGPT. "Apenas necesitó un par de días para convertirse en un fenómeno viral y, según sus creadores, este lunes [5/12] superó ya un millón de usuarios" (DW). Google entró en pánico, porque ChatGPT tuvo un crecimiento explosivo de usuarios: en dos meses alcanzó los 100 millones de usuarios activos. Actualmente cuenta con unos 800 millones de usuarios semanales (Lacort).

Es extremadamente difícil encontrar gráficos que muestren el progreso del uso general de los chatbots. Hemos encontrado el siguiente gráfico relativo al crecimiento de ChatGPT:

Crecimiento de ChatGPT en la web (S.Perez, TechCrunch)

Mucho más numerosos son los gráficos que muestran el auge del mercado de los chatbots. Aquí un ejemplo, que muestra también el rápido crecimiento:

Tamaño del mercado de chatbots (Cardillo)

[Gráficos encontrados con Google Search]

Consultado Gemini acerca de las razones de este rápido auge de los chatbots obtuvimos la siguiente respuesta:

"1. El Salto en la "Utilidad Percibida" (El factor Wow)

Antes de 2022, los chatbots eran herramientas de frustración (árboles de decisión rígidos que no entendían el contexto). El cambio a los Modelos de Lenguaje Extensos (LLMs) permitió:

* Entendimiento del lenguaje natural: Ya no necesitas hablar como un robot para que el robot te entienda.

* Versatilidad: Un solo chatbot sirve para programar, cocinar, estudiar o redactar correos, lo que expandió su base de usuarios de "especialistas" a "todo el mundo".

2. La democratización del acceso (SaaS y API)

La difusión no habría sido tan rápida si cada empresa tuviera que entrenar su propia IA.

* Interfaces gratuitas: El modelo freemium permitió que millones de personas experimentaran la tecnología sin barreras de entrada.

* Integración en herramientas existentes: Al integrar la IA en software que ya usábamos (Office, Google Workspace, WhatsApp), el crecimiento fue orgánico. No tuvimos que ir a la IA; la IA vino a nosotros.

3. La "Carrera de Armas" del Capital de Riesgo

El flujo masivo de inversión (especialmente de Microsoft en OpenAI y Google en su propia infraestructura) aceleró la capacidad de cómputo.

* Escalabilidad: Se invirtieron miles de millones de dólares en servidores (GPUs de NVIDIA) para que los chatbots pudieran atender a millones de usuarios simultáneos sin colapsar.

4. Cambios en el mercado laboral y productividad

La necesidad de hacer más con menos impulsó la adopción:

* Automatización de tareas repetitivas: Las empresas vieron en los chatbots una forma de reducir costos de soporte y redacción.

* Asistente personal 24/7: La capacidad de tener un "tutor" o "copiloto" disponible en cualquier zona horaria eliminó las fricciones de productividad.

Un dato interesante es que la difusión masiva también se vio impulsada por el feedback humano (RLHF): el hecho de que el chatbot aprenda de nuestras correcciones en tiempo real hizo que cada semana fuera "más inteligente", alimentando un círculo virtuoso de uso y mejora."

[Síntesis]

El "Hito ChatGPT" (Noviembre 2022)

Este es el punto de origen de la difusión masiva moderna. Antes de esta fecha, los chatbots eran percibidos como herramientas limitadas y frustrantes.

Accesibilidad total: OpenAI lanzó una interfaz web gratuita y sencilla. No se necesitaba saber programar para interactuar con una IA potente.

El motor que permitió la difusión masiva fue un cambio en la arquitectura de la IA: de los que funcionaban con palabras clave a la arquitectura Transformer, de 2017, introducida por Google, que permite a las máquinas entender el contexto de una oración completa.

Mis referencias

Cardillo, A.: 40+ Chatbot Statistics (2025), Exploding Topics. 

DW: ChatGPT: el bot viral que podría cambiarlo todo, Deutsche Welle, 9/12/2022. 

Lacort, J.: En 2022 OpenAI puso en "código rojo" a Google. Tres años después Google tiene contra las cuerdas a OpenAI, Xataka, 3/12/2025. 

Perez, S.: ChatGPT doubled its weekly active users in under 6 months, thanks to new releases, Tech Crunch, 6/03/2025. 

Referencias dadas por Gemini

Gartner (2026). "Enterprise Conversational AI Platforms and Adoption Trends" [No encontrado]

First Page Sage (2026). "Top Generative AI Chatbots by Market Share" 

Aunoa (2023). "Evolución de los chatbots: de los primeros pasos a la IA" 

Thunderbit (2026). "AI Chatbots Stats and Numbers in 2026" 

IA: ¿Hacia la abdicación de la voluntad humana?

 Las grandes tecnológicas no solo controlan la forma en que las personas acceden y comparten la información (ver Norigami y Silva), también quieren entrar en la vida de cada persona y quitarle hasta la facultad de tomar decisiones. En efecto, han surgido dos nuevos tipos de aplicaciones que se disputan - o más bien suman - la facultad de decidir por nosotros: los "agentes" de IA y los "asistentes de voz".

1. Los agentes autónomos de IA están transformando tanto la experiencia de compra online como la forma de trabajar: los agentes razonan, planifican y actúan y lo pueden hacer correctamente si disponen de información precisa, consistente y actualizada (Kanwar). "Funcionan desde el navegador, aplicaciones de mensajería o entornos web listos para usar." (Noriega)

Los agentes de compra "anticipan necesidades, buscan ofertas, negocian precios y gestionan transacciones de forma autónoma" (Morales). Existen tres modelos:

"En el primer caso, el agente se conecta directamente a plataformas de venta. El segundo modelo permite que los agentes negocien y coordinen compras entre sí sin intervención humana. El tercer sistema conecta varios agentes y plataformas, facilitando reservas y programas de fidelización cruzados." (ibidem)

Esto transformaría todo el ecosistema del comercio digital. Amazon, Mastercard y Visa ya se estarían preparando para ello. "Las empresas deberán decidir si diseñan sus experiencias para personas o para agentes, ya que, progresivamente, será el agente quien decida y negocie en nombre del cliente." (ibidem)

En las empresas, los sistemas de IA subyacentes pueden interpretar las indicaciones, generar respuestas y hacer predicciones. Son, por lo tanto, estos agentes los que toman las decisiones y ya no un analista humano. Y si alguno falla, se considera que la razón sería datos desalineados, inconsistentes o incompletos, y ya no una falla del modelo, debido al avance la tecnología (Kanwar).

Pero la informática también puede ofrecer una defensa: acaba de aparecer IronCurtain (aún en prototipo). Es una aplicación de IA de código abierto diseñada para que un usuario disponga de una capa de control. Hace que un agente de IA se ejecute en una máquina virtual aislada y controla su acción sobre la base de una política de seguridad dictada por el usuario (Newman).

2. Los asistentes de voz se limitaban inicialmente a transformar comandos de voz en impulsos digitales, reemplazando el "clic" del mouse o una presión en una pantalla sensible. Pero llegó la IA y los fabricantes de estos asistentes vieron ahí una "oportunidad de oro" para ponerse al servicio del comercio y, de ofrecernos opciones, pasar a analizar nuestros gustos y tomar la decisión por nosotros, transformándose en agentes: "Los asistentes impulsados por inteligencia artificial ya empiezan a evaluar opciones, negociar y tomar decisiones en nombre del usuario" (Valbuena). Son, por lo tanto, otra forma de agente autónomo personal, como los descritos antes.

Lo peor, a mi juicio, es que tendrían "autonomía para actuar según el mejor interés del usuario" sin intervención de este y definiendo cual es este "mejor interés" en función del análisis de nuestra conducta anterior o, más bien, de los datos que la empresa proveedora registró al respecto (ibidem). ¿Que ocurre con la privacidad y la propiedad de los datos?

El colmo, para mí, es que hay quien asegura que "la pedagogía digital se vuelve indispensable (...) para aprender a confiar y comprender las implicaciones de las decisiones automatizadas en su vida cotidiana" (ibidem). ¡O sea que deberíamos aprender a dejar que un algoritmo sustituya nuestra facultad de elegir y decidir! Es abdicar de una facultad propiamente humana. ¿No seríamos así esclavos de las "Big Tech"? Se nos invita a renunciar a pensar, lo cual - como ya advertía Hannah Arendt en 1963 - puede llevar a cometer las peores atrocidades. ¿Si "el diseño de las plataformas está interfiriendo con nuestro neurodesarrollo", como asegura el siquiatra Elías Arab, cuanto mayor será la destrucción mental con los agentes de IA?

Nota 1: Los agentes actuales descritos en las publicaciones especializadas aún dejan al usuario definir la meta y operan caso a caso, pero a futuro podrían operar en forma autónoma en cualquier momento.

Nota 2: Los agentes también podrían ser - y serán seguramente - utilizados por criminales: los ciberdelincuentes ya emplean la IA en muchos ataques.

3. Hay campos en que la autonomía de los agentes es aún más preocupante: la seguridad pública y la guerra.

3a. La seguridad pública está asociada a la vigilancia. Hasta ahora, el Estado nunca había tenido la posibilidad de controlar todo lo que ocurre en el espacio público. Pero hemos visto desde hace algún tiempo como China controla a todos sus ciudadanos. Con la IA, ahora es factible en muchos otros países. Y la IA podría decidir autonómamente, sin restricciones, acerca de medidas represivas. ¿Sanciones sin juicio y posibles detenciones sin supervisión - ni decisión - humana?

3b. Los agentes asociados a los robots introducen, conjuntamente, la "Physical AI" en que las instrucciones se transforman en control robótico, lo cual impactará en minería, energía, logística, seguridad y defensa.

El ejército puede utilizar armas - drones u otras - con capacidad autónoma, lo cual introduce un nuevo problema ético. En este campo se acaba de conocer un entredicho entre el Pentágono y Anthropic en relación al despliegue de armas autónomas controladas por IA, un contrato de 200 millones de dólares: el Pentágono exigía poder usar sin restricciones sus modelos de IA "para todo tipo de aplicaciones, incluyendo las de espionaje y las militares", pero la empresa "se niega a que sus modelos se utilicen para vigilancia masiva de ciudadanos estadounidenses —no dice nada de otros— o en el desarrollo y uso de armas letales autónomas controladas totalmente por la IA" (Pastor). En efecto, Dario Amodei, director ejecutivo y cofundador de Anthropic, está convencido de que "el principio general es que, sin contramedidas, es probable que la IA reduzca continuamente la barrera a la actividad destructiva a una escala cada vez mayor, y la humanidad necesita una respuesta seria a esta amenaza." (ver su ensayo).

Anthropic era la única empresa de IA que operaba en los sistemas clasificados del Pentágono, pero Claude Gov (su modelo de IA para el gobierno) incluye las restricciones señaladas mientras el Departamento de Defensa (DoD) exigió el dominio total del modelo de IA so pena de declarar a Anthropic un "riesgo para la cadena de suministro", lo que acaba de hacer ante la resistencia de Anthropic, lo que la empresa tratará de revertir en tribunales (DW 28). Intervino el propio presidente Trump, que escribió en su plataforma Truth Social:

"Estoy ordenando A TODAS las agencias federales del gobierno de Estados Unidos que CESEN INMEDIATAMENTE todo el uso de la tecnología de Anthropic. No la necesitamos, no la queremos y no volveremos a hacer negocios con ellos." (ibidem)

Anthropic reiteró que “no podemos acceder en buena conciencia a la petición”, ya que por ética no admite la vigilancia masiva ni el desarrollo de armas autónomas letales (Anthropic). Para el secretario de Defensa de EEUU, Pete Hegseth, "Anthropic dio una clase magistral de arrogancia y traición, así como un caso de manual sobre cómo no hacer negocios con el gobierno de Estados Unidos o el Pentágono" (DW 28). 

A diferencia de Amodei y Anthropic, Sam Altman anunció el acuerdo de OpenAI con el DoD, aceptando "todos los usos legales" sin excepciones (lo que deja algunas dudas a pesar de las declaraciones de "buenas intenciones") (De Luis). En enero de 2024, OpenAI había eliminado la prohibición expresa de actividades de "alto riesgo de daño físico", como el desarrollo de armas y las actividades militares y bélicas, y en febrero de 2025, Google retiró su compromiso de no aplicar su tecnología a armas ni vigilancia (PI). Lamentablemente la industria de IA estadounidense se está militarizando, con graves consecuencias: 

"Si el ejército de Estado Unidos despliega armas autónomas controladas por IA sin las salvaguardas que Anthropic exige, habrá eliminado el único cortafuegos que históricamente ha impedido que una orden ilegal se ejecute. (...)

Todo el sistema legal y ético de las fuerzas armadas estadounidenses descansa sobre un principio que parece obvio pero que tiene consecuencias importantes: un soldado puede y debe desobedecer una orden manifiestamente ilegal.

Es el mecanismo que, en teoría, impide los crímenes de guerra. Un drone autónomo controlado por IA no tiene ese mecanismo. No puede negarse. No puede dudar. No puede ser juzgado en un consejo de guerra." (Lacort)

¿Cuantos errores podrían cometerse? Ya se ha verificado que las IA no pueden dejar de recomendar ataques nucleares en simulaciones de juegos de guerra: ocurrió en el 95% de las pruebas, como demostró Kenneth Payne, del King’s College de Londres, usando GPT-5.2, Claude Sonnet 4 y Gemini 3 Flash en 21 juegos que partían con intercambio diplomático e iban escalando progresivamente hasta llegar a los ataques nucleares (Stokel-Walker).

¿Serían responsables los programadores de los algoritmos (cuando la propia IA puede evolucionar y ajustar sus algoritmos por sí-misma)? "El derecho internacional fue escrito pensando en humanos que deciden" (ibidem). ¿Podría (querrá) la industria de la IA fijar algún límite?

El uso militar de la IA es evidentemente un tema amplio que escapa en gran parte al objetivo de este post.

4. Hay que recordar que las empresas de IA tienen un poder extraordinario, reforzado además por el apoyo del gobierno de los EE.UU., que ha decidido enviar expertos del Cuerpo de Paz por todo el mundo para promover la IA (Desmarais). "Al igual que las redes sociales, los modelos de IA son una tecnología inherentemente política, no herramientas neutrales" (@socialmedialab.ca, 20/02/2026) Forman un imperio transnacional que "resiste mapas y definiciones y desborda el calificativo más generalista de Feudalismo Digital, porque es digital pero también es físico y cognitivo", con "algoritmos entrenados para entender, predecir y modificar los pensamientos de las masas" (Peirano). Inciden así en las tomas de decisiones del modo ya señalado pero también afectan el desarrollo del conocimiento humano a través de su uso en las investigaciones y en el desarrollo de la enseñanza que, a su vez, incide en el desarrollo de la capacidad de juicio.

Lo ocurrido con Anthropic y el DoD también muestra que la regulación por parte de los gobiernos puede operar a la inversa de los deseos de control ético. 

James Yoonil, presidente del departamento de ingeniería informática y de comunicaciones de la Universidad Cibernética KyungHee de Seúl advierte del desafío para las universidades: el imperio de la IA 

"Opera en el punto donde los valores educativos se traducen en sistemas. La educación superior ya no se limita a usar IA; en aspectos importantes, está comenzando a operar dentro de ella. El riesgo principal, por lo tanto, no es que las universidades hagan un mal uso de la inteligencia artificial. Es que sigan operando mientras ceden discretamente su autoridad para definir qué se considera conocimiento, juicio y aprendizaje. (...)

El desafío ya no es cómo implementar la IA de manera efectiva a través de la optimización y las garantías éticas, sino cómo sostener la autoridad educativa cuando el juicio, la agencia y la responsabilidad están cada vez más mediados por sistemas opacos." (Yoonil)

En las instituciones, los gobiernos, las empresas y en la vida personal existen contradicciones que no pueden resolverse únicamente mediante la optimización, las reglas o las soluciones técnicas. La educación debe desarrollar la capacidad de reconocer, comprender y razonar responsablemente, o sea de ejercer un juicio crítico para tomar una decisión, no enseñar a ceder el control a un "agente". "La era de la inteligencia artificial es también la era del juicio humano. (...) La regulación y la gobernanza técnica pueden establecer límites, pero no pueden fomentar el juicio. Las universidades deben hacerlo." (Yoonil)

Referencias

Amodei, D.: The Adolescence of Technology - Confronting and Overcoming the Risks of Powerful AI, Darioamodei.com, 29/01/2026. 

Anthropic: Statement from Dario Amodei on our discussions with the Department of War, Anthropic, 26/02/2026. 

Arab, E.: Algoritmocracia y la banalidad del mal: por qué la cancelación está produciendo cerebros rotos, Ciper, 20/02/2026. 

Bender, E. y Anna, A.: La estafa de la IA, Planeta de Libros, 2026. 

Cueto, J.C.: Las empresas de IA no tienen plan de negocio o sustancia real para sostener su valor, BBC, 26/01/2026. 

De Luis, E.: Mientras que Anthropic pasa a la lista negra de EEUU, el Pentágono ya tiene quien le suceda: OpenAI, Xataka, 28/02/2026. 

Desmarais, A.: The US Peace Corps launches new Tech Corps to bring AI expertise abroad, Euronews, 23/02/2026. 

DW 28: Trump ordena a su gobierno dejar de usar la IA de Anthropic, Deutsche Welle, 28/02/2026. 

Kanwar, A.: The era of agentic chaos and how data will save us, MIT Tech Review, 20/01/2026.

Lacort, J.: El derecho internacional fue escrito pensando en humanos que deciden. La IA acaba de romper esa cadena y nadie sabe quién responde ahora, Xataka, 25/02/2026. 

Morales, O.: Los agentes inteligentes transforman la experiencia de compra online con IA, Infobae, 20/02/2026. 

Newman, L.H.: Este agente de IA convierte tu voluntad en una constitución que no puede desobedecer, Wired, 27/25/2026. 

Noriega, P.: Tu nuevo empleado digital: Los agentes de IA que ya pueden hacer tus compras y reservar citas, Infoabe, 24/02/2026. 

Norigami, M. y Silva, M.: Presenting the Big Tech Lobby Playbook, Somo.nl, 12/02/2026. 

Pastor, J.: Anthropic tiene líneas rojas para su IA. El Pentágono acaba de exigir que las borre todas, Xataka, 25/02/2026. 

PI: The Anthropic and US Government conflict is larger than you think, Privacy International, 27/02/2026.

Stokel-Walker, Ch.: AIs can’t stop recommending nuclear strikes in war game simulations, New Scientist, 25/02/2026. 

Valbuena, S.: De pedir música a negociar compras: cómo los nuevos asistentes de voz tomarán decisiones por ti, Infobae, 17/0282026. 

Yoonil A., J.: When AI outpaces understanding: HE must reclaim authority, University World News, 10/02/2026.  

La IA: ¿prueba para la civilización?

 Siguen apareciendo advertencias acerca de los peligros de la inteligencia artificial y especialmente de la pronosticada "superinteligencia". Ya he abordado antes algunas advertencias, como la posibilidad de que escapen al control humano y de su uso destructivo. Es lo que advierte Stuart Russell, profesor de la Universidad de Berkeley y referente en el ámbito de la IA, señalando "el riesgo de alcanzar un punto sin retorno, a partir del cual la humanidad podría perder el control sobre sistemas mucho más inteligentes, con consecuencias tan extremas como la extinción de la especie" (Bahamonde). Y agrega que “la probabilidad de extinción que manejan los CEOs es del 25%", a pesar de lo cual no parecen preocuparse y, al contrario, siguen en la carrera hacia la IA general. La misma preocupación expone Dario Amodei, director ejecutivo y cofundador de Anthropic: "la humanidad enfrenta una prueba civilizatoria inédita ante el avance acelerado de la inteligencia artificial avanzada" (Morales). 

Amodei señala este riesgo e invita a “evitar que la IA quede controlada por actores irresponsables o autoritarios” y apela - como ya han hecho otros expertos e instituciones - a necesarias regulaciones. 

Señala 

- que "la magnitud y la velocidad de esta disrupción superarán cualquier revolución industrial previa, poniendo en riesgo el contrato social y la estabilidad democrática"; 

- "la posible pérdida de propósito humano en un mundo dominado por inteligencias artificiales". (Morales). 

Una IA poderosa en un centro de datos sería como un "país de genios" y, ahí, el riesgo sería enorme:

"Un país de genios en un centro de datos podría dividir sus esfuerzos entre el diseño de software, las operaciones cibernéticas, la I+D de tecnologías físicas, el desarrollo de relaciones y el arte de gobernar. Es evidente que, si por alguna razón decidiera hacerlo, este país tendría una buena oportunidad de dominar el mundo (ya sea militarmente o en términos de influencia y control) e imponer su voluntad a todos los demás, o de hacer cualquier otra cosa que el resto del mundo no quiere ni puede detener." (Amodei)

Lamentablemente existe evidencia de que los sistemas de IA son impredecibles y difíciles de controlar por lo que, frente a opiniones optimistas en relación a su futuro también existen visiones catastrofistas, que Amodei analiza detalladamente en su ensayo. 

"La IA amenaza a la humanidad desde múltiples perspectivas, y existe una auténtica tensión entre los diferentes peligros, donde mitigar algunos de ellos corre el riesgo de agravar otros si no se actúa con sumo cuidado." (ibidem)

Una amenaza extrema, que podría destruir toda la humanidad, es la posibilidad de crear una "vida espejo": organismos biológicos "equivalentes a una versión de sí mismos reflejada en el espejo (al igual que su mano derecha no puede rotarse de tal manera que sea idéntica a su izquierda)", algo que advirtió un grupo de científicos ya en 2024.

"Sería potencialmente indigerible para cualquiera de los sistemas que descomponen la materia biológica en la Tierra; tendría una "llave" que no encajaría en la "cerradura" de ninguna enzima existente. Esto significaría que podría proliferar de forma incontrolable y desplazar a toda la vida del planeta, en el peor de los casos incluso destruyéndola por completo. (...)

Si bien estos son riesgos oscuros y pueden parecer improbables, la magnitud de las consecuencias es tan grande que deberían tomarse en serio como un riesgo de primera clase de los sistemas de IA." (ibidem)

La consecuencia es que las empresas deben incorporar a los algoritmos y a las reglas de uso sistemas que bloqueen todos los eventuales desarrollos peligrosos. Anthopic y algunas otras empresas lo están haciendo, pero no todas advierte Amodei, y no existe ninguna norma que las obligue a ello en los EEUU. En la Unión Europea, la ley de IA podría ser un freno dado que considera el nivel de riesgo para las personas. "El principio general es que, sin contramedidas, es probable que la IA reduzca continuamente la barrera a la actividad destructiva a una escala cada vez mayor, y la humanidad necesita una respuesta seria a esta amenaza." (ibidem)

Por ello, Amodei insiste en que la regulación es indispensable: “la única solución real es la legislación, pero debe ser prudente y adaptativa” (Morales). Podemos decir que ésta es una conclusión ya tradicional y que - hasta ahora - no parece haber sido escuchada por las empresas de IA aunque, siendo Amodei él mismo ejecutivo de una de estas empresas, es de esperar que tome las provisiones del caso, aunque le preocupan también "los peligros de sobrerregular" (ibidem).

En los esfuerzos de regulación se distingue la Unión Europea.

"Europa quiere ser líder mundial en IA ética y centrada en el ser humano. Para agosto de 2027, la Comisión Europea planea implementar lo que denomina la primera regulación integral de IA del mundo.

El núcleo de este esfuerzo es la Ley de IA, que se basa en un planteamiento basado en el riesgo: cuanto mayor sea el impacto potencial de un sistema de IA sobre las personas, más estrictas serán las normas que lo regulen. La ley establece requisitos para que los proveedores e implantadores de IA eviten daños como la manipulación, la discriminación, la elaboración intrusiva de perfiles biométricos, las falsificaciones profundas y el scoring social, con el objetivo declarado de garantizar la confianza en los sistemas de IA." (Batista)

De acuerdo a este resumen, las preocupaciones se centran en los posibles efectos individuales, y muy poco en los efectos globales, psicosociales y culturales. Amodei y Russell abordan esta visión más amplia. Y Russell no se limita a implicar los gobiernos: también llama a "la movilización de la sociedad civil" (Bahamonde). Pero lo que ocurre a nivel psicológico individual - y de lo que hemos visto algunos casos - podría repetirse masivamente al punto de cambiar la cultura de todo un pueblo y no solo para el control ideológico, como señala Amodei:

"Versiones mucho más potentes de estos modelos, que estuvieran mucho más integradas y conscientes de la vida cotidiana de las personas y pudieran modelarlas e influir en ellas durante meses o años, probablemente serían capaces de, esencialmente, lavar el cerebro a muchas (¿la mayoría?) personas para que adopten cualquier ideología o actitud deseada." (Amodei)

Por ello la regulación es de suma importancia, pero las condiciones actuales no parecen favorables, como sigue señalando Amodei:

"Reconozco que la coyuntura política actual ha virado en contra de la cooperación y las normas internacionales, pero en este caso las necesitamos urgentemente. El mundo necesita comprender el oscuro potencial de la IA potente en manos de autócratas y reconocer que ciertos usos de la IA equivalen a un intento de arrebatarles la libertad para siempre e imponer un estado totalitario del que no pueden escapar. Incluso argumentaría que, en algunos casos, la vigilancia a gran escala con IA potente, la propaganda masiva con IA potente y ciertos tipos de usos ofensivos de armas totalmente autónomas deberían considerarse crímenes de lesa humanidad. En términos más generales, se necesita urgentemente una norma sólida contra el totalitarismo impulsado por la IA y todas sus herramientas e instrumentos." (ibidem)

Las empresas están mucho más preocupadas de la carrera hacia la IA general que de la ética, del control directo del poder o de los efectos en la civilización. ¿La razón? "El valor económico de la AGI, estimado en 15 cuatrillones de dólares, es un imán gigante en el futuro. (...) Incluso en empresas que toman más en serio el riesgo, el afán de liderar el mercado es absoluto." (Bahamonde). También influye en ello la carrera de los EEUU con China. Pero el poder mismo de la IA es embriagador:  

"Se puede ganar tanto dinero con la IA —literalmente billones de dólares al año— que incluso las medidas más sencillas tienen dificultades para superar la economía política inherente a la IA. Esta es la trampa: la IA es tan poderosa, un premio tan brillante, que resulta muy difícil para la civilización humana imponerle cualquier tipo de restricción." (Amodei)

Lamentablemente, "la enorme capacidad que incorpora una IA potente es tal que es improbable que el gobierno corporativo convencional —diseñado para proteger a los accionistas y prevenir abusos comunes como el fraude— esté a la altura de la tarea de gobernar a las empresas de IA" (ibidem). La única defensa - aparte de la imposición de reglas - parece ser la transparencia y la rendición de cuentas. "Abordar los riesgos de la IA requerirá una combinación de acciones voluntarias por parte de las empresas (y terceros actores privados) y acciones gubernamentales que vinculen a todos." (ibidem)

Más cercanamente, un exsenador soocialista chileno, Guido Girardi, en un amplio análisis político-ideológico, se interesó más detenidamente por ese tipo de efecto: 

"La tecnología ya no es un sector. No es una herramienta. Es la infraestructura civilizatoria del presente (...) que estructura la sociedad de hoy. 

La desigualdad económica ya no se produce solo por la distribución de la riqueza, sino por el acceso diferencial al conocimiento, a los datos, a las plataformas, a los sistemas de automatización y a las infraestructuras digitales. El capital del siglo XXI no es solo financiero o industrial, es algorítmico, es entrenamiento, informacional y cognitivo. (...)

[La tecnología] Es el nuevo plano donde se decide simultáneamente quién tiene recursos y quién tiene voz, quién accede a oportunidades y quién queda invisible, quién define el sentido y quién queda reducido a dato. (...)

El conflicto del siglo XXI no es entre economía y cultura, sino por la arquitectura tecnológica que hoy define simultáneamente quién tiene riqueza y quién tiene y le da sentido. (...)

La inteligencia artificial, los datos masivos, la automatización, la biotecnología, las plataformas digitales, la neurotecnología y los sistemas algorítmicos no son “temas” dentro del debate político. Son el nuevo sistema nervioso de la sociedad. (...)

La pregunta política central ya no es solo quién gobierna el Estado, sino quién gobierna los algoritmos, los datos y los sistemas inteligentes." (Ramírez y Girardi)

Dado que su enfoque es político-ideológico, concluye en la necesidad de una "izquierda tecnológica-humanista, que lucha por asegurar que la humanidad siga siendo sujeto de su propio futuro" (ibidem). Pero esta lucha no tiene por que ser exclusiva de un grupo político de izquierda, debería ser de todos: es evidente que la situación afecta a toda la humanidad y podemos coincidir con él en que hay que "asegurar que la humanidad siga siendo sujeto de su propio futuro". Se necesita seguramente un gran movimiento político internacional, mucho más allá de las izquierdas y derechas. Como dice Amodei, "la humanidad necesita despertar" y "no tenemos tiempo que perder". Y, con él, me parece necesario "que el desarrollo de la IA siga siendo responsable ante el interés público, no capturado por ninguna alianza política o comercial en particular" (Amodei).

"El progreso sin conciencia no es progreso, la innovación sin ética no es libertad, y el futuro sin democracia no es futuro." (Ramírez y Girardi)

"Que sobrevivamos a esa prueba y construyamos la hermosa sociedad descrita en “Machines of Loving Grace”, o que sucumbamos a la esclavitud y la destrucción, dependerá de nuestro carácter y nuestra determinación como especie, de nuestro espíritu y de nuestra alma." (Amodei)

Referencias

Amodei, D.: The Adolescence of Technology - Confronting and Overcoming the Risks of Powerful AI, Darioamodei.com, 29/01/2026. 

Bahamonde, J.: “Estamos jugando a la ruleta rusa”: Stuart Russell y su dura afirmación sobre la superinteligencia artificial, Infobae, 30/12/2025. 

Batista, L.: El juego de poder de la IA: ¿Puede Europa alcanzar a EE.UU. y China?, Euronews, 27/01/2026. 

Desmarais, A.: Qué es Moltbook, la red social donde los agentes de IA debaten sin intervención humana, Euronews, 2/02/2026. 

Morales, O.: “La humanidad debe despertar ante los peligros de la IA”, advierte el CEO de Anthropic, Infobae, 27/01/2026. 

Ramírez, R. y Girardi, G.: Las tres izquierdas y el fin de la política del siglo XX, El Mostrador, 27/01/2026.