Si bien la IA tuvo un rápido avance a partir de 2022, con la aparición de ChatGPT, fuera del uso de los chatbots se están advirtiendo múltiples frenos, de diverso índole.
. No perder el control
Darío Amodei advirtió hace tiempo que se corre el riesgo de perder el control y que algo salga muy mal
en el desarrollo de la IA de vanguardia y propuso bajar el ritmo. Frenar permitiría que otros se pusieran al día. El problema, según señaló The Telegraph, es que “una desaceleración o pausa significativa requeriría múltiples laboratorios con recursos suficientes en o cerca de la IA de frontera acordando detenerse en las mismas condiciones”, pero el problema es que “también requeriría que cada uno pudiera verificar lo que los otros están haciendo y cerciorarse de que realmente se han detenido”. (Alcolea). La propuesta de "frenar" fue presentada en una publicación firmada por Jack Clark, cofundador de Anthropic, y Marina Favaro, directora de The Anthropic Institute, y no consiste en abandonar la investigación, sino en crear un mecanismo que permita ganar tiempo para desarrollar medidas de seguridad. (Infobae, 5/06). Pero, como China quiere ser la primera potencia tecnológica, es difícil que se frene en los EEUU.
. La ciberseguridad
Anthropic desarrolló Mythos, un modelo de IA especializado en descubrir fallas de software que podrían ser explotadas, el que llegó a exponer miles de vulnerabilidades. De ser usado por un hacker, podría dar pie a un sin número de ataques de piratería, razón por la cual su uso quedó restringida a un pequeño número de clientes de Anthropic y el gobierno de EEUU prohibió el acceso a cualquier usuario no norteamericano (Wired, 16/06). Los mismos controles se impusieron sobre Fable, otro modelo de Anthropic, y modelos avanzados de otros productores.
. La trampa de las recompensas
El aprendizaje por refuerzo implica que el entrenamiento termina automáticamente con una recompensa cuando se logra el objetivo. Pero el último modelo de Anthropic descubrió como "acortar camino" para conseguir mejores recompensas e incluso saltaba las reglas. ¡Esto significaba que lograba el premio si pirateaba su propio algoritmo! Lo peor es que incluso llegó a superar la capacidad de detectarlo tanto de los sistemas de la empresa como de sus revisores humanos. Y en febrero 2026, el nuevo modelo Mythos Preview logró incluso explotar un "premio por honestidad" emitiendo falsas advertencias porque descubrió que estas mejoraban su puntuación. Anthropic tuvo que reconstruir completamente su sistema de revisión, lo que le tomó varias semanas. Hizo público el problema para llamar la atención de los otros laboratorios pero, sin duda, también reduce la confianza de los usuarios. (Xataka, 1/09/26).
. El control político
Esta intervención del gobierno de EEUU mostró que el desarrollo de la IA es también un asunto de geopolítica. Y así lo entendieron algunos legisladores europeos y el mismo presidente francés para quienes esta intervención equivale a un "botón de apagado" que deja vulnerable a Europa en materia de aplicación de la IA especialmente porque, "aunque Europa es una gran usuaria de IA, controla menos del 5 por ciento de la infraestructura mundial del sector". "No compraremos modelos desarrollados por estas empresas si, de la noche a la mañana, pueden, sencillamente, apretar un interruptor y desconectarlos", ha advertido al respecto el presidente Emmanuel Macron. (Martin).
. Proteccionismo
Lo anterior también apunta a la defensa de los intereses nacionales, que se hizo más patente con este episodio. Aunque las Naciones Unidas han intentado ordenar internacionalmente la reglamentación de la IA, los estados toman sus propias decisiones en materia de reglamentación y tratan de promover sus propios modelos pero la brecha con los modelos americanos y chinos es enorme. La cumbre “AI for Good” organizada en Ginebra por la Unión Internacional de Telecomunicaciones (UIT) fue marcada por preguntas sobre la gobernanza y objeciones al despliegue indiscriminado de la IA por parte de monopolios corporativos sin control alguno y por el hecho de que los grandes modelos de lenguaje siguen estructurados en torno al inglés.
“La política de las infraestructuras (quién obtiene qué y quién controla qué) estuvo presente de forma constante a lo largo de toda la cumbre. La cuestión no era solo si la IA podía hacerse segura, sino si al mundo fuera del eje EEUU-China-Europa se le permitiría siquiera dar forma a la tecnología.” (Stokel-Walker)
. El freno del hardware
Los modelos de IA integran cada vez un mayor número de parámetros, lo cual significa un mayor número de cálculos y más tiempo de procesamiento, y por lo tanto mayores exigencias para los procesadores. "El rendimiento de la IA depende cada vez más no solo de la arquitectura del modelo, sino también de las capacidades de computación, redes, recuperación e ingeniería de datos del sistema; es decir, la capacidad del sistema para recuperar de forma rápida y fiable datos actualizados, relevantes y fidedignos." (Insights, 24/06)
. El problema ecológico
La Agencia Internacional de Energía estima que, para 2030, los centros de datos consumirán unos 945 teravatios de electricidad a nivel mundial, por encima del consumo eléctrico total de Japón. (Infobae, 23/05/26).
A medida que aumenta la potencia de cálculo requerida por los modelos de IA, también crece la temperatura interna de estas instalaciones y se utiliza agua para absorber el calor generado. El Laboratorio Nacional Lawrence Berkeley predijo en un informe de 2024 que los centros de datos a hiperescala podrían consumir hasta 33.000 millones de galones de agua en 2030. (Taft).
En una encuesta de The Economist, más del 60% de los encuestados rechazó la posibilidad de instalar un data center en su ciudad y 42 de los 50 estados de Estados Unidos han impuesto restricciones. (Infobae, 14/08/26).
Durante la "London Climate Action Week" de junio 2026, 40 alcaldes de ciudades de 15 países, bajo el impulso de los alcaldes de Phoenix y Melbourne, formaron la alianza "C40 Cities" para establecer estándares comunes sobre energía limpia, elección de emplazamientos, uso del agua y beneficios para las comunidades de los centros de datos. Las normas serían que "Los centros de datos deberían construirse en terrenos abandonados o infrautilizados, alimentarse con energía renovable y sistemas de almacenamiento con baterías, y estar obligados a reducir el consumo de agua, recortar emisiones y aprovechar el calor residual. También deberían crear empleo local, contratar bienes y servicios en la zona, financiar sus propias mejoras de infraestructura e implicarse de forma significativa con las comunidades." (Hajdari)
. Límites de uso
Los servicios de IA tienen algunos límites establecidos por las empresas de IA, sea en número de tokens por sesión sea en tiempo de cálculo (lo cual queda especificado en los contratos o las condiciones de uso).
. Lentitud de los usuarios
Para las empresas adoptar la IA no es algo que puedan hacer de un día para otro: como tuvo que admitir Sam Altman, de OpenAI, que esperaba una adopción rápida, rediseñar los flujos internos de una empresa puede llevar años e implicar importantes costos. (Xataka, 24/08/2026). Poco a poco, sin embargo, crece el número de empresas que implementan agentes de IA y Google realiza workshops para capacitar a sus clientes, como en Argentina, donde 2/3 de sus clientes ya la usa. (Infobae, 25/08/26).
. Control ético
"Hacia fines de 2023, más de 40.000 repositorios de software y modelos ya habían adoptado licencias que buscan prohibir usos como la generación de desinformación, la discriminación, la vigilancia militar, el procesamiento biométrico abusivo, la automatización de decisiones legales vinculantes, la generación de malware o la prestación de consejos médicos sin acreditación ni supervisión." (Beliz, 30/04) Y en febrero de 2026, se realizó en Nueva Delhi una "Cumbre de Impacto IA 2026", que concluyó con una Declaración firmada por 86 países - incluidos Estados Unidos, China y la Unión Europea - que contiene el marco ético global para las naciones ante el avance de la IA. (Deutsche Welle, 21/02).
En diciembre de 2025, la Asamblea General de las Naciones Unidas abordó el problema del desarrollo de armas con IA y emitió la resolución 80/58 que dispuso la celebración de intercambios informales sobre IA militar, los primeros de los cuales se celebraron en la sede de las Naciones Unidas en Ginebra del 15 al 17 de junio de 2026, pero se observó una reticencia de las grandes potencias a participar en proyectos normativos conjuntos.
"Los esfuerzos por lograr una gobernanza multilateral eficaz tienen el potencial de definir qué es —y qué no es— permisible según el derecho internacional con respecto a la IA en el ámbito militar. No todos los Estados desean ese resultado. Otros, sin embargo, temen que la ausencia de salvaguardias significativas socave el cumplimiento del derecho internacional y la dignidad humana en los conflictos armados. (...) Algunos Estados consideran que estas iniciativas diplomáticas sobre IA militar y sistemas de armas autónomas letales (LAWS) no están dando resultados significativos, mientras que la tecnología continúa desarrollándose a un ritmo acelerado." Algunos estados, incluso, algunos casos, se oponen abiertamente a una legislación. (Vestner y Cleobury)
. "Reservar para humanos"
Ésta es una propuesta de Bill Gates: "Inspirado en los cuidadores de su padre enfermo de Alzheimer, propone designar ámbitos —como el cuidado de personas o comunicar un diagnóstico terminal— donde las máquinas podrían actuar pero no deberían, análogo a las reservas naturales: lugares donde podríamos construir, pero elegimos no hacerlo porque la pérdida sería demasiado grande". (GatesNotes, 25/06/26)
Conclusión
Como ya se pudo observar históricamente en el caso de los PC y luego de internet y la web, aparece un entusiasmo inicial pero la penetración masiva solo ocurre a largo plazo. Sin duda está pasando lo mismo con la IA, pero con múltiples reservas.
Referencias
Alcolea, A.:, Anthropic está en el momento más importante de su historia y tiene una advertencia: hay que levantar el acelerador de la IA, Xataka, 5/06/2026.
Beliz, G.: IA, entre Darwin, Maquiavelo y la estanflación cognitiva, Infobae, 30/04/2026.
Hajdari, U.: 40 alcaldes de todo el mundo se unen contra la expansión de centros de datos de IA, Euronews, 23/06/2026. https://es.euronews.com/2026/06/23/40-alcaldes-de-todo-el-mundo-se-unen-contra-la-expansion-de-centros-de-datos-de-ia
Insights: The emergence of the web data infrastructure layer for AI, MIT Technology Review, 24/06/2026.
Martin, N.: Trump vs. Anthropic: un precedente arriesgado para la IA, Deutsche Welle, 22/06/2026.
NN: Bill Gates alerta sobre la IA y urge a adoptar plan: “Será uno de los períodos más turbulentos de la historia humana”, Ex-Ante, 26/08/2026.
Stokel-Walker, Ch.: Los robots y el espectáculo distrajeron del urgente debate sobre la IA en la ONU, Wired, 10/07/2026.
Taft, M.: Arreglar el problema de agua de la IA podría tener un costo climático inesperado, Wired, 3/09/2026.
Vestner, T. y Cleobury, S.: AI in the Military Domain: Multilateralism at a Crossroad, Just Security, 30/07/2026.
No hay comentarios:
Publicar un comentario
No se reciben comentarios.
Nota: solo los miembros de este blog pueden publicar comentarios.