Siguen apareciendo advertencias acerca de los peligros de la inteligencia artificial y especialmente de la pronosticada "superinteligencia". Ya he abordado antes algunas advertencias, como la posibilidad de que escapen al control humano y de su uso destructivo. Es lo que advierte Stuart Russell, profesor de la Universidad de Berkeley y referente en el ámbito de la IA, señalando "el riesgo de alcanzar un punto sin retorno, a partir del cual la humanidad podría perder el control sobre sistemas mucho más inteligentes, con consecuencias tan extremas como la extinción de la especie" (Bahamonde). Y agrega que “la probabilidad de extinción que manejan los CEOs es del 25%", a pesar de lo cual no parecen preocuparse y, al contrario, siguen en la carrera hacia la IA general. La misma preocupación expone Dario Amodei, director ejecutivo y cofundador de Anthropic: "la humanidad enfrenta una prueba civilizatoria inédita ante el avance acelerado de la inteligencia artificial avanzada" (Morales).
Amodei señala este riesgo e invita a “evitar que la IA quede controlada por actores irresponsables o autoritarios” y apela - como ya han hecho otros expertos e instituciones - a necesarias regulaciones.
Señala
- que "la magnitud y la velocidad de esta disrupción superarán cualquier revolución industrial previa, poniendo en riesgo el contrato social y la estabilidad democrática";
- "la posible pérdida de propósito humano en un mundo dominado por inteligencias artificiales". (Morales).
Una IA poderosa en un centro de datos sería como un "país de genios" y, ahí, el riesgo sería enorme:
"Un país de genios en un centro de datos podría dividir sus esfuerzos entre el diseño de software, las operaciones cibernéticas, la I+D de tecnologías físicas, el desarrollo de relaciones y el arte de gobernar. Es evidente que, si por alguna razón decidiera hacerlo, este país tendría una buena oportunidad de dominar el mundo (ya sea militarmente o en términos de influencia y control) e imponer su voluntad a todos los demás, o de hacer cualquier otra cosa que el resto del mundo no quiere ni puede detener." (Amodei)
Lamentablemente existe evidencia de que los sistemas de IA son impredecibles y difíciles de controlar por lo que, frente a opiniones optimistas en relación a su futuro también existen visiones catastrofistas, que Amodei analiza detalladamente en su ensayo.
"La IA amenaza a la humanidad desde múltiples perspectivas, y existe una auténtica tensión entre los diferentes peligros, donde mitigar algunos de ellos corre el riesgo de agravar otros si no se actúa con sumo cuidado." (ibidem)
Una amenaza extrema, que podría destruir toda la humanidad, es la posibilidad de crear una "vida espejo": organismos biológicos "equivalentes a una versión de sí mismos reflejada en el espejo (al igual que su mano derecha no puede rotarse de tal manera que sea idéntica a su izquierda)", algo que advirtió un grupo de científicos ya en 2024.
"Sería potencialmente indigerible para cualquiera de los sistemas que descomponen la materia biológica en la Tierra; tendría una "llave" que no encajaría en la "cerradura" de ninguna enzima existente. Esto significaría que podría proliferar de forma incontrolable y desplazar a toda la vida del planeta, en el peor de los casos incluso destruyéndola por completo. (...)
Si bien estos son riesgos oscuros y pueden parecer improbables, la magnitud de las consecuencias es tan grande que deberían tomarse en serio como un riesgo de primera clase de los sistemas de IA." (ibidem)
La consecuencia es que las empresas deben incorporar a los algoritmos y a las reglas de uso sistemas que bloqueen todos los eventuales desarrollos peligrosos. Anthopic y algunas otras empresas lo están haciendo, pero no todas advierte Amodei, y no existe ninguna norma que las obligue a ello en los EEUU. En la Unión Europea, la ley de IA podría ser un freno dado que considera el nivel de riesgo para las personas. "El principio general es que, sin contramedidas, es probable que la IA reduzca continuamente la barrera a la actividad destructiva a una escala cada vez mayor, y la humanidad necesita una respuesta seria a esta amenaza." (ibidem)
Por ello, Amodei insiste en que la regulación es indispensable: “la única solución real es la legislación, pero debe ser prudente y adaptativa” (Morales). Podemos decir que ésta es una conclusión ya tradicional y que - hasta ahora - no parece haber sido escuchada por las empresas de IA aunque, siendo Amodei él mismo ejecutivo de una de estas empresas, es de esperar que tome las provisiones del caso, aunque le preocupan también "los peligros de sobrerregular" (ibidem).
En los esfuerzos de regulación se distingue la Unión Europea.
"Europa quiere ser líder mundial en IA ética y centrada en el ser humano. Para agosto de 2027, la Comisión Europea planea implementar lo que denomina la primera regulación integral de IA del mundo.
El núcleo de este esfuerzo es la Ley de IA, que se basa en un planteamiento basado en el riesgo: cuanto mayor sea el impacto potencial de un sistema de IA sobre las personas, más estrictas serán las normas que lo regulen. La ley establece requisitos para que los proveedores e implantadores de IA eviten daños como la manipulación, la discriminación, la elaboración intrusiva de perfiles biométricos, las falsificaciones profundas y el scoring social, con el objetivo declarado de garantizar la confianza en los sistemas de IA." (Batista)
De acuerdo a este resumen, las preocupaciones se centran en los posibles efectos individuales, y muy poco en los efectos globales, psicosociales y culturales. Amodei y Russell abordan esta visión más amplia. Y Russell no se limita a implicar los gobiernos: también llama a "la movilización de la sociedad civil" (Bahamonde). Pero lo que ocurre a nivel psicológico individual - y de lo que hemos visto algunos casos - podría repetirse masivamente al punto de cambiar la cultura de todo un pueblo y no solo para el control ideológico, como señala Amodei:
"Versiones mucho más potentes de estos modelos, que estuvieran mucho más integradas y conscientes de la vida cotidiana de las personas y pudieran modelarlas e influir en ellas durante meses o años, probablemente serían capaces de, esencialmente, lavar el cerebro a muchas (¿la mayoría?) personas para que adopten cualquier ideología o actitud deseada." (Amodei)
Por ello la regulación es de suma importancia, pero las condiciones actuales no parecen favorables, como sigue señalando Amodei:
"Reconozco que la coyuntura política actual ha virado en contra de la cooperación y las normas internacionales, pero en este caso las necesitamos urgentemente. El mundo necesita comprender el oscuro potencial de la IA potente en manos de autócratas y reconocer que ciertos usos de la IA equivalen a un intento de arrebatarles la libertad para siempre e imponer un estado totalitario del que no pueden escapar. Incluso argumentaría que, en algunos casos, la vigilancia a gran escala con IA potente, la propaganda masiva con IA potente y ciertos tipos de usos ofensivos de armas totalmente autónomas deberían considerarse crímenes de lesa humanidad. En términos más generales, se necesita urgentemente una norma sólida contra el totalitarismo impulsado por la IA y todas sus herramientas e instrumentos." (ibidem)
Las empresas están mucho más preocupadas de la carrera hacia la IA general que de la ética, del control directo del poder o de los efectos en la civilización. ¿La razón? "El valor económico de la AGI, estimado en 15 cuatrillones de dólares, es un imán gigante en el futuro. (...) Incluso en empresas que toman más en serio el riesgo, el afán de liderar el mercado es absoluto." (Bahamonde). También influye en ello la carrera de los EEUU con China. Pero el poder mismo de la IA es embriagador:
"Se puede ganar tanto dinero con la IA —literalmente billones de dólares al año— que incluso las medidas más sencillas tienen dificultades para superar la economía política inherente a la IA. Esta es la trampa: la IA es tan poderosa, un premio tan brillante, que resulta muy difícil para la civilización humana imponerle cualquier tipo de restricción." (Amodei)
Lamentablemente, "la enorme capacidad que incorpora una IA potente es tal que es improbable que el gobierno corporativo convencional —diseñado para proteger a los accionistas y prevenir abusos comunes como el fraude— esté a la altura de la tarea de gobernar a las empresas de IA" (ibidem). La única defensa - aparte de la imposición de reglas - parece ser la transparencia y la rendición de cuentas. "Abordar los riesgos de la IA requerirá una combinación de acciones voluntarias por parte de las empresas (y terceros actores privados) y acciones gubernamentales que vinculen a todos." (ibidem)
"La tecnología ya no es un sector. No es una herramienta. Es la infraestructura civilizatoria del presente (...) que estructura la sociedad de hoy.La desigualdad económica ya no se produce solo por la distribución de la riqueza, sino por el acceso diferencial al conocimiento, a los datos, a las plataformas, a los sistemas de automatización y a las infraestructuras digitales. El capital del siglo XXI no es solo financiero o industrial, es algorítmico, es entrenamiento, informacional y cognitivo. (...)[La tecnología] Es el nuevo plano donde se decide simultáneamente quién tiene recursos y quién tiene voz, quién accede a oportunidades y quién queda invisible, quién define el sentido y quién queda reducido a dato. (...)El conflicto del siglo XXI no es entre economía y cultura, sino por la arquitectura tecnológica que hoy define simultáneamente quién tiene riqueza y quién tiene y le da sentido. (...)La inteligencia artificial, los datos masivos, la automatización, la biotecnología, las plataformas digitales, la neurotecnología y los sistemas algorítmicos no son “temas” dentro del debate político. Son el nuevo sistema nervioso de la sociedad. (...)La pregunta política central ya no es solo quién gobierna el Estado, sino quién gobierna los algoritmos, los datos y los sistemas inteligentes." (Ramírez y Girardi)
"El progreso sin conciencia no es progreso, la innovación sin ética no es libertad, y el futuro sin democracia no es futuro." (Ramírez y Girardi)
"Que sobrevivamos a esa prueba y construyamos la hermosa sociedad descrita en “Machines of Loving Grace”, o que sucumbamos a la esclavitud y la destrucción, dependerá de nuestro carácter y nuestra determinación como especie, de nuestro espíritu y de nuestra alma." (Amodei)
