Los próximos pasos (cercanos) de la IA

 

La IA generativa basada en LLM (lenguaje masivo) en "restringida" a chatbots ya es cosa común y podría llegar a ser casi obsoleta (salvo quizás para modelos simples, como los que se proyectan para los teléfonos celulares). ¿Hacia donde va la IA?

[Foto: Fotoarte de Andrea Velázquez; captada por URL]

1. Las aplicaciones especializadas para la investigación, llamadas "Deep Research". Se cuenta ya con OpenAI Deep Research, Perplexity Deep Research, Gemini Thinking, etc.

Pero investigadores españoles ponen en duda su capacidad de razonamiento, aunque Perplexity DR es la mejor: en un examen exhaustivo con más de 3.000 preguntas en más de 100 materias, obtuvo un puntaje de 21.1 %, superando a los otros modelos (Lagos). Todos los modelos tienen una caída promedio entre el 57% y del 50% en los indicadores tradicionales. (González)

1a. Estas herramientas tienen una consecuencia inesperada: 

"El concepto de carpetas de archivos y directorios, esencial para la comprensión de las computadoras por parte de las generaciones anteriores, era un galimatías para los estudiantes modernos.  Los alumnos no sentían la necesidad de organizar nada, porque bastaba con que supieran el nombre del archivo para que Windows Search o Spotligth en macOS localizara el documento al que querían acceder.", dice Catherine Garland, profesora de ingeniería aeroespacial (en Jiménez).

La estructura productiva de la humanidad "se basa en jerarquías de conocimiento, en rutas de acceso, directorios y procesos de transformación bien segmentados". Pero este modelo "no da más". Solo es necesario "que cada persona sepa lo que tiene que saber en el momento y el sitio que hace falta". Como la complejidad aumenta, gracias a las IA de búsqueda, baste tener una base de datos aunque sea desordenada, y gracias a ella "no solo es buscar el dato, es integrarlo y hacerlo accesible" (ibidem).

2. Expansión de los “agentes autónomos”: son en realidad sistemas expertos en una u otra materia, pero pueden ayudar sus usuarios a resolver problemas o aportar algún consejo específico. Se supone que entienden las intenciones y emociones de los usuarios (Ex-Ante). Aunque aparecen ahora desde "ayudantes de cocina" (porque un modelo simple puede requerir poco espacio en en PC o teléfono), son muy preciados en los ambientes científicos.

En algunos campos pueden traer sorpresas. Así, por ejemplo, la IA solucionó en dos días un problema sobre superbacterias sorprendiendo a científicos que venían estudiando el problema y formulando hipótesis desde hace diez añostomó años (Gerken). Así también, un nuevo método basado en IA puede recuperar con precisión datos digitales de cadenas de ADN casi 90 veces más rápido que las técnicas anteriores (Hsu).

3. Integrar la IA en los robots humanoides, partiendo por los agentes autónomos.

En agosto de 2024 hubo tuvo lugar la Conferencia Mundial (la primera) sobre robots humanoides. El más avanzado tecnicamente parece ser el Optimus Gen2 de Tesla, con una altura de 1,73 metros y un peso de 57 kilos, capaz de imitar movimientos humanos. 

Empresas como Ex-Robots y Tesla están a la cabeza. "La tecnología de reconocimiento de emociones empleada por Ex-Robots permite a estos androides identificar y responder a las emociones que detectan en su entorno." (Escobar) Microsoft lanzó este mes de febrero un nuevo modelo genAI que puede controlar robots. (Computerworld, 22/02)

El robot más realista - aunque ya presentado en 2018 - parece ser Érica, de los Laboratorios Hiroshi Ishiguro, de parecido humano impresionante (con expresiones faciales variables) y sofisticadas habilidades de conversación. Es capaz de procesar y responder a datos visuales, emocionales y conversacionales y acturaía en un film de ciencia ficción (Álvarez) (Foto). 

4. Convertir pensamientos en texto. Aunque Neuralink trabaja en ello recurriendo a implantes cerebrales, Meta utiliza una técnica no-invasiva, recurriendo a la magnetoencefalografía (MEG) y electroencefalografía (EEG) para registrar la actividad eléctrica y magnética del cerebro, pasando las señales a su IA especializada Brain2Qwerty, que interpreta las señales como si fueran pulsaciones de teclado. Pero el equipo completo pesa media tonelada y requiere una sala magnéticamente aislada. (Ex-Ante)

Referencias

Álvarez, R. : El impresionante robot con inteligencia artificial 'Erica' será el primero en el mundo en protagonizar una película de ciencia ficción, Xataka, 26/06/2020.

Manly Battery Company: The 28 Best Humanoid Robots in 2025, Manly, (sin fecha).  

Escobar, D.: Robots humanoides cada vez más realistas: trabajan y se comunican como una persona, Infobae, 17/06/2024. 

Ex-Ante: IA 2025: entre la expansión de los “agentes autónomos” y la presión por generar ingresos, 21/02/2025 

Gerken, T.: El problema sobre superbacterias que tomó años para ser resuelto por los científicos y que la IA solucionó en dos días, BBC News, 21/02/2025. 

Hsu, J.: AI can decode digital data stored in DNA in minutes instead of days, New Sxccientist, 21/02/2025. 

Jiménez, J.: La "googlificación" de la sociedad: el potencial transformador de la IA está justo en lo que no vemos, Xataka, 22/02/2025. 

Lagos, A.: Perplexity lanza “Deep Research”, una herramienta de IA para investigación profunda que compite con OpenAI y Google, Wired, 21/02/2025.

González, F.: Investigadores españoles ponen en duda la capacidad de razonamiento de las IA más poderosas, Wired, 21/02/2025

¿Defenderse de la IA?

 Los días 10 y 11 de febrero se reunieron en París líderes mundiales y "titanes tecnológicos" en la "Cumbre de Acción sobre Inteligencia Artificial", para debatir nuevas directrices tendientes a facilitar un desarrollo más rápido de la IA, flexibilizando las reglas, pero también - oficialmente - para que "el desarrollo de la IA sea más ético, democrático y respetuoso con el medio ambiente". (González)

Aunque se habló de "contener los riesgos asociados a su desarrollo", se trataba esencialmente de los problemas de seguridad (protección y uso de los datos) y de la influencia - indirecta - en el cambio climático. Para el presidente Macron, también se trataba, para Europa, del riesgo de quedar rezagados.

Macron prometió 109.000 millones de euros para el "Stargate" europeo, un campus de centro de datos que sería el más grande de Europa, aludiendo al proyecto Stargate anunciado por el presidente Trump en los EEUU.

Si buscamos en los informes el término "defensa", encontraremos que se refiere a la industria de la defensa, y no a la defensa de los usuarios u otros afectados. Por ciertos, existen múltiples estudios (y artículos) que señalan qué profesiones se verán afectados y cuantos trabajadores podrán perder su trabajo o se verían obligados a cambiarlo.

Pero todo el mundo se vería afectado, de un modo u otro. Ya se anuncian no solo PC que vendrían con IA preinstalada sino teléfonos celulares (que se volverían, por fin, realmente "inteligentes", o casi).

¿Qué podemos hacer frente a esta invasión frente a la cual, al parecer, no podemos opinar?

En uno de los artículos que me ha llegada encontré al menos una referencia a una empresa, llamada ROOST, que sería "un esfuerzo comunitario para construir una infraestructura de seguridad escalable y resistente para la era de la IA":

Una organización sin fines de lucro, la iniciativa Robust Open Online Safety Tools (ROOST), debutó el lunes. Según un comunicado, reúne a líderes tecnológicos para desarrollar y proporcionar herramientas de seguridad gratuitas y de código abierto a organizaciones públicas y privadas. También facilitará la denuncia de material de abuso sexual infantil en internet y utilizará los grandes modelos lingüísticos que capacitan a los sistemas de inteligencia artificial para establecer una "infraestructura de seguridad". La ONG cuenta con el apoyo de los fundadores de Discord, OpenAI, Roblox y otras fundaciones. (Desmarais)

En realidad, no proporciona herramientas de protección para cualquier particular, sino para usuarios capaces de operar con modelos de IA, para "identificar y llenar algunas críticas en este espacio, por ejemplo, en torno a conjuntos de datos específicos de capacitación y evaluación para la seguridad del contenido", y también "satisfacer las necesidades básicas de seguridad infantil". Para ello ofrece "bloques de construcción básicos para proteger a los usuarios y las comunidades globales" (ROOST).

Queda el problema del "ciudadano de a pie". ¿Qué puede (o debe) hacer?

1. Mantener sus datos privados fuera de los sistemas abiertos. Esto significa no solo ser muy (más) cuidadoso con lo que publicamos en las redes sociales sino, cada vez más, en la medida en que usamos consultas en chats de IA (OpenAI, Gemini u otro), no revelar nada que sea privado.

2. Desconfiar de las respuestas de estos chatbots y verificarlas lo mejor posible. (Y recordar que vuelven a formar parte de su base de datos de consulta y aprenden de las respuestas).

3. Estar atento ante los deepfakes, los mensajes de voz o texto fraudulentos que pidan credenciales o datos personales, que nos pueden llegar por múltiples vías. (Las organizaciones pueden utilizar ¡IA! para reducir estas operaciones de maleantes. Cloudflare, escudo y acelerador de páginas web, es un ejemplo de ellos.) 

Referencias

Desmarais, A.: Esto es lo que se anunció en la Cumbre de Acción sobre la IA, Euronews, 15/02/2025. 

González, F.: Líderes mundiales se reúnen en París en busca de una regulación más flexible para la IA, Wired en español, 10/02/2025. 

ROOST: Modular safety solutions for builders. https://roost.tools/

Un "terremoto" chino afecta al mundo de la IA

 Hago aquí un resumen ordenado temáticamente de lo que ha ocurrido con la aparición de la IA generativa china Deepseek, reproduciendo lo aparecido en las redes sociales desde el 27 de enero. (No incluyo las comillas.)

Sus aportes: Proporciona una trazabilidad de su razonamiento, permitiendo a los usuarios comprender mejor la lógica detrás de cada implementación, lo que no ofrecen otros (Genbeta, 30/1). También lanzó su propio generador de imágenes por IA para tumbar a Midjourney y las de Microsoft, Google o X. (@abc_tecnologia, 28/1) 

Lo financiero: DeepSeek es el Sputnik de China contra el dominio USA en inteligencia artificial: 27 veces más barato que OpenAI o1. Derrumba acciones de las grandes tecnológicas de US$ 1 billón y NVIDIA está a punto de perder 350.000 millones en valor de mercado (@DFinanciero, Xataka, Genbeta, 28/1). Los millonarios tecnológicos han perdido 108.000 millones en un solo día (@xataka, 28/1). Poco después, ByteDance, la matriz de TikTok, anunció un modelo aún más barato. La burbuja de la IA ha comenzado a desinflarse (El País, 1/2).

Las críticas: Microsoft investiga si la IA china robó datos de OpenAI para su entrenamiento (@abc_tecnologia, 29/1). OpenAI y Microsoft sabían desde agosto que cuentas asociadas a DeepSeek estaban extrayendo datos de sus plataformas (@transmediachile, 31/1). Los líderes tecnológicos estadounidenses están tratando de cambiar la narrativa para hacer que DeepSeek parezca el villano (La Tercera, 31/1). Italia ha ordenado bloquear el uso de DeepSeek, preocupada por la privacidad (@xataka, 29/1, @genbeta, 31/1). Taiwán prohibió a sus agencias usar Deepseek (Deutsche Welle, 1/2).

Sus riesgos: Si usas DeepSeek en su web o app, envías tus datos a China, pero se puede descargar [gratis] y usar offline (Genbeta, 28/1). DeepSeek prioriza la alineación con las políticas del gobierno chino (censura) (Infobae, 30/1). DeepSeek expuso una base de datos interna que contenía historiales de chat y datos confidenciales (Techcrunch, 30/1). La investigación de Wiz Research ha descubierto que una de las bases de datos de la IA, con más de un millón de registros, se encuentra completamente expuesta (La Vanguardia, 1/2). No superó ninguna prueba de seguridad (Infobae, 2/2). Enfrenta ataques maliciosos a gran escala (@agencia_sinc, 28/1).

Lo técnico: DeepSeek ha dado la prueba: entrenar grandes modelos no requiere 100.000 tarjetas Nvidia ni una arquitectura faraónica en continua expansión (@minipetite.bsky.social, 30/1). 

Complementos

Como complemento, puede leer las observaciones de Roberto Ampuero acerca del desafío tecnológico y cultural que Deepseek representa para Occidente: "DeepSeek no amenaza sólo a las tecnológicas de Estados Unidos" en la web de Radio Bíobío. 

También puede leer un artículos de la revista de tecnología del MIT acerca de "las semillas que plantó Deepseek": "Three things to know as the dust settles from DeepSeek".