Una mañana de 2019, Adebayo Alonge estaba en una habitación de hotel en Ciudad del Cabo, listo para demostrar la respuesta de su startup a un problema grave de la salud en África: los medicamentos falsificados, que matan a miles de personas en el continente cada año. El RxScanner es un espectrómetro de mano que escanea una pastilla con luz infrarroja y envía su perfil molecular a un modelo de IA conectado a una base de datos farmacéutica. En segundos, la IA identifica el medicamento a partir de ese perfil, o avisa que es falso.

Farmacias de más de una docena de países, incluidos Ghana, Kenia, Myanmar y Nigeria, la tierra natal de Alonge, ya usaban el sistema. Pero esa mañana en Sudáfrica, no funcionó. "Quedé en shock", cuenta Alonge. El espectrómetro se conectaba al modelo, pero el centro de datos estaba a 14.000 kilómetros y el ancho de banda era limitado. "Nuestro servidor estaba en Estados Unidos, y solo obtener el resultado de un único escaneo me tomaba más de 5 minutos."

Entonces Alonge pidió de inmediato a sus ingenieros que encogieran el modelo a una versión más pequeña, de bajo consumo y sin conexión, capaz de correr enteramente en su teléfono Android. La produjeron dos horas después y eso salvó la demostración. Más importante aún, ese trabajo dio origen a una nueva versión del dispositivo, capaz de autenticar una pastilla en lugares sin banda ancha, sin computadores ni siquiera electricidad confiable. También convirtió a Alonge en un defensor de este tipo de "IA pequeña".

Qué es la IA pequeña

La IA pequeña está muy lejos de los colosales grandes modelos de lenguaje de los países ricos, de los centros de datos hiperescalados y de las inversiones multimillonarias. Pero para millones de personas es la única IA que importa, y a menudo la única disponible. Según un informe del Banco Mundial de noviembre, solo el 0,7% de los usuarios de internet en los países más pobres del mundo ha usado ChatGPT, frente a un cuarto de todos los usuarios en las naciones más desarrolladas.

"La mayoría discute la IA desde el lado generativo, de los grandes modelos de lenguaje. Pero eso necesita mucho poder de cómputo, electricidad, datos masivos y gente capacitada para gestionarlo", dijo Ajay Banga, presidente del Banco Mundial, en enero en el Foro Económico Mundial de Davos. "Fuera del mundo desarrollado, salvo quizá India y China, muy pocos países tienen esa combinación."

La IA pequeña, en cambio, puede entregar servicios útiles, incluso capaces de salvar vidas, en zonas que no tienen nada de eso. En India, donde los planes gubernamentales de IA piden más desarrollo de modelos pequeños, muchos sistemas ya funcionan para agricultores. Un sistema montado en drones desarrollado por Bala Murugan y colegas del Instituto de Tecnología de Vellore toma fotos de plantas de anacardo e identifica rápidamente las que tienen manchas que indican enfermedad. Todo el procesamiento ocurre en el propio dron, sin necesidad de un computador en el lugar ni de conexión a un servidor central.

Usando modelos de lenguaje pequeños entrenados para un problema específico, y a veces corriendo en dispositivos baratos y de bajo consumo, otras implementaciones detectan plagas de hormigas en un viñedo uruguayo, la presencia de mosquitos portadores de malaria en varios países, y realizan electrocardiogramas desde un dispositivo Arduino en zonas de Brasil que carecen de equipos más complejos.

"Esta es el área más importante de la IA hoy", dice Marcelo José Rovai, profesor del Instituto de Ingeniería y Sistemas de Información de la Universidad Federal de Itajubá, en Brasil, involucrado en los tres proyectos. "Está creciendo muy rápido."

No hay una definición estricta de "IA pequeña", pero suele usarse el término para modelos de lenguaje con a lo sumo unos pocos miles de millones de parámetros. En comparación, los modelos de punta pueden superar el billón. Eso es suficientemente pequeño para correr directo en un teléfono o en una Raspberry Pi, sin conexión a un centro de datos y usando apenas unos watts, muchas veces alimentados por una batería o un panel solar.

Cómo se construye un modelo pequeño

Pese a su bajo peso, estos modelos no son una tecnología distinta de la de los modelos gigantes, dice Rovai. Muchos se crearon igual que la versión móvil del escáner de Alonge: mediante "poda", es decir, quitando los parámetros que no participaban en la tarea. El resultado es un sistema menos capaz en general, pero muy bueno en el trabajo específico para el que fue podado.

Otros modelos pequeños se crean por "destilación": se entrenan para imitar a un modelo grande hasta que su desempeño se acerca al de su "maestro". En otros casos se reduce la precisión de un modelo mayor, por ejemplo para que uno pensado para arquitectura de 32 bits corra en diseños de 8 bits. Y cuando la aplicación sirve para clasificar datos o predecir patrones, como una plaga de hormigas, se entrena desde cero en un dispositivo pequeño, sin derivar de un modelo mayor.

Por qué se está volviendo más fácil

Correr todos estos sistemas especializados es cada vez más simple, dice Rovai, por dos razones. La primera es que el hardware mejora y gana capacidad mientras consume menos energía. Cada vez más teléfonos pueden correr IA pequeña, sobre todo los equipados con unidades de procesamiento neuronal, chips especializados que manejan tareas de IA como el reconocimiento facial. En 2025, algo más de un tercio de todos los smartphones vendidos en el mundo eran capaces de correr IA generativa, y esa cifra llegará al 45% a fin de este año, según la firma de investigación Counterpoint. Para fines del próximo año, algo más de la mitad de los smartphones podrá correr un modelo de IA pequeña.

La segunda razón es la huella cada vez menor de los modelos de lenguaje. Tanto Gemma 4 de Google DeepMind, lanzado en abril, como Qwen 3.5 de Alibaba son "fantásticos" para IA pequeña, dice Rovai. Ambos son de "pesos abiertos", lo que permite a los usuarios ajustar las conexiones entre parámetros a su medida. Eso facilita, por ejemplo, "tomar muchos datos de, digamos, la industria lechera y reentrenar el modelo específicamente en eso".

Rovai ilustró estas razones en una videollamada con uno de sus experimentos más recientes. Sosteniendo un dispositivo, dijo: "Este es el nuevo Arduino UNO Q, un aparato de 50 dólares con un chipset de Qualcomm. Aquí corro un modelo de lenguaje que recoge datos de sensores y los analiza para detectar pequeñas pozas de agua donde podrían criarse mosquitos. Consume 3 watts."

Quién impulsa el desarrollo

Convencido de que millones de personas ya se benefician de estas aplicaciones, el Banco Mundial promueve activamente la IA pequeña con subvenciones, programas de mentoría, financiamiento, asesoría técnica y modelos de política pública favorables a su desarrollo. En Ruanda, por ejemplo, respalda un programa gubernamental para ayudar a hogares de bajos ingresos a conseguir dispositivos capaces de correr IA.

Con todo, nadie afirma que los grandes modelos de lenguaje vayan a desaparecer. Crear una IA generativa capaz de correr en un teléfono requiere las ideas de arquitectura, el procesamiento de datos y los resultados de un modelo mayor, dice Rovai. "Necesitamos los modelos grandes para crear estos modelos pequeños."