La omnipresencia del tema es tal que, en cierto sentido, se convirtió en un significante vacío. La inteligencia artificial parece, por momentos, ser casi tan potente como La Fuerza en Star Wars: aquel campo de energía creado por todos los seres vivos que mantiene unida a la galaxia. En el terreno de la fantasía o del temor, se asemeja al aleph borgiano, el punto donde confluyen todos los lugares del universo. Sería, llevado al extremo de sus acólitos o acérrimos detractores, el reservorio del conocimiento humano y, a la vez, una nueva red de conexiones que produce, basándose en aquel, una gama nueva de posibilidades aún por determinar. Lo que se sabe de la IA es bastante, pero lo que se especula, intencionadamente o no, es mucho más.
En ese contexto, la influencia de algunas de sus aplicaciones consiguió instalarse en la cotidianeidad de personas y organizaciones. Muy probablemente sean los servicios de LLM (Large Language Model, o Modelo de Lenguaje de Gran Escala) los más populares, como ChatGPT o Claude. Por fuera de la carrera comercial y de escala en la que se encuentran las grandes compañías del sector, en distintos países del mundo se desarrollan iniciativas que parten de la necesidad de que haya contenidos y enfoques locales implicados en el germen mismo de las herramientas. Según estimaciones basadas en repositorios abiertos, existe una brecha histórica en el desarrollo de modelos de lenguaje a nivel global, ya que los datos en español y portugués representan el 4 y el 2 por ciento, respectivamente, del total utilizado para entrenar este tipo de sistemas. A nivel continental, el proyecto más grande y ambicioso para enfrentar esta situación es LatamGPT.
En 2023, los investigadores del Centro Nacional de Inteligencia Artificial (Cenia, una corporación privada sin fines de lucro fundada dos años antes en Chile) comenzaron a avanzar en el proyecto. Para que la cantidad y calidad de los datos fuera significativa y relevante con la idea de un modelo que diera cuenta de las particularidades contextuales de la región, comenzaron a tejer redes con organizaciones de todo el continente. Primero, en busca de las bases de datos que estas pudieran aportar, pero rápidamente también se evidenció que el trabajo en conjunto, las reuniones periódicas y el intercambio de conocimiento podría enriquecer y profundizar mucho más al incipiente modelo.
“Queremos que América Latina deje de ser solo una consumidora de tecnología desarrollada en el norte global y pase a liderar procesos que entiendan nuestras necesidades reales. Esperamos que LatamGPT sea el motor de nuevas soluciones en educación, salud y políticas públicas que realmente resguarden nuestra cultura local”, sostuvo Rodrigo Durán, gerente de Cenia, en declaraciones al newsletter LadoBNews, y agregó: “Nuestra expectativa central es la soberanía tecnológica”.
El camino hacia esa soberanía es largo y tiene una serie de escalas de dificultad creciente, tal como se desprende de la metáfora de AI stack (pila de IA) con la que describe el funcionamiento de la dependencia estructural en este campo el “White Paper sobre IA Pública” de Open Future, organización civil europea que brega por una Internet libre y abierta. De acuerdo con esa metáfora, la inteligencia artificial es una pila compuesta por capas que dependen, cada una, de la anterior: cómputo, datos, modelo y aplicaciones.
En las dos primeras reside la mayor complejidad para poder hablar de soberanía tecnológica, ya que existe una enorme concentración en un puñado de compañías: la estadounidense Nvidia abarca el 92 por ciento del mercado de chips lógicos avanzados; y entre Amazon, Google y Microsoft poseen el 67 por ciento del mercado global de infraestructura de centros de datos. LatamGPT, sin ir más lejos, estableció una alianza con Amazon Web Services, el servicio de alojamiento de datos en la nube de Amazon. Sin sus servidores, esta IA no podría correr. Contar con servidores y grandes centros de procesamiento de datos propios implicaría una inversión multimillonaria inmensa, lo que explica y profundiza esta dependencia de la infraestructura ya existente.
Ante esta dificultad para poder hablar de una soberanía tecnológica plena, surge la noción de “gradientes de soberanía”, ya que hay, en el resto del proceso, en las demás capas, trabajo por realizar para constituir un proyecto con identidad local que pueda responder a objetivos propios, por fuera de la lógica comercial global. “LatamGPT es esencial en esta búsqueda, porque es el primer modelo que se crea con esta lógica de inteligencia artificial pública. No pública estatal, sino pública en el sentido de que no es privativa, que va en contra del concepto de exclusión y de propiedad. Es compartida, comunitaria. Es un modelo grande que aspira a seguir creciendo y es, de cierta forma, utilizado como excusa para generar redes regionales”, opina Patricia Díaz Charquero, abogada e investigadora especializada en Derechos Digitales y coordinadora de Datysoc, organización uruguaya que defiende los derechos humanos en Internet, una de las tantas en la región que forma parte del proceso de desarrollo de LatamGPT.
Acerca de la importancia del proyecto en el sendero de la soberanía tecnológica habló el peruano Omar Florez, líder del preentrenamiento de LatamGPT, en una entrevista con el sitio especializado Wired: “Un modelo estándar entiende un español neutral basado en datos periodísticos globales, pero falla en contextos locales. La IA es la cuarta revolución industrial y está separando a los países que producen tecnología de los que solo la consumen. Si no invertimos ahora en crear IA con sabor latinoamericano, en diez o veinte años la brecha será insuperable. En términos técnicos, un modelo que entiende nuestro lenguaje local es más barato de operar para resolver problemas regionales porque requiere menos cómputo para entender el contexto. También ayuda a romper el techo de cristal: cuando un niño latinoamericano quiera ser científico, ya no le dirán ‘Aquí no se entrenan modelos’, sino ‘Ya lo hicimos, ahora tú hazlo mejor’”.
Por la naturaleza del proyecto, la obtención de datos, su calidad y el modo de obtenerlos es uno de los aspectos centrales que lo constituyen. Hay una búsqueda ética en el desarrollo del modelo, por lo que no solo fue necesario recabar datos que den cuenta de la identidad cultural y social de la región, sino que, además, fue necesario para esa tarea poner en marcha una previa: el análisis legal y moral de la manera en la que esa información alimenta al sistema. El aspecto legal, el ojo atento puesto allí, fue una incorporación temprana que surgió en las reuniones periódicas del grupo de trabajo. Fue Beatriz Busaniche, activista y académica argentina por la cultura libre, presidenta de la Fundación Vía Libre, quien puso en la mesa la necesidad de incorporar una política de propiedad intelectual.
“La idea inicial era hacer web scraping [N. de la R.: técnica automatizada para extraer información directamente del código fuente de las páginas web]. Por eso tuvimos que hacer análisis legal, porque no es lo mismo un web scraping ético que uno que no lo es. Nos encontramos con un montón de situaciones, hay mucha inseguridad jurídica en los términos de uso de la información pública. Por ejemplo, hicimos un rastreo de todas las discusiones parlamentarias, las taquigráficas de todas las comisiones parlamentarias y de todos los plenarios de todos los parlamentos de América Latina, pero en varios casos había un pie de página que decía ‘Todos los derechos reservados’. Es información pública, eso no puede estar restringido. Luego de un análisis de gestión de riesgos, asumimos que son errores por no trabajar en el detalle y no intenciones de prohibir el acceso, así que avanzamos. Fue un trabajo superpormenorizado, con doble chequeo, con fuentes con licencias libres, con fuentes provenientes de los socios con los que trabajamos”, enumera Díaz Charquero.
El activo más grande de LatamGPT, como proyecto pionero en el área, es la red de colaboración que se estableció en torno a su desarrollo, la multiplicidad de visiones y el trabajo mancomunado para ganar fuerza como región en lugar de empujar de forma individual y aislada. Academias e investigadores de quince países se reúnen todos los meses a intercambiar ideas para seguir haciendo crecer un modelo que no se propone competir comercialmente con los líderes globales del mercado, cuya escala y dimensiones están muy lejos de las posibilidades e intenciones del proyecto. No hay una carrera o, si la hay, LatamGPT no está participando de ella, sino construyendo bases y relaciones, un caudal de conocimiento que redundará no solo en la robustez del modelo actual, sino seguramente en proyectos por venir.
LatamGPT es un modelo de código abierto que no tendrá, o al menos no es parte de los planes hasta el momento, una interfaz web estilo chatbot para que cualquier usuario interactúe con él, como sucede con los de otras compañías. Su uso está planteado hacia el interior de universidades, gobiernos, organizaciones y empresas de la región que deseen construir soluciones especializadas sin depender exclusivamente de tecnologías externas que no reflejen la identidad latinoamericana. A través de alianzas y capacitaciones, el modelo es presentado y acercado a estos organismos para que puedan adaptarlo a sus necesidades.
ALGUNOS NÚMEROS
El modelo se desarrolló sobre una arquitectura base Llama 3.1 (70 mil millones de parámetros), complementada con un corpus regional constituido por un conjunto organizado de textos y contenidos con los que se entrena un modelo de lenguaje y que le permite comprender el contexto cultural e identitario de la región.
En total, se reunieron más de 300 mil millones de tokens de texto plano, equivalentes a alrededor de 230 mil millones de palabras, obtenidos bajo permisos y licencias explícitas, curados de tal manera de asegurar la anonimización de datos y eliminar elementos tóxicos (como noticias falsas o discriminación). La base de datos regional abarca información de 21 países latinoamericanos, con un total de 2.645.500 documentos recopilados y un promedio de completitud del 59,5 por ciento.
La infraestructura de cómputo de la Universidad de Tarapacá, en Chile, es un pilar fundamental para el desarrollo del modelo. Con una inversión proyectada de 10 millones de dólares, su nuevo centro cuenta con un clúster de doce nodos, cada uno equipado con ocho GPUs NVIDIA H200 de última generación. Es una capacidad inédita en la región.
Desde la Argentina, participan del proyecto la Fundación Vía Libre y la Facultad de Matemática, Astronomía, Física y Computación (FAMAF) de la Universidad Nacional de Córdoba.
