Investigadores de la Escuela Polit\u00e9cnica Federal de Lausana en Suiza (EPFL) han desarrollado un nuevo software \u2014ahora una empresa emergente\u2014 que elimina la necesidad de enviar datos a servicios en la nube de terceros cuando se utiliza IA para completar una tarea. Esto podr\u00eda desafiar el modelo de negocio de las grandes tecnol\u00f3gicas.<\/p>\n\n\n\n
El uso de la inteligencia artificial en las tareas cotidianas ha crecido r\u00e1pidamente en los \u00faltimos tres a\u00f1os. Los modelos de IA son cada vez m\u00e1s \u00fatiles para procesar datos sensibles, como historiales cl\u00ednicos, solicitudes de clientes o cualquier documento confidencial relacionado con el trabajo.<\/p>\n\n\n\n
Cada vez que se solicita a la IA que realice una tarea, la consulta se inicia localmente en el ordenador del usuario y se env\u00eda a la nube, donde la IA genera una respuesta mediante hardware potente, un proceso conocido como inferencia. La respuesta finalmente se env\u00eda al ordenador local del usuario.<\/p>\n\n\n\n
Hoy en d\u00eda, se utilizan enormes capacidades de procesamiento de datos para lograrlo, lo que requiere enormes centros de datos, necesarios tambi\u00e9n para entrenar modelos de IA, como ChatGPT, Gemini y Claude. Esto significa que tanto la inferencia como el entrenamiento est\u00e1n controlados casi exclusivamente por las grandes tecnol\u00f3gicas.<\/p>\n\n\n\n
Ahora, los investigadores de la EPFL Gauthier Voron, Geovani Rizk y Rachid Guerraoui, del Laboratorio de Computaci\u00f3n Distribuida (DCL) de la Facultad de Ciencias de la Computaci\u00f3n y la Comunicaci\u00f3n, han lanzado un nuevo software que permite a los usuarios descargar modelos de IA de c\u00f3digo abierto y usarlos localmente, sin necesidad de la nube para responder preguntas o completar tareas. El nuevo software, llamado Anyway Systems, coordina y combina m\u00e1quinas distribuidas en una red local en un cl\u00faster local. Utiliza robustas t\u00e9cnicas de autoestabilizaci\u00f3n para optimizar el uso del hardware local subyacente, contradiciendo la creencia popular de que se necesitan grandes centros de datos para implementar modelos de IA.<\/p>\n\n\n\n
Se puede instalar en tan solo media hora en una red de m\u00e1quinas locales sin que los datos salgan de la red, lo que garantiza la privacidad y la soberan\u00eda. Un modelo de IA de gran tama\u00f1o como GPT-120B, el modelo abierto m\u00e1s reciente y de mayor tama\u00f1o de OpenAI, se puede descargar e implementar en Anyway Systems en cuesti\u00f3n de minutos, requiriendo tan solo cuatro m\u00e1quinas con una GPU est\u00e1ndar cada una (con un coste aproximado de 2.300 CHF o US$2.800 cada una), en lugar de un costoso rack especializado (con un coste aproximado de 100.000 CHF o US$125.600), que hasta ahora se consideraba necesario para ejecutar un modelo de IA.<\/p>\n\n\n\n
“Durante a\u00f1os se ha cre\u00eddo que no es posible disponer de grandes modelos ling\u00fc\u00edsticos y herramientas de IA sin grandes recursos, y que la privacidad, la soberan\u00eda y la sostenibilidad de los datos son s\u00f3lo v\u00edctimas de ello, pero no es as\u00ed y es posible adoptar enfoques m\u00e1s inteligentes y econ\u00f3micos”, afirm\u00f3 el profesor Rachid Guerraoui, director del DCL.<\/p>\n\n\n\n
Cuando los datos de un usuario se env\u00edan a la nube, surgen preguntas cruciales sobre seguridad y privacidad, en particular si esos datos se utilizan para entrenar o mejorar los modelos de IA. Asimismo, la dependencia de grandes proveedores globales de servicios de IA en la nube plantea interrogantes sobre\u00a0la soberan\u00eda de la IA,<\/a>\u00a0ya que transfiere el control sobre activos nacionales cr\u00edticos (datos, algoritmos e infraestructura) de una entidad nacional a corporaciones transnacionales. Adem\u00e1s, la inmensa potencia inform\u00e1tica necesaria para responder\u00a0a las consultas de IA<\/a>\u00a0en la nube (se estima que la inferencia representa entre el 80 y el 90% de la potencia inform\u00e1tica relacionada con la IA) est\u00e1 impulsando la r\u00e1pida expansi\u00f3n de los enormes centros de datos para IA que consumen enormes cantidades de energ\u00eda y agua.<\/p>\n\n\n\n “Anyway Systems destaca en inferencia, pero tambi\u00e9n podr\u00eda ayudar a reducir los recursos necesarios para el entrenamiento”, explic\u00f3 Guerraoui. “Las pruebas piloto han demostrado que cuando un modelo se descarga y se ejecuta en m\u00e1quinas locales dispersas en lugar de en una nube enorme, podemos perder algo de latencia (es decir, el tiempo necesario para responder a una solicitud), pero no precisi\u00f3n”.<\/p>\n\n\n\n “Decimos que Anyway Systems es simple, escalable y seguro”, contin\u00faa Guerraoui. El DCL desarroll\u00f3 variantes anteriores del algoritmo Anyway hace muchos a\u00f1os, donde los investigadores se han centrado durante mucho tiempo en la computaci\u00f3n distribuida, la tolerancia a fallos, la optimizaci\u00f3n y la privacidad.<\/p>\n\n\n\n Los algoritmos anteriores del DCL eran soluciones existentes para otros desaf\u00edos de tecnolog\u00edas como la cadena de bloques y las criptomonedas. Hace tres a\u00f1os, Guerraoui y sus colegas tuvieron la idea de aplicar t\u00e9cnicas de autoestabilizaci\u00f3n a la IA, encontrando una soluci\u00f3n casi perfecta.<\/p>\n\n\n\n Como laboratorio, podr\u00edamos ser \u00fanicos al trabajar juntos en computaci\u00f3n distribuida robusta y aprendizaje autom\u00e1tico, tanto desde una perspectiva te\u00f3rica como pr\u00e1ctica, y centramos nuestra atenci\u00f3n en el uso de t\u00e9cnicas de autoestabilizaci\u00f3n para IA. Funcionaron. Pensamos: “‘Optimicemos y optimicemos'”, y funcionaron a\u00fan mejor. El resultado es casi demasiado bueno para ser verdad”, afirm\u00f3 Guerraoui.<\/p>\n\n\n\n De todos modos, Systems fue elegido recientemente como uno de los seis beneficiarios inaugurales del Startup Launchpad AI Track, impulsado por UBS, el primer programa de subvenciones de Suiza dedicado a la IA.<\/p>\n\n\n\n El software ha superado la fase de prototipo y ahora se est\u00e1 probando en empresas y administraciones de toda Suiza, incluida la EPFL. Los primeros usuarios est\u00e1n evaluando las ventajas y desventajas en t\u00e9rminos de velocidad, precisi\u00f3n y calidad.<\/p>\n\n\n\n “Anyway Systems representa una tecnolog\u00eda interesante y atractiva que optimiza el uso de recursos al tiempo que garantiza la seguridad y soberan\u00eda de los datos y podr\u00eda ser un punto de inflexi\u00f3n en la IA”, dijo el profesor David Atienza, vicepresidente asociado de centros de investigaci\u00f3n y plataformas tecnol\u00f3gicas de la EPFL.<\/p>\n\n\n\n Su enfoque sostenible se alinea perfectamente con las necesidades de las plataformas inform\u00e1ticas avanzadas de la EPFL y desempe\u00f1ar\u00e1 un papel fundamental a la hora de definir la trayectoria del futuro desarrollo de la IA en la EPFL para consumir menos recursos con la nueva implementaci\u00f3n de modelos LLM como Apertus. Por ahora, Anyway Systems no funcionar\u00e1 en una sola computadora de escritorio o port\u00e1til en casa, pero la historia de la inform\u00e1tica muestra que la optimizaci\u00f3n a menudo ocurre r\u00e1pidamente.<\/p>\n\n\n\n Tu tel\u00e9fono contiene cantidades incre\u00edbles de informaci\u00f3n que habr\u00edan sido inimaginables hace unos a\u00f1os, y ahora lo haces todo con \u00e9l. Puede vencer a los 100 mejores campeones de ajedrez a la vez, mientras que el ordenador necesario para vencer a Kasparov era enorme.<\/p>\n\n\n\n “La historia nos dice que as\u00ed son las cosas. Lo que decimos es que podremos hacerlo todo localmente en t\u00e9rminos de IA. Podr\u00edamos descargar la IA de c\u00f3digo abierto que prefiramos, adaptarla a nuestras necesidades, y nosotros, y no las grandes tecnol\u00f3gicas, podr\u00edamos controlarlo todo”, concluy\u00f3 Guerraoui.<\/p>\n\n\n\n Google AI Edge est\u00e1 dise\u00f1ado para funcionar en tel\u00e9fonos m\u00f3viles con modelos muy espec\u00edficos y peque\u00f1os creados por Google, donde cada usuario ejecuta un modelo limitado por la capacidad del tel\u00e9fono. No existe computaci\u00f3n distribuida que permita la implementaci\u00f3n de los mismos modelos de IA grandes y potentes que comparten muchos usuarios de la misma organizaci\u00f3n de forma escalable y con tolerancia a fallos. El sistema Anyway puede gestionar cientos de miles de millones de par\u00e1metros con solo unas pocas GPU.<\/p>\n\n\n\n La mayor\u00eda de estos enfoques permiten implementar un modelo en una sola m\u00e1quina, lo cual representa una \u00fanica fuente de fallos. Para implementar los modelos m\u00e1s potentes, es necesario comprar e invertir en m\u00e1quinas muy costosas, b\u00e1sicamente las mismas que se encuentran en un centro de datos. Por lo tanto, si se cuenta con una sola m\u00e1quina, las soluciones mencionadas son \u00fatiles para implementar modelos peque\u00f1os.<\/p>\n\n\n\n Si se tienen varias m\u00e1quinas comunes, no es posible combinarlas eficientemente con las soluciones mencionadas para implementar un modelo grande; incluso si se pudiera, se requerir\u00eda un equipo para administrar y mantener el sistema. Anyway Systems lo hace de forma transparente, robusta y autom\u00e1tica. En Anyway Systems, el hecho de que una m\u00e1quina falle, abandone o se una a la red es transparente, salvo por un peque\u00f1o cambio en la latencia (el tiempo de respuesta a una solicitud).<\/p>\n\n\n\n Como el sistema Anyway permite que cualquier modelo de IA de c\u00f3digo abierto se implemente localmente, alimentarlo con datos locales y confidenciales se vuelve completamente seguro y aceptable, devolvi\u00e9ndole el control al usuario.<\/p>\n\n\n\n\u00bfDe blockchain a IA?<\/h2>\n\n\n\n
Mirando hacia el futuro: tu propia IA en casa<\/h2>\n\n\n\n
\u00bfCu\u00e1l es la diferencia entre Anyway Systems y Google AI Edge?<\/h2>\n\n\n\n
\u00bfCu\u00e1l es la diferencia entre Anyway Systems y otras soluciones que permiten a las personas ejecutar LLM locales como Llama o msty.ai?<\/h2>\n\n\n\n
Los modelos de IA se mejoran y actualizan constantemente. \u00bfC\u00f3mo se reflejan estas mejoras a nivel local?<\/h2>\n\n\n\n