Esos sofisticados procesadores gráficos que zumban en un centro de datos moderno parecen eficientes en teoría. Un producto de gama alta podría necesitar tan solo 700 vatios para ejecutar un modelo de lenguaje extenso. Pero en la práctica, ese mismo chip puede requerir cerca de 1700 vatios una vez que la electricidad se abre paso a través de capas de conversión, resistencia y calor.
Esa ineficiencia oculta se ha convertido en una de las crisis menos comentadas de la inteligencia artificial. A medida que los centros de datos crecen para alimentar modelos cada vez más grandes, la energía desperdiciada para alimentar los chips amenaza con rivalizar con la energía utilizada para la computación.
Peng Zou piensa que eso es absurdo. Y cree que tiene una solución.
En la startup PowerLattice, Zou y su equipo han creado algo lo suficientemente pequeño como para ocultarse bajo un procesador, pero lo suficientemente ambicioso como para prometer un replanteamiento radical del consumo de energía del hardware de IA. Su idea se basa en un principio simple: acercar la conversión de energía al procesador tanto como lo permita la física.
El impuesto energético invisible de la IA
Los centros de datos modernos funcionan con corriente alterna de la red eléctrica. Sin embargo, los chips de IA solo pueden procesar corriente continua de bajo voltaje, alrededor de un voltio. Pasar de una a otra requiere múltiples pasos de conversión. Y cada paso tiene un precio.
A medida que el voltaje baja, la corriente aumenta para conservar energía. Esa alta corriente debe circular por las placas de circuitos y las interconexiones. Y dondequiera que fluya la corriente, se genera calor. La energía perdida aumenta con el cuadrado de la corriente, lo que significa que las pequeñas ineficiencias se disparan rápidamente.
“Este intercambio ocurre cerca del procesador, pero la corriente aún recorre una distancia considerable en su estado de bajo voltaje”, explica Hanh-Phuc Le, investigador en electrónica de potencia de la Universidad de California en San Diego, quien no tiene conexión con PowerLattice. “Cuanto más nos acercamos al procesador, menor es la distancia que recorre la alta corriente, lo que permite reducir la pérdida de potencia”, afirma.
Durante años, los ingenieros han ido trabajando en este problema. Pero la IA lo ha situado bajo un nuevo e incómodo foco de atención.
Dado el crecimiento explosivo de las demandas de energía de los centros de datos, “esto se ha convertido prácticamente en un problema crucial hoy en día”, dijo Zou a IEEE Spectrum.
Conversión de potencia en movimiento por milímetros
Los sistemas tradicionales realizan su caída de tensión final a centímetros del procesador. PowerLattice reduce esa distancia a milímetros.
La empresa ha diseñado chipsets de suministro de energía en miniatura que se ubican debajo del propio encapsulado del procesador. Convierten la energía en el último momento, minimizando la distancia que debe recorrer la corriente alta.
Cada chiplet contiene inductores, circuitos de control de voltaje y lógica programable por software. El dispositivo completo mide aproximadamente el doble del tamaño de una goma de borrar y tiene tan solo 100 micrómetros de grosor, aproximadamente el grosor de un cabello humano.
Esa extrema delgadez permite que los chiplets se alojen debajo del procesador sin ocupar espacio de otros componentes críticos. En el hardware de centros de datos, el espacio lo es todo.
Zou argumenta que esta proximidad cambia fundamentalmente el cálculo de la pérdida de energía. Menos distancia significa menos calor. Menos calor significa menos energía desperdiciada. Pero la reducción de la potencia de la electrónica introduce su propio conjunto de problemas.
El problema del inductor
Los inductores son los caballos de batalla menos conocidos de la regulación de voltaje. Almacenan energía brevemente y luego la liberan suavemente, manteniendo estable la entrega de potencia. También son obstinadamente físicos.
Los ingenieros saben desde hace tiempo que el tamaño físico de los inductores influye directamente en la cantidad de energía que pueden gestionar. Si se reducen, su rendimiento suele verse afectado.
PowerLattice abordó esta limitación mediante la ciencia de los materiales. El equipo construyó sus inductores a partir de una aleación magnética especializada que, según Zou, “nos permite operar el inductor con gran eficiencia a alta frecuencia”. Y añade: “Podemos operar a una frecuencia cien veces superior a la de la solución tradicional”.
A frecuencias más altas, los circuitos pueden utilizar inductores con una inductancia mucho menor. Una inductancia menor implica menos material. Y menos material implica componentes más pequeños.
Muchos materiales magnéticos pierden sus propiedades deseables al ser sometidos a tales condiciones. La aleación de PowerLattice conserva su rendimiento, permitiendo que todo el regulador se contraiga sin colapsar. El resultado, dice Zou, es un regulador de voltaje con un área menor a una vigésima parte de las soluciones actuales.
Grandes afirmaciones, preguntas reales
PowerLattice afirma que sus chiplets pueden reducir el consumo de energía hasta en un 50%, duplicando efectivamente el rendimiento por vatio. Esa cifra, y con razón, levanta sospechas.
En declaraciones a IEEE Spectrum, Le no descarta la idea por completo, pero se muestra cauteloso. Señala que un ahorro del 50% “podría lograrse, pero eso significa que PowerLattice debe tener control directo de la carga, lo que incluye también el procesador”.
En otras palabras, las ganancias más significativas suelen obtenerse cuando los sistemas de energía ajustan dinámicamente el voltaje y la frecuencia en función de la actividad del procesador en tiempo real. Esta técnica, conocida como escalado dinámico de voltaje y frecuencia, requiere una profunda integración con el propio chip.
PowerLattice no controla el procesador. Sin ese control, dice Le, el ahorro podría ser considerable, pero quizá no tan milagroso como se anuncia.
Zou replica que la flexibilidad forma parte del diseño. Los chiplets son “altamente configurables y escalables”, afirma. Los clientes pueden implementar muchos chiplets o solo unos pocos, según su arquitectura y necesidades.
“Es un diferenciador clave” del enfoque de la empresa, sostiene Zou.
Un mercado abarrotado y cambiante
Incluso si la tecnología funciona como se promete, PowerLattice enfrenta un desafío familiar para las startups: los gigantes están dando vueltas alrededor del mismo problema.
Los principales fabricantes de chips, como Intel, están desarrollando sus propios reguladores de voltaje totalmente integrados. Estas soluciones buscan solucionar ineficiencias similares integrando la gestión de energía directamente en el diseño de los procesadores.
Zou no está preocupado. Cree que la tecnología de Intel se mantendrá internamente. “Desde la perspectiva de nuestra posición en el mercado, somos bastante diferentes”, afirma.
Hace una década, esa diferencia podría haber condenado a PowerLattice. Le recuerda una época en la que los fabricantes de procesadores controlaban estrictamente ecosistemas enteros. Quienes compraban un chip a menudo tenían que adquirir también el hardware de gestión de energía correspondiente, o se arriesgaban a perder las garantías de fiabilidad.
“Qualcomm, por ejemplo”, dice Le, “puede vender su chip procesador y la gran mayoría de sus clientes también tienen que comprar su chip propietario de gestión de suministro de energía Qualcomm”.
Ese estancamiento dejó poco espacio para los innovadores independientes en el sector energético. Pero el panorama actual del hardware es diferente.
“Existe una tendencia hacia lo que llamamos implementación de chiplets, es decir, una integración heterogénea”, afirma Le. Los diseñadores de sistemas ahora combinan componentes de diversas empresas, buscando el rendimiento y la eficiencia dondequiera que los encuentren.
Las startups más pequeñas que desarrollan procesadores e infraestructura de IA consumen la misma energía que sus rivales más grandes. Es posible que no tengan acceso a soluciones energéticas a medida de las grandes empresas. Para ellas, innovaciones de terceros como los chiplets de PowerLattice podrían resultar atractivas.
“Así es el mercado”, dice Le. “Tenemos una startup trabajando con otra startup haciendo algo que realmente rivaliza, e incluso compite, con algunas grandes empresas”.
Por qué esto es importante más allá de los centros de datos
La huella energética de la IA se ha convertido en un problema social, no sólo de ingeniería. A medida que gobiernos y empresas se comprometen a reducir las emisiones, los centros de datos sobrecargan cada vez más las redes eléctricas. Las mejoras en la eficiencia energética no sólo ahorran dinero, sino que también reducen el coste ambiental de la computación y liberan energía para otras actividades.
La eficiencia de la IA se ha centrado principalmente en algoritmos mediante trucos de entrenamiento, métodos de poda o arquitecturas más inteligentes. No nos malinterpreten, estas cosas funcionan. El hardware, mientras tanto, ha consumido electrones entre bastidores.
El trabajo de PowerLattice es parte de un reconocimiento más amplio de que el futuro de la IA depende de la plomería tanto como de la inteligencia. A veces, los problemas más grandes se pueden resolver simplemente moviendo un componente crítico unos milímetros más cerca de donde realmente se realiza el trabajo.
Fuente: ZME Science.