GAISSA: Una targeta energètica per avaluar i millorar l’eficiència energètica i el rendiment associats a la IA

L'entrenament d'un model d'IA consisteix a alimentar les xarxes neuronals que el conformen amb grans volums de dades i realitzar múltiples iteracions entre aquestes per optimitzar els paràmetres del model i millorar-ne els resultats. Aquestes tasques requereixen una enorme capacitat de processament, cosa que consumeix una quantitat molt significativa d'electricitat. Segons Schwartz et al., el cost d'entrenar models d'Aprenentatge Automàtic (en anglès, Machine Learning - ML), en termes de recursos informàtics utilitzats, va augmentar 300.000 vegades en només 6 anys (2013-2019), duplicant-se cada 3,4 mesos. Segons estudis més recents, aquests costos continuen creixent a un ritme anual de 2,4 vegades des del 2016. Si ens centrem exclusivament en els sistemes d'IA i pensem en un escenari intermedi, per al 2027 els centres de dades i servidors amb models d'IA consumiran entre 85 i 134 terawatts hora (TWh) anuals. Aquesta xifra és comparable al consum anual d'electricitat de països com l'Argentina, els Països Baixos o Suècia, i representa aproximadament el 0,5 % del consum elèctric mundial actual.

Tanmateix, per comprendre completament el veritable impacte ambiental, cal considerar l'ecosistema de l’ML de manera holística, més enllà de l'entrenament de models, i tenir en compte la petjada de carboni operativa de l'ML. Així, la inferència, que és l'ús d'un model entrenat per fer prediccions en temps real, també pot consumir quantitats significatives d'energia, especialment en aplicacions a gran escala. Encara que el consum d'energia requerit per una única inferència és molt menor que durant l'entrenament, l'ús continu i estès en entorns com els sistemes d'atenció al client, la generació de contingut o la conducció autònoma, pot acumular un impacte energètic més gran. De fet, per a serveis com ChatGPT, la inferència constitueix la causa principal de les emissions, produint en un any 25 vegades les emissions de carboni requerides en el seu entrenament, segons Chien et al.

Aquest elevat consum d'energia té diverses implicacions:

1. Costos econòmics: L'entrenament de models a gran escala és car degut als alts requeriments de hardware i l'energia necessària per alimentar els centres de dades.
2. Impacte ambiental: L'ús massiu d'electricitat en entrenaments prolongats contribueix a les emissions de carboni, especialment si la font d'energia no és renovable. Això afecta la sostenibilitat de la IA.
3. Optimització: S'han de desenvolupar mètodes d'entrenament i inferència més eficients, incloent-hi l'optimització de models, l'ús de hardware especialitzat com GPUs i TPUs, i l'adopció d'estratègies com l'aprenentatge federat i la compressió de models.  

En aquest context, el grup de recerca Software and Service Engineering Group (GESSI) de la Universitat Politècnica de Catalunya - BarcelonaTech (UPC) treballa en GAISSA, un projecte en el marc del qual s'ha desenvolupat l’eina informàtica GAISSALabel. Es tracta d'una targeta energètica que avalua l'eficiència energètica tant en les fases d'entrenament com d'inferència de qualsevol model d'aprenentatge automàtic, especialment útil per als serveis d’HPC. GAISSALabel és capaç d'avaluar la petjada dels models d'aprenentatge automàtic, contribuint a millorar la seva eficiència, reduir els costos operatius i disminuir els temps de còmput.

GAISSALabel permetrà als desenvolupadors de models d'IA:  

• Monitorar el consum energètic i generar informes detallats.  
• Identificar àrees de millora per, a l'hora de programar, reduir el consum energètic de l'entrenament i inferència de models ML.  
• Optimitzar models per fer-los més eficients en termes de temps i recursos.  

Seguint les recomanacions de refactorització de l'eina GAISSALabel, els enginyers de ML podran millorar l'eficiència energètica dels sistemes d’ML fins a un 50%, cosa que també permetrà una reducció en el cost econòmic dels projectes d’ML (per exemple, reducció de la factura elèctrica dels centres de dades i HPC).

GAISSALabel proporciona solucions a tres nivells:  

1. Social, fomentant el compromís amb l'eficiència energètica dels sistemes d'ML i permetent als usuaris finals seleccionar i utilitzar sistemes d'ML sostenibles.  
2. Per als proveïdors de hardware d’ML, dotant-los dels recursos necessaris per desenvolupar ML de manera sostenible, amb l'ajuda d'eines de gestió i report dintre del marc regulatori.  
3. Individual, ajudant els científics de dades i enginyers de ML entendre i gestionar l'eficiència energètica en producció a través d’una major consciència i comprensió del consum energètic inherent dels sistemes i eines d'ML.  

El projecte es va iniciar el desembre de 2022 i finalitzarà el setembre de 2025. Compta amb un pressupost de 277.035,00 € i està finançat amb fons procedents del Ministeri de Ciència i Innovació i Universitats i dels Fons Next Generation de la Unió Europea.