AI pożera ogromne ilości prądu i generuje CO2. Jak sprawdzić, która jest najbardziej eko? Salesforce ma rozwiązanie
Salesforce, we współpracy z Hugging Face, Cohere i Carnegie Mellon University, ogłosił dziś wprowadzenie na rynek AI Energy Score – pierwszego w swoim rodzaju narzędzia do analizy porównawczej różnych modeli, które umożliwia ocenę, identyfikację oraz porównanie zużycia energii.
Salesforce potwierdził również, że będzie pierwszym twórcą modeli sztucznej inteligencji, który ujawni dane dotyczące efektywności energetycznej swoich zastrzeżonych modeli.
AI Energy Score ma na celu rozwiązanie problemu braku przejrzystości w zakresie wpływu modeli AI na środowisko. Podobnie jak ENERGY STAR zmieniła standardy efektywności energetycznej dla urządzeń i elektroniki, inicjatywa ta ustanawia nowy punkt odniesienia dla zrównoważonego rozwoju modeli sztucznej inteligencji.
AI Energy Score zadebiutuje podczas AI Action Summit, gdzie przywódcy z ponad 100 krajów, przedstawiciele sektora prywatnego i organizacji pozarządowych spotkają się, aby rozmawiać o jak najlepszym wykorzystaniu sztucznej inteligencji. Zwiększając przejrzystość, wynik AI Energy Score może wpłynąć na preferencje rynkowe dla wydajnych modeli i zachęcić do zrównoważonego rozwoju sztucznej inteligencji. Uznany już przez rząd francuski i Paryskie Forum Pokojowe za swój potencjał transformacyjny, AI Energy Score zawiera takie elementy jak:
- Znormalizowane oceny energetyczne: Ujednolicone ramy pomiaru i porównania efektywności energetycznej modeli AI.
- Publicznie dostępna tabela wyników: Kompleksowe zestawienie wyników dla 10 typowych zadań AI – takich jak generowanie tekstu, generowanie obrazów i podsumowywanie – wykonywanych przez 166 modeli, w tym SFR-Embedding, xLAM i SF-TextBase firmy Salesforce.
- Portal benchmarkingowy: Platforma, na której programiści AI mogą przesyłać swoje otwarte lub zastrzeżone modele AI do oceny i dodania ich rezultatów do tabeli wyników. Otwarte modele mogą być testowane automatycznie, podczas gdy zamknięte modele zostaną oceniane za pośrednictwem zabezpieczonej przestrzeni testowej – dedykowanej piaskownicy.
- Rozpoznawalna etykieta zużycia energii: Nowa etykieta oceniająca zużycie energii przez modele AI w skali od 1 do 5 gwiazdek, gdzie pięć gwiazdek oznacza najwyższą wydajność. Pomoże to deweloperom i użytkownikom łatwo identyfikować oraz wybierać bardziej zrównoważone modele.
Jesienią ubiegłego roku firma wprowadziła Agentforce, dedykowaną warstwę platformy Salesforce do wdrażania autonomicznych agentów AI w dowolnej funkcji biznesowej. Agentforce oferuje narzędzia do tworzenia i dostosowywania agentów, a także bibliotekę gotowych do użycia umiejętności dedykowanych sprzedaży, usługom, marketingowi, handlowi, czy też Tableau i Slack.
Agentforce został zbudowany z myślą o zrównoważonym rozwoju, zapewniając wysoką wydajność przy jednoczesnym zminimalizowaniu negatywnego wpływu na środowisko. W przeciwieństwie do podejść DIY AI, które wymagają energochłonnego szkolenia modeli dla każdego klienta, Agentforce jest zoptymalizowany od razu po uruchomieniu, eliminując potrzebę kosztownego lub wysokoemisyjnego szkolenia.
Jego architektura agentowa wykracza poza poleganie na pojedynczym dużym modelu językowym (LLM), zamiast tego wykorzystuje wydajne małe modele językowe w połączeniu z wnioskowaniem agentowym i innymi zaawansowanymi narzędziami sztucznej inteligencji, znacznie zmniejszając zużycie energii.
Na przykład SFR-RAG firmy Salesforce to mały model językowy zoptymalizowany pod kątem dokładnych i niezawodnych zadań. Wyodrębnia dokładne fakty i obsługuje złożone pytania, dostarczając wiarygodnych odpowiedzi z większą wydajnością i niższym zużyciem energii. Ponadto Agentforce wykorzystuje dostosowane dane i metadane z Salesforce Data Cloud i Salesforce Platform, umożliwiając wysoką dokładność i szybkość reakcji przy jednoczesnym zminimalizowaniu marnowania zasobów obliczeniowych.
„AI Energy Score to prawdziwy kamień milowy zrównoważonej sztucznej inteligencji. Tworząc przejrzysty system oceny, rozwiązujemy kluczową przeszkodę w zmniejszaniu wpływu sztucznej inteligencji na środowisko. Cieszymy się, że możemy uruchomić ten projekt i czekamy na jego szersze zastosowanie” – skomentowała Dr Sasha Luccioni, AI & Climate Lead, Hugging Face.
„Zmniejszenie zużycia energii przez sztuczną inteligencję obniża koszty operacyjne, optymalizuje infrastrukturę oraz zwiększa długoterminowy, zrównoważony rozwój i rentowność. Jesteśmy dumni, że możemy współpracować z liderami branży, aby budować bardziej przejrzysty ekosystem AI” – podsumowuje Suzanne DiBianca, EVP i Chief Impact Officer, Salesforce.
