AI musi mieć wiarygodne źródła informacji, Google zrobiło krok w tym kierunku
Google Cloud zwiększa możliwości w zakresie groundingu w Vertex AI. Co to właściwie znaczy? Google przesłało nam wyjaśnienie. Szczegóły poniżej.
Grounding oznacza łączenie modeli AI z wiarygodnymi źródłami informacji, co zapewnia, że ich odpowiedzi będą zawsze opierać się na zweryfikowanych danych. Grounding odgrywa kluczową rolę w procesie zwiększania dokładności, wiarygodności i przydatności generatywnej AI w różnych zastosowaniach. Pomaga też wyeliminować różnice między wewnętrznymi informacjami modelu a światem rzeczywistym, co zwiększa wartość informacyjną i wiarygodność systemów AI.
W przypadku chatbotów grounding oznacza na przykład, że mogą one uzyskiwać dostęp do baz wiedzy lub dokumentacji produktów danej firmy w celu udzielania zgodnych z prawdą odpowiedzi na zapytania klientów. Firmy używające kreatywnych agentów AI do pisania tekstów marketingowych mogą również korzystać z modeli, które zapewniają, że tworzone przy ich pomocy materiały opierają się na danych rynkowych uzyskiwanych w czasie rzeczywistym lub na sprawdzonych źródłach.
Oparcie modeli AI na źródłach informacji uzyskiwanych w czasie rzeczywistym, takich jak kanały wiadomości lub dane finansowe, pozwoli im udzielać aktualnych i trafnych odpowiedzi na zapytania użytkowników. Jest to szczególnie cenne w przypadku aplikacji takich jak chatboty czy wirtualne asystenty.
Grounding umożliwia również modelom AI dostosowywanie się do zmieniających się okoliczności i informacji. Model używany do nawigacji może na przykład uwzględniać dane o natężeniu ruchu w czasie rzeczywistym, żeby proponować najlepsze trasy.
Kiedy klienci wybiorą dla swojego modelu Gemini grounding przy użyciu wyszukiwarki Google, Gemini będzie generować odpowiedzi na podstawie odpowiednich wyników w wyszukiwarce Google. To rozwiązanie jest proste w obsłudze i zapewnia Gemini dostęp do informacji z całego świata.
Te możliwości pozwalają wyeliminować największe przeszkody na drodze do wdrożenia generatywnej AI w biznesie: brak dostępu modeli do informacji wykraczających poza ich dane treningowe oraz tendencję modeli podstawowych do halucynowania, czyli do generowania przekonujących, ale niezgodnych z prawdą informacji. Retrieval-Augmented Generation (RAG), technika opracowana w celu rozwiązania tych problemów, najpierw odnajduje fakty dotyczące pytania, a następnie przekazuje je modelowi, zanim wygeneruje on odpowiedź. To właśnie istota groundingu. Szybkie uzyskiwanie właściwych faktów potrzebnych do pogłębienia wiedzy modelu to ostatecznie zadanie związane z wyszukiwaniem.
Grounding przy użyciu wyszukiwarki Google wiąże się z dodatkowymi kosztami przetwarzania, ale dane treningowe Gemini są bardzo obszerne, więc grounding może nie być konieczny przy każdym zapytaniu. Żeby pomóc klientom znaleźć równowagę pomiędzy jakością odpowiedzi a opłacalnością, grounding przy użyciu wyszukiwarki Google wkrótce zapewni również dostęp do dynamicznego wyszukiwania – nowego rozwiązania, które pozwala Gemini dynamicznie wybierać czy odpowiedzieć na pytanie użytkownika przy użyciu wyszukiwarki Google, czy skorzystać z wewnętrznych informacji modelu (co jest bardziej opłacalną opcją).
Model podejmuje tę decyzję dzięki zdolności do ustalania, które prompty (czyli zapytania) prawdopodobnie dotyczą nigdy niezmieniających się faktów, a które – faktów ulegających powolnym lub szybkim zmianom. Grounding przy użyciu wyszukiwarki Google może zapewnić najbardziej aktualne informacje w przypadku zapytań dotyczących na przykład nowych filmów. Z drugiej strony podczas udzielania odpowiedzi na pytania takie jak „Które miasto jest stolicą Francji?” Gemini może natychmiast skorzystać ze swojej obszernej wiedzy bez sięgania po źródła zewnętrzne.
Dane prywatne nie są dostępne w internecie i wyszukiwarka Google nie jest w stanie ich znaleźć, więc oprócz groundingu przy użyciu wyszukiwarki, Google oferuje także różne rozwiązania umożliwiające przeszukiwanie danych firmy ze skutecznością narzędzi Google. Vertex AI Search można wykorzystać do większości celów biznesowych bez konieczności podejmowania żadnych dodatkowych kroków. Klientom, którzy chcą utworzyć spersonalizowane przepływy pracy dotyczące RAG lub wyszukiwarki semantyczne albo ulepszyć obecnie używane rozwiązania do wyszukiwania, Google oferuje teraz również komponent wyszukiwania interfejsu API do RAG. Dzięki temu pakietowi interfejsów API, który jest już ogólnie dostępny, można korzystać z wysokiej jakości implementacji do analizowania dokumentów, generować wektory dystrybucyjne, tworzyć rankingi semantyczne oraz uzyskiwać odpowiedzi oparte na źródłach, a także korzystać z usługi do weryfikowania informacji, która nazywa się „grounding ze sprawdzaniem”.
Modele połączone ze źródłami informacji częściej generują spójne i prawdziwe odpowiedzi. Dzięki temu są niezawodnym rozwiązaniem do ważnych zastosowań, gdzie nieprawdziwe informacje mogą wywołać poważne skutki. Większa niezawodność buduje z kolei zaufanie do tej technologii.
Odpowiedzi generowane przy użyciu aplikacji i agentów opartych na RAG zazwyczaj łączą kontekst wynikający z udostępnionych danych firmy z wewnętrznymi danymi treningowymi modelu. To rozwiązanie jest przydatne w wielu zastosowaniach, np. w przypadku asystentów podróży, ale w branżach takich jak usługi finansowe, opieka zdrowotna czy ubezpieczenia często konieczne jest ograniczenie źródeł wykorzystywanych do generowania odpowiedzi tylko do udostępnionego kontekstu. Grounding z trybem wysokiej jakości (obecnie dostępny jako eksperymentalna wersja testowa) to nowa funkcja interfejsu Grounding Generation API utworzona przez Google specjalnie do tego typu zastosowań.
Ta funkcja korzysta z modelu Gemini 1.5 Flash, który został dostrojony tak, żeby podczas generowania odpowiedzi koncentrować się na kontekście udostępnionym przez klienta. Oferowana usługa jest odpowiednia do najważniejszych zastosowań biznesowych, takich jak tworzenie streszczeń na podstawie więcej niż jednego dokumentu oraz przeszukiwanie zbioru danych finansowych. Zapewnia to większą zgodność z prawdą oraz zmniejsza skłonność do halucynowania. Po włączeniu trybu wysokiej jakości, do zdań w odpowiedzi dołączane są źródła potwierdzające ich treść. Pokazywane są też wyniki oceny poziomu ufności groundingu.
Żeby ułatwić używanie zaufanych danych pochodzących od innych firm z RAG, Vertex AI udostępni nową usługę, która pozwoli klientom połączyć ich modele oraz agenty AI ze specjalistycznymi danymi zewnętrznymi z najlepszych źródeł, takich jak Moody’s, MSCI, Thomson Reuters czy Zoominfo. Pomoże to firmom zintegrować dane pochodzące od innych firm z własnymi agentami generatywnej AI, co umożliwi ich wyjątkowe zastosowania oraz pozwoli lepiej wykorzystać informacje biznesowe w rozwiązaniach AI.
Grounding pozwala oddzielić rzeczywistość od wrzawy medialnej w szybko zmieniającym się świecie generatywnej AI. Bezustanna koncentracja Google Cloud na groundingu wyróżnia nas jako lidera w zakresie godnej zaufania i odpowiedzialnej AI i pozwala firmom śmiało korzystać z tej rewolucyjnej technologii.
Gemini Live z nakładką dla Androida zastąpi Asystenta Google
