Sam Altman powrócił, ale to nie jest najważniejsza wiadomość
Zgodnie z ujawnionymi przez dziennikarzy Reutersa faktami, tuż przed odwołaniem Sama Altmana z funkcji CEO OpenAI (jak się okazuje tylko chwilowo), badacze pracujący dla OpenAI mieli ostrzec zarząd o przełomie w sztucznej inteligencji.
Jeżeli wierzyć źródłom, do jakich dotarł Reuters, a to nie jest agencja, która słynęłaby z siania dezinformacji i promowania fake newsów, tuż przed próbą zwolnienia (ostatecznie nieudanego) Sama Altmana z funkcji CEO, kilku pracowników naukowych OpenAI napisało list do zarządu firmy, w którym ostrzegli oni przed potężnym odkryciem związanym z badaniami nad sztuczną inteligencją. Krótko mówiąc, badacze zobaczyli coś, co ich przeraziło. Ich zdaniem to co zauważyli może stanowić egzystencjalne zagrożenie dla całej ludzkości. Tak, dokładnie takich słów użyły osoby zaznajomione ze sprawą, które kontaktowały się z dziennikarzami Reutersa.
Przed kadrową rewolucją w OpenAI zaszły dwie kluczowe zmiany: pierwszą z nich jest odkrycie związane z AI, drugą – publikacja wspomnianego listu naukowców do zarządu OpenAI. Choć pozornie działania zarządu wydawały się być może niezrozumiałe (wielu zadawało pytania, „czemu zwolniono Altmana”), teraz wychodzi na to, że jednym z powodów mogła być rzekoma chęć komercjalizacji postępów w AI przez Altmana, bez zrozumienia konsekwencji udostępnienia przełomowego algorytmu ludzkości. A może raczej udostępnienia ludzkości… przełomowej AI?
Jakkolwiek OpenAI nabrało wody w usta, to dziennikarzom udało się dotrzeć do wewnętrznej wiadomości skierowanej do pracowników OpenAI, w której pojawia się informacja dotycząca nieznanego publicznie, tajnego projektu Q* (wymawia się to Q-star).
No i najważniejsze: niektórzy w OpenAI uważają, że Q* może być przełomem w poszukiwaniach ogólnej sztucznej inteligencji (tzw. AGI), przy czym OpenAI definiuje AGI jako sztuczną inteligencję przewyższającą człowieka w najbardziej wartościowych ekonomicznie zadaniach. Oczywiście trudno teraz oceniać możliwości tajemniczej, rzekomej AGI o nazwie Q*, bo jak dotąd algorytm pozostaje tajemnicą OpenAI. Niemniej fakt, że odkrycie niepokoi specjalistów, nie uspokaja mnie. Straszenie AI trwa nie od dziś, ale inny ciężar gatunkowy ma wypowiedź aktora, choćby i wybitnego, który jednak – zgodzimy się – o projektowaniu inteligentnych algorytmów ma blade pojęcie, a inaczej brzmi niepokój wyrażany przez osoby, które tkwią w samym centrum kuźni sztucznych umysłów i znają się na tym co robią…
Nie jestem pewien, czy komercjalizacja sztucznej inteligencji o potencjalne przewyższającym człowieka leży w naszym interesie.
