Mastodon
Zdjęcie okładkowe wpisu Miedź nie nadąża za AI. Giganci idą w optykę

Miedź nie nadąża za AI. Giganci idą w optykę

0
Dodane: 3 godziny temu

Brzmi to jak hermetyczny komunikat z głębin Doliny Krzemowej, ale w rzeczywistości to jedno z najważniejszych wydarzeń dla rozwoju nowych technologii w tym roku.

Sześciu gigantów – AMD, Broadcom, Meta, Microsoft, NVIDIA oraz OpenAI – oficjalnie łączy siły. Ich cel jest prosty: muszą zastąpić fizyczne kable miedziane światłem, bo obecna infrastruktura dławi rozwój sztucznej inteligencji.

W oświadczeniu opublikowanym przez nowo powołane konsorcjum OCI (Optical Compute Interconnect) firmy wprost przyznają, że dotarliśmy do fizycznej bariery. W miarę jak duże modele językowe (LLM) rosną, a firmy dążą do stworzenia superinteligencji (AGI), tradycyjne połączenia oparte na miedzi okazują się zbyt wolne, mają zbyt mały zasięg, a przede wszystkim – pożerają zbyt dużo prądu.

Odpowiedzią ma być przejście na architekturę optyczną, czyli przesyłanie potężnych paczek danych za pomocą światła. Nie mówimy tu jednak o zwykłych światłowodach, które znamy z domowego internetu.

Optyka zintegrowana prosto z procesorem

Nowy standard OCI ma przenieść komunikację optyczną na zupełnie nowy poziom: z modelu opartego na modułach, prosto do krzemu. Chodzi o to, aby układy optyczne integrować możliwie jak najbliżej samych procesorów obliczeniowych (XPU) i przełączników sieciowych. Taka ścisła integracja pozwoli na gigantyczny wzrost gęstości przepustowości przy zachowaniu niezwykle rygorystycznych limitów energetycznych.

Liczby robią wrażenie. Standard OCI pierwszej generacji ma zapewnić przepustowość 200 Gb/s w jednym kierunku, by w drugiej generacji osiągnąć 400 Gb/s, co daje łącznie do 800 Gb/s na pojedyncze włókno światłowodowe. Mapa drogowa tego projektu zakłada jednak szybkie skalowanie do absurdalnych wręcz 3,2 Tb/s (terabitów na sekundę) na włókno w niedalekiej przyszłości. To więcej niż w opisywanym niedawno przez nas rozwiązaniu CISCO.

Cisco Silicon One G300: 102,4 Tb/s, chłodzenie cieczą i optyka 1.6T. Gra o fizykę centrów danych

Otwarty standard zamiast technologicznego monopolu

Najważniejszą informacją z perspektywy całego rynku jest jednak fakt, że giganci postawili na otwartą specyfikację. Do tej pory budowa superkomputerów przypominała układanie puzzli, gdzie producenci często forsowali własne, zamknięte standardy połączeń.

Stworzenie środowiska „plug-and-play” oznacza, że w jednym potężnym serwerze AI będzie można łączyć procesory i układy sieciowe różnych producentów, nie martwiąc się o to, czy będą w stanie się ze sobą komunikować. To drastycznie zmniejsza ryzyko dla firm budujących infrastrukturę i skraca czas powstawania kolejnych, potężniejszych superkomputerów.

„Dalsze udoskonalanie sztucznej inteligencji opiera się na skalowaniu superkomputerów przy użyciu większej liczby petaflopów, wyższej przepustowości pamięci i, co ważne, większej przepustowości sieci w większych domenach. OCI MSA będzie miało kluczowe znaczenie, by pozwolić branży na zbudowanie systemów AI, które doprowadzą nas do AGI” – podsumował ten ruch Richard Ho, szef działu sprzętu w OpenAI.

Zapraszamy do dalszej dyskusji na Mastodonie lub Twitterze .