Rosnący popyt wywołuje rewolucję w zakresie mocy obliczeniowej, chłodzenie cieczą będzie silnym motorem wzrostu branży!

 

Od 2023 r. model chatbota AI OpenAI, ChatGPT, zyskał szerokie uznanie. Wykorzystuje duże ilości danych treningowych do symulacji zachowań języka ludzkiego, generując tekst poprzez analizę semantyczną, co pozwala mu na interakcję z użytkownikami w sposób naturalny i realistyczny, często nieodróżnialny od interakcji z człowiekiem.

 

W wielu dziedzinach, takich jak tworzenie poezji i pisanie scenariuszy, przewyższa nawet ludzkie możliwości. Jednak rozwój sztucznej inteligencji wymaga niezwykle dużej mocy obliczeniowej, co prowadzi do zwiększonego zużycia energii przez serwery, wyższej gęstości mocy na jednostkę w centrach danych i rosnącego zużycia energii. Tradycyjna technologia chłodzenia powietrzem nie jest już w stanie sprostać potrzebom chłodzenia, co sprawia, że ​​chłodzenie cieczą staje się koniecznością, która niewątpliwie będzie napędzać wzrost branży!

 

▲ Model chatbota AI OpenAI, ChatGPT

 

 

I Eksplozywny sukces ChatGPT: Jakiej mocy obliczeniowej wymaga?

 

Dane, algorytmy i moc obliczeniowa to trzy podstawowe elementy sztucznej inteligencji, przy czym moc obliczeniowa jest nazywana „silnikiem” lub „motorem” AI. Zarówno dane, jak i algorytmy opierają się na mocy obliczeniowej. Według szacunków OpenAI, od 2012 r. moc obliczeniowa wymagana do trenowania najlepszych modeli AI na świecie podwoiła się co około 3-4 miesięcy, a roczny wzrost mocy obliczeniowej wymaganej do trenowania najlepszych modeli sięgał nawet dziesięciokrotnie. Podczas fazy trenowania ChatGPT zużył łącznie około 3640 PF-dni (co oznacza działanie z wydajnością 1 PetaFLOP/s przez 3640 dni). Podkreśla to, że duża moc obliczeniowa jest kluczem do wspierania dalszego stosowania i popularyzacji treści generowanych przez AI (AIGC) w przyszłości.

 

Weźmy na przykład ChatGPT: jest obsługiwany przez model GPT-3.5, który przeszedł przez trzy iteracje (GPT-1, GPT-2, GPT-3), przy czym liczba parametrów wzrosła ze 117 milionów do 175 miliardów, a ilość danych przedtreningowych wzrosła z 5 GB do 45 TB (co odpowiada 160-krotności całej angielskiej wersji Wikipedii). Ta ogromna ilość danych i obliczeń wymaga większej mocy obliczeniowej do obsługi jej działania. Według danych z Similarweb, w styczniu 2023 r. ChatGPT miał około 13 milionów aktywnych użytkowników dziennie, z których każdy zadawał pytania o średniej długości około 1,000 słów.

 

Wygenerowało to łącznie około 13 miliardów słów (17,33 miliarda tokenów). Zakładając, że zadania są równomiernie rozłożone w ciągu 24 godzin, liczba wymaganych procesorów graficznych A100 wyniosłaby 17,33 miliarda * 2 * 300 miliardów / (20% * 24 godziny * 3600 sekund)=601.75 PetaFLOP/S. Biorąc pod uwagę, że występują szczyty ruchu, zakładając, że szczytowy ruch jest pięciokrotnie większy od dziennej średniej, łącznie 602 serwery DGX A100 byłyby potrzebne, aby sprostać obecnemu zapotrzebowaniu na ruch, co sprawia, że ​​wymagania dotyczące mocy obliczeniowej są niezwykle rygorystyczne.

 

To pokazuje, że aby trenować jeszcze lepsze modele AI i naprawdę stosować modele AI w różnych branżach, potrzebna jest wydajniejsza moc obliczeniowa i bardziej obfite zasoby obliczeniowe. Moc obliczeniowa stała się krytycznym czynnikiem ograniczającym industrializację AI i z pewnością wywoła nową rewolucję w mocy obliczeniowej! Wraz z szybkim wzrostem zapotrzebowania na moc obliczeniową AI, moc powiązanych procesorów CPU/GPU przyspiesza, co wymaga silniejszych i bardziej efektywnych rozwiązań chłodzących, aby sprzęt działał płynnie.

 

 

II Szerokie zastosowania mocy obliczeniowej

 

W erze gospodarki cyfrowej moc obliczeniowa jest nie tylko kluczowym czynnikiem produktywności, ale także ma stać się czynnikiem powszechnie stosowanym. W miarę postępu budowy infrastruktury mocy obliczeniowej szybko pojawiają się nowe modele i formy biznesowe zastosowań mocy obliczeniowej, głęboko integrując moc obliczeniową z większą liczbą branż, takich jak produkcja, transport, edukacja, lotnictwo, finanse i media. Jednocześnie planowanie mocy obliczeniowej, zarządzanie nią i handel stają się punktami centralnymi eksploracji branżowej. Moc obliczeniowa ewoluuje z „zasobu” w „czynnik”, stając się istotną częścią produkcji i życia ludzi.

 

Rozwój różnych gałęzi przemysłu wywołał eksplozję zapotrzebowania na moc obliczeniową. Aby zmaksymalizować wydajność procesora, wymagana jest wyższa wydajność chłodzenia, a tradycyjna technologia chłodzenia powietrzem nie jest już w stanie sprostać rosnącemu zapotrzebowaniu na moc obliczeniową. Serwery z chłodzeniem cieczowym, ze swoimi zaletami, mają zdobyć znaczący udział w rynku i silnie napędzać rozwój branży!

 

 

Ⅲ Znaczny wzrost zapotrzebowania na chłodzenie cieczą

 

W 2022 r. procesory serwerowe czwartej generacji firmy Intel odnotowały pobór mocy pojedynczego procesora przekraczający 350 watów, a pobór mocy pojedynczego układu GPU firmy NVIDIA przekroczył 700 watów. Gęstość mocy obliczeniowej klastrów AI osiągnęła zazwyczaj 50 kW na szafę, a tradycyjna technologia chłodzenia powietrzem nie jest już w stanie sobie z tym poradzić! Aby zmaksymalizować wydajność procesora, potrzebna jest wyższa wydajność chłodzenia.

 

Tymczasem z perspektywy polityki, zainicjowanie chińskiego projektu „Eastern Data, Western Computing” i podwójne cele węglowe sprawiły, że branża zwróciła większą uwagę na oszczędzanie energii, redukcję emisji i wysokiej jakości rozwój. Ustanowiono surowsze wymagania techniczne dotyczące efektywności wykorzystania energii (PUE) centrów danych, przy czym średnia PUE nowo wybudowanych dużych i superdużych centrów danych w całym kraju ma zostać zmniejszona do poniżej 1,3, a następnie do poniżej 1,25 w węzłach krajowych.

 

Chłodzenie cieczą spełnia potrzeby rynku w zakresie opłacalności i wytycznych politycznych w wielu aspektach, w tym w zakresie efektywności ekonomicznej i wydajności chłodzenia, co czyni je zarówno wysoce wartościowym, jak i korzystnym ekonomicznie. Według CCID Consulting, rynek chińskich chłodzonych cieczą IDC ma przekroczyć 120 miliardów juanów do 2025 r., ze wskaźnikiem wzrostu przekraczającym 30% i obecnym wskaźnikiem penetracji wynoszącym około 20%. Popyt na chłodzenie cieczą znacznie wzrasta, a perspektywy rynkowe są obiecujące.

 

 

Ⅳ Łańcuch branżowy serwerów chłodzenia cieczą

 

1. Panorama branży chłodzenia cieczą

Branża serwerów z chłodzeniem cieczą obejmuje znacznie więcej niż tylko serwery z chłodzeniem cieczą; cały łańcuch branżowy jest długi, z szerokimi podpolami i wieloma uczestniczącymi podmiotami, co sprawia, że ​​jest to branża kapitałochłonna.Technologia chłodzenia cieczą znajduje się obecnie w fazie szybkiego rozwoju i jeśli odpowiedni gracze mają przewagę w finansowaniu lub pozyskiwaniu klientów, mogą stworzyć pewne bariery wejścia.

 

Przedsiębiorstwa z różnych poddziedzin stopniowo infiltrują pokrewne dziedziny w oparciu o swoje główne zalety, budując własne ekosystemy. Zgodnie z podziałem od infrastruktury do aplikacji, branżę centrów danych chłodzonych cieczą można podzielić na trzy główne poddziedziny: infrastruktura chłodzenia cieczą, przemysł midstream i aplikacje przemysłowe.

 

Sektor infrastruktury chłodzenia cieczą zapewnia niezbędny sprzęt i udogodnienia do budowy centrów danych chłodzonych cieczą. Jest on podzielony na podpola, takie jak szafy chłodzenia cieczą, chłodziwo, systemy chłodzenia, systemy zasilania, systemy sieciowe i systemy zarządzania infrastrukturą centrów danych. Te podpola głównie dostarczają sprzęt, systemy oprogramowania i czynniki chłodnicze do obsługi serwerów. Ponadto sektor infrastruktury obejmuje wykonawców budowlanych, operatorów sieci i dostawców energii. Wykonawcy budowlani odpowiadają za budowę i instalację wyżej wymienionego sprzętu i obiektów, operatorzy sieci zapewniają podstawowy dostęp do sieci, a dostawcy energii zapewniają energię elektryczną potrzebną do obsługi sprzętu. Obszary te zapewniają stosunkowo podstawowe środowisko peryferyjne dla centrów danych.

 

Przemysł midstream obejmuje producentów serwerów, dostawców hostingu centrów danych i niektórych nowych uczestników. Producenci serwerów badają, projektują i produkują serwery odpowiednie do środowisk chłodzenia cieczą lub bezpośrednio produkują serwery chłodzone cieczą typu cold plate. Dostawcy hostingu centrów danych budują i obsługują centra danych, wykorzystując własne zalety, aby integrować zasoby z sektora infrastruktury i oferować usługi hostingu serwerów użytkownikom aplikacji. Wraz z szybkim rozwojem centrów danych nowe firmy wkraczają na rynek centrów danych chłodzonych cieczą.

 

Użytkownicy aplikacji centrów danych dzielą się głównie na trzy podpola: przetwarzanie w chmurze i moc obliczeniowa w chmurze, internet i blockchain oraz inni użytkownicy. Są oni głównymi użytkownikami centrów danych. Dostawcy przetwarzania w chmurze i mocy obliczeniowej w chmurze generują przychody, oferując klientom elastyczną alokację mocy obliczeniowej i harmonogramowanie za pośrednictwem wirtualizacji. Niektóre duże firmy internetowe i blockchain często budują centra danych bezpośrednio we współpracy z operatorami centrów danych, podczas gdy inni użytkownicy zazwyczaj bezpośrednio hostują lub dzierżawią zasoby serwera lub mocy obliczeniowej od operatorów centrów danych.

 

2. Przegląd branży chłodzenia cieczą

W porównaniu z chłodzeniem powietrznym, technologia chłodzenia cieczą oferuje zalety wysokiej stabilności i wysokiej wydajności chłodzenia. Z perspektywy całościowej aplikacji, chłodzenie cieczą stopniowo ujawnia swoje zalety ekonomiczne, gdy gęstość mocy przekracza 15 kW na szafę. Zgodnie zAplikacja UPSczasopismo, temperatura rdzenia procesora serwerów chłodzonych cieczą może być o 20-30 stopień niższa niż maksymalna temperatura w systemach chłodzonych powietrzem, co znacznie poprawia niezawodność.

 

Biała księga firmy IntelPraktyki innowacji w ekologicznych centrach danych — projekt systemu chłodzenia cieczą Cold Plate, wskazuje, że centra danych chłodzone powietrzem mogą zazwyczaj zarządzać chłodzeniem szaf o poziomach mocy do 12 kW. W przypadku szaf o mocy przekraczającej 15 kW istniejące centra danych chłodzone powietrzem osiągnęły pułap swoich możliwości chłodzenia konwekcyjnego. Technologia chłodzenia cieczą, która zapewnia silniejsze możliwości chłodzenia, może obsługiwać wyższe gęstości mocy.

 

W porównaniu do rozwiązań chłodzenia powietrzem, trend w kierunku chłodzenia cieczą napędzany przez AIGC i inicjatywy „Eastern Data, Western Computing” nieuchronnie doprowadzi do wzrostu zarówno wolumenu, jak i ceny rynku kontroli temperatury w centrach danych. Branża serwerów chłodzonych cieczą podąża trzema ścieżkami technologicznymi: chłodzeniem płytowym, zanurzeniowym i natryskowym.Chłodzenie cieczą Cold Plate to metoda chłodzenia, w której chłodziwo nie ma bezpośredniego kontaktu z podzespołami serwera generującymi ciepło.

 

▲ Chłodzenie płytą zimną

 

▲ Układ chłodzenia cieczą natryskową

 

▲ Jednofazowe chłodzenie cieczą zanurzeniową

 

▲ Chłodzenie dwufazowe

 

Zamiast tego główne elementy generujące ciepło są przymocowane do zimnej płyty, a chłodziwo krąży w wewnętrznym systemie chłodzenia cieczą zimnej płyty, aby usunąć ciepło. Aby zwiększyć możliwości wymiany ciepła, obszar wymiany ciepła musi być zmaksymalizowany, co wymaga, aby zimna płyta była jak najściślej przymocowana do powierzchni elementów generujących ciepło serwera. Nieregularnie ukształtowane elementy generujące ciepło są trudne do schłodzenia tą metodą. Tylko stosunkowo regularne kształty chipów nadają się do chłodzenia zimną płytą.

 

Stanowi to poważny problem dla rozwiązań chłodzenia cieczą cold plate: około 30% ciepła serwera, generowanego przez inne komponenty, takie jak pamięć masowa, pamięć i zasilacze, nadal wymaga tradycyjnego chłodzenia powietrzem. Powoduje to konieczność jednoczesnego stosowania dwóch systemów chłodzenia w rozwiązaniach chłodzenia cieczą cold plate, co zwiększa zarówno koszty, jak i rzeczywisty wskaźnik PUE systemu. Obecne rozwiązanie cold plate jest stosunkowo dojrzałe, ma solidne podstawy komercyjne i już znalazło liczne zastosowania komercyjne.

 

▲ Rozwiązania chłodzenia cieczą na zimno

 

Chłodzenie cieczą zanurzeniową odnosi się do całkowitego zanurzenia sprzętu serwerowego w chłodziwie, gdzie chłodzenie jest osiągane poprzez bezpośredni kontakt między chłodziwem a elementami generującymi ciepło. W tej metodzie elementy generujące ciepło serwera są całkowicie zanurzone w chłodziwie, co umożliwia wystarczający kontakt z chłodziwem, który stale odprowadza wytwarzane ciepło, chłodząc w ten sposób serwer. Chłodzenie zanurzeniowe zapewnia wyższą wydajność chłodzenia, z potencjałem zwiększenia gęstości mocy na szafę ponad trzykrotnie. Oczekuje się, że do 2025 r. będzie ono stanowić ponad 40% rynku, a serwery z pełnym zanurzeniem chłodzone cieczą prawdopodobnie staną się przyszłym trendem technologicznym.

 

▲ Chłodzenie cieczą zanurzeniową

 

Spray Cooling Liquid Cooling System to technologia chłodzenia cieczą z bezpośrednim kontaktem zaprojektowana do precyzyjnego natryskiwania chłodziwa na elementy generujące ciepło serwerów. Chłodziwo jest nakładane bezpośrednio na urządzenia generujące ciepło lub stałe materiały przewodzące ciepło podłączone do nich, albo przez grawitację, albo przez ciśnienie systemowe. Proces ten umożliwia wymianę ciepła w celu schłodzenia serwera. Podczas wymiany ciepła poziom chłodziwa wewnątrz serwera jest utrzymywany poniżej elementów generujących ciepło lub stałych materiałów przewodzących ciepło podłączonych do nich. System wykorzystuje zewnętrzne jednostki wymiany ciepła do chłodzenia i recyklingu chłodziwa.

 

 

3. Krajobraz rynku chłodzenia cieczą

Chłodzenie cieczą to zaawansowana technologia, która obejmuje wiele dyscyplin i obszarów, ale napotyka na liczne bariery techniczne.

Obecnie poziom wdrożenia technologii chłodzenia cieczą wśród krajowych i międzynarodowych producentów infrastruktury centrów danych pozostaje stosunkowo niski, a niewiele firm opanowało tę technologię.

 

Jednak kilka firm, zarówno krajowych, jak i międzynarodowych, zaczęło oferować swoim klientom dostosowane rozwiązania chłodzenia cieczą, a niektóre firmy technologiczne stopniowo budują i wdrażają własne centra danych chłodzone cieczą. Pomimo tego wskaźnik adopcji technologii chłodzenia cieczą wśród producentów infrastruktury centrów danych pozostaje niski, a na rynku nie wyłonili się jeszcze dominujący liderzy, co sprawia, że ​​krajobraz konkurencyjny jest nadal niepewny.

 

Na rynku chińskim niektóre firmy, dzięki wieloletniemu gromadzeniu technologii i zdobywaniu doświadczenia, wykazały się znaczącą przewagą techniczną i rynkową. Oczekuje się, że w przyszłości wiodące firmy będą dominować na rynku, tworząc konkurencyjny krajobraz, w którym główni gracze będą posiadać znaczące udziały w rynku.

 

4. Chłodzenie cieczą na poziomie układu scalonego

Zmniejszenie odległości między urządzeniami do chłodzenia cieczą a głównymi źródłami ciepła, takimi jak chipy, jest ważnym trendem. W przyszłości chłodzenie ma ewoluować od poziomu pomieszczenia, szafy i serwera do poziomu chipa, osiągając lepsze chłodzenie chipa poprzez bezpośredni kontakt między elementami chłodzącymi a powierzchnią chipa. Chłodnice cieczowe rozpraszają ciepło, odprowadzając duże ilości ciepła poprzez tarcie między przepływem cieczy a wewnętrzną powierzchnią radiatora. W porównaniu do konwencjonalnych systemów chłodzenia powietrzem, chłodzenie cieczą może znacznie poprawić wydajność chłodzenia. Obecnie technologia chłodzenia cieczą jest głównie podzielona na typy pośrednie i bezpośrednie.

 

Według najnowszychPółroczny rynek serwerów z chłodzeniem cieczowym w Chinach (druga połowa 2022 r.)Według raportu opublikowanego przez International Data Corporation (IDC), chiński rynek serwerów z chłodzeniem cieczą osiągnął wartość 1,01 miliarda dolarów w 2022 r., co oznacza wzrost rok do roku o 189,9%. IDC przewiduje, że w latach 2022–2027 skumulowany roczny wskaźnik wzrostu chińskiego rynku serwerów z chłodzeniem cieczą wyniesie 56,6%, a wielkość rynku ma osiągnąć 9,5 miliarda dolarów do 2027 r., co wskazuje na świetlaną przyszłość dla branży chłodzenia cieczą!

 

 

▲ Prognoza dla rynku serwerów chłodzonych cieczą w Chinach na lata 2023–2027