गर्म पानी से कूलिंग: एआई पर एनवीडिया का क्रांतिकारी प्रयोग

  • निष्क्रिय तापीय अपव्यय को अनुकूलित करने के लिए 45 डिग्री सेल्सियस पर पानी के साथ बंद-लूप प्रणालियों का कार्यान्वयन।
  • डेटा केंद्रों में पारंपरिक वाष्पीकरण टावरों को हटाकर जल की खपत में भारी कमी।
  • रुबिन आर्किटेक्चर का उपयोग करके पूर्ण तरल शीतलन प्राप्त किया जाता है, जिससे पंखों की आवश्यकता समाप्त हो जाती है और शोर कम हो जाता है।
  • कोल्ड प्लेट और सीडीयू इकाइयों का उपयोग करके उच्च-घनत्व वाले बुनियादी ढांचे (प्रति रैक 135 किलोवाट तक) में परिवर्तन।

एआई शीतलन प्रणाली

अगर मैं आपसे कहूँ कि दुनिया के सबसे शक्तिशाली प्रोसेसरों को ठंडा करने का समाधान यह है कि आप जैकुज़ी के तापमान पर गर्म पानीशायद आपको लग रहा होगा कि मैं पागल हो गया हूँ। लेकिन, यही वो सिद्धांत है जिसे एनवीडिया कृत्रिम बुद्धिमत्ता के युग की सबसे बड़ी समस्याओं में से एक को हल करने के लिए सामने रख रही है: अत्यधिक गर्मी और जल संसाधनों की अत्यधिक खपत।

जनरेटिव एआई और विशाल भाषा मॉडल के कारण सर्वर रैक की विद्युत घनत्व इतनी बढ़ गई है कि पारंपरिक एयर कंडीशनिंग पूरी तरह से अप्रभावी हो जाती है। हम ऐसे उपकरणों की बात कर रहे हैं जो इतनी अधिक गर्मी उत्पन्न करते हैं कि डायरेक्ट चिप लिक्विड कूलिंग यह अब विलासिता या शौकीनों के लिए कोई प्रयोग नहीं रह गया है, बल्कि आज प्रतिस्पर्धी बुनियादी ढांचा स्थापित करने की चाह रखने वाले किसी भी व्यक्ति के लिए यह एक अनिवार्य मानदंड बन गया है।

एआई के लिए गर्म पानी से शीतलन
संबंधित लेख:
एआई डेटा सेंटर कूलिंग में गर्म पानी की क्रांति

"जकूज़ी प्रभाव" की अवधारणा और अनुप्रयुक्त भौतिकी

एनवीडिया का यह कदम अपने आप में अनोखा है क्योंकि यह बिल्कुल अप्रत्याशित है। गेमिंग पीसी में लिक्विड कूलिंग आमतौर पर 25 या 30 डिग्री सेल्सियस के आसपास होती है, जबकि जेन्सन हुआंग की कंपनी के नए एआई सर्वर इससे भी कम तापमान पर काम करते हैं। 45°C पर एक प्रवेश द्रवइतनी गर्म चीज़ चिप को कैसे ठंडा कर सकती है? इसका रहस्य तापमान के अंतर में छिपा है: एआई प्रोसेसर इतने गर्म हो जाते हैं कि एक तरल पदार्थ जो चिप को ठंडा करने के लिए पर्याप्त गर्म होता है, उसे ठंडा करना मुश्किल हो जाता है। 75% पानी और 25% प्रोपलीन ग्लाइकॉल यह बिना किसी परेशानी के उस गर्मी को अवशोषित करने में सक्षम है, जिससे सिलिकॉन के प्रदर्शन पर कोई प्रभाव डाले बिना सर्किट का तापमान लगभग 55ºC रहता है।

इतने उच्च आधार तापमान से शुरू होकर, सिस्टम बाहरी तापमान के साथ अंतर का लाभ उठा सकता है। निष्क्रिय रूप से कार्य करें अधिकांश समशीतोष्ण जलवायु में। इससे शोरगुल करने वाले और ऊर्जा की अधिक खपत करने वाले पंखों को, जो आमतौर पर शोर का स्तर 85 डेसिबल से ऊपर बढ़ा देते हैं, विशाल बाहरी रेडिएटर से बदला जा सकता है। शुष्क कूलरइस प्रकार कार्य वातावरण और बिजली बिल दोनों को अनुकूलित किया जा सकता है।

एआई के लिए गर्म पानी से शीतलन
संबंधित लेख:
गर्म पानी से शीतलन: जनरेटिव एआई की थर्मल कुंजी

डेटा सेंटर अवसंरचना

रुबिन आर्किटेक्चर: प्रशंसकों को अलविदा

रुबिन आर्किटेक्चर के आगमन के साथ, एनवीडिया ने पहला आर्किटेक्चर पेश करके एक साहसिक बयान दिया है। 100% लिक्विड कूलिंग वाला बुनियादी ढांचापिछले हाइब्रिड सिस्टमों के विपरीत, जहाँ केवल GPU या CPU को ठंडा किया जाता था और बाकी सभी घटक एयर कूलिंग पर निर्भर थे, यहाँ सभी घटक और नेटवर्क चिप्स सर्किट में एकीकृत हैं। इसे प्राप्त करने के लिए, उन्होंने सर्वर मदरबोर्ड को सील कर दिया है और तरल के प्रवाह पथ को इस तरह से पुनः डिज़ाइन किया है कि उसमें केवल एक ही प्रवेश और निकास द्वार हो। साफ और सीलबंद सामने के हिस्से जिससे समान स्थान में बहुत अधिक गणनाएँ की जा सकती हैं।

परिशुद्ध इंजीनियरिंग: सीडीयू और कोल्ड प्लेट

इस तैनाती से जल आपदा को रोकने के लिए, सावधानीपूर्वक समन्वय आवश्यक है। इस प्रणाली के केंद्र में हैं: रेफ्रिजरेंट वितरण इकाइयाँ (सीडीयू)ये पंप मस्तिष्क की तरह काम करते हैं, दबाव, प्रवाह दर और द्रव उपचार को नियंत्रित करते हैं, और 105 किलोवाट से 2,3 मेगावाट तक की बिजली उत्पादन क्षमता को संभाल सकते हैं। इसके अलावा, इनका उपयोग किया जाता है। सूक्ष्म संरचनाओं वाली ठंडी प्लेटें यह प्रोसेसर से सीधे 90% तक ऊष्मा को अवशोषित करने में सक्षम है।

  • रैक मैनिफोल्ड: स्टेनलेस स्टील के कलेक्टर जो रिसाव को रोकते हैं और प्रत्येक जीपीयू को तरल पदार्थ वितरित करते हैं।
  • डायरेक्ट-टू-चिप सिस्टम: यह तकनीक ऊष्मीय ऊर्जा को स्थानांतरित करने में हवा की तुलना में 3.000 गुना अधिक कुशल साबित हुई है।
  • आरडीएचएक्स (रियर डोर हीट एक्सचेंजर): पिछले दरवाजे पर लगे हीट एक्सचेंजर 75 किलोवाट तक की क्षमता के साथ ऊष्मा को बाहर निकालते हैं।

इस संपूर्ण तैनाती का सीधा आर्थिक प्रभाव पड़ता है। कमरे की हवा को ठंडा करने में ऊर्जा बर्बाद न होने से, उस बिजली बजट को अधिक जीपीयू को चलाने में लगाया जा सकता है, जो एक महत्वपूर्ण आर्थिक लाभ का प्रतिनिधित्व कर सकता है। कंप्यूटर उत्पादन में 33% की वृद्धि प्रत्येक नेटवर्क कनेक्शन के लिए।

जल खपत के खिलाफ लड़ाई और जल उपयोग दक्षता (WUE)

सबसे महत्वपूर्ण बिंदुओं में से एक पर्यावरणीय प्रभाव है। जीपीटी-3 जैसे प्रशिक्षण मॉडल 700.000 लाख लीटर तक ताजे पानी का वाष्पीकरण करते हैं। इसे मापने के लिए उद्योग निम्नलिखित तरीकों का उपयोग करता है: जल उपयोग प्रभावशीलता (WUE)जो आईटी ऊर्जा के प्रति किलोवाट-घंटे में खपत होने वाले लीटर की गणना करता है। पारंपरिक वाष्पीकरण शीतलन की वाट क्षमता दक्षता (WUE) बहुत अधिक होती है, जबकि एनवीडिया और माइक्रोसॉफ्ट के क्लोज्ड-लूप सिस्टम इसके करीब पहुंचने का लक्ष्य रखते हैं। आदर्श मान 0.0 लीटर/किलोवाट घंटा है।.

मूलतः, इन प्रणालियों को केवल प्रारंभिक संयंत्र भरने के दौरान ही पानी की आवश्यकता होती है। रेफ्रिजरेंट को लगातार पुन: प्रसारित करके, वाष्पीकरण टावरों की आवश्यकता समाप्त हो जाती है, जिससे पानी की खपत में लगभग 100% की कमी करें डेटा सेंटर के भीतर। गूगल और मेटा जैसी दिग्गज कंपनियों ने 2030 तक जल सकारात्मकता हासिल करने की प्रतिबद्धता जताई है, जिसका उद्देश्य प्रकृति को उपभोग से अधिक पानी वापस लौटाना है।

ऊर्जा संबंधी चुनौती और क्रांतिकारी विकल्प

सब कुछ इतना आसान नहीं है। भले ही डेटा सेंटर की चारदीवारी के भीतर पानी की समस्या हल हो जाए, ऊर्जा खपत को नियंत्रित करना एक कठिन चुनौती बनी हुई है। प्राकृतिक गैस या कोयले का उपयोग करके बिजली उत्पन्न करने के लिए अभी भी बहुत कुछ करना पड़ता है। पानी की विशाल मात्रा (कोयला संयंत्रों में 2,2 लीटर प्रति किलोवाट घंटा तक), जिसका अर्थ है कि कुल जल पदचिह्न ऊर्जा उत्पादन की ओर स्थानांतरित हो जाता है।

इससे निपटने के लिए, और भी आक्रामक विकल्प सामने आ रहे हैं, जैसे कि विसर्जन शीतलनइस मामले में, सर्वर पूरी तरह से परावैद्युत द्रवों में डूबे होते हैं जो इलेक्ट्रॉनिक्स को नुकसान नहीं पहुंचाते हैं। चाहे एकल-चरण विसर्जन हो या द्वि-चरण विसर्जन (जहां द्रव बहुत कम तापमान पर उबलता है), लक्ष्य यह है कि पानी की आवश्यकता को पूरी तरह से समाप्त कर दें और कुछ विशिष्ट मामलों में ऊर्जा की खपत को 82% तक कम कर सकता है।

डेटा केंद्रों का वास्तविक एआई कारखानों में रूपांतरण प्रौद्योगिकी अवसंरचना की लाभप्रदता को पुनर्परिभाषित कर रहा है। सिलिकॉन से बाहर की ओर ऊष्मा प्रवाह को अनुकूलित करके और यांत्रिक तनाव को कम करने के लिए परिचालन तापमान बढ़ाकर, उद्योग जल और ऊर्जा खपत को भाषा मॉडल के विकास में बाधा डाले बिना कंप्यूटिंग शक्ति को बढ़ाने में सक्षम हो रहा है।

एआई के लिए गर्म पानी से शीतलन
संबंधित लेख:
एआई इंफ्रास्ट्रक्चर में गर्म पानी से शीतलन की क्रांति

Google में पसंदीदा स्रोत के रूप में जोड़ें