এআই কম্পিউটিং যুগের প্রধান চ্যালেঞ্জ হল পাওয়ার ডেনসিটি। বড় মডেল প্রশিক্ষণের জন্য ব্যবহৃত জিপিইউ এক্সিলারেটরগুলির একটি একক র্যাক এখন ১০০ কিলোওয়াট বা তার বেশি লোড নিতে পারে — যা একটি প্রচলিত সার্ভার ক্যাবিনেটের লোডের চেয়ে কয়েকগুণ বেশি। এত বেশি পাওয়ার নির্ভরযোগ্যভাবে, নিরাপদে এবং নমনীয়ভাবে সরবরাহ করা একটি সাধারণ বৈদ্যুতিক কাজ নয়। উচ্চ-ঘনত্বের বাসবার ট্রাঙ্কিং প্রশিক্ষণ এবং ইনফারেন্স ডেটা সেন্টার উভয় ক্ষেত্রেই জিপিইউ ক্লাস্টারগুলির জন্য ব্যবহারিক সমাধান হিসাবে আবির্ভূত হয়েছে।
খুব উচ্চ র্যাক লোডে, কেবল-ভিত্তিক বিতরণ ব্যয়বহুল এবং অসুবিধাজনক হয়ে পড়ে। মোটা সমান্তরাল কন্ডাক্টরগুলি ভারী এবং অনমনীয়, টার্মিনেশনগুলি হট স্পট হয়ে যায় এবং লেআউটের প্রতিটি পরিবর্তনের অর্থ নতুন কেবল টানা। বাসওয়ে এক ডজন পৃথক সার্কিটকে একটি প্রকৌশলকৃত, ফ্যাক্টরি-পরীক্ষিত পাওয়ার হাইওয়ে দিয়ে প্রতিস্থাপন করে।
এআই ওয়ার্কলোডগুলি বার্স্টি। প্রশিক্ষণ কাজগুলি দ্রুত অলস অবস্থা থেকে পূর্ণ লোডে যেতে পারে, তাই পাওয়ার পাথকে উপদ্রব ট্রিপ ছাড়াই ডাইনামিক চাহিদা পরিচালনা করতে হবে। ইন্টিগ্রেটেড মিটারিং সহ বুদ্ধিমান বাসওয়ে অপারেটরদের প্রতি-র্যাক ব্যবহার পরিমাপ করতে, ফেজগুলি ভারসাম্য করতে এবং আটকে থাকা ক্ষমতা সনাক্ত করতে দেয়।
| প্যারামিটার | এআই র্যাকগুলির জন্য সুপারিশ |
|---|---|
| র্যাক পাওয়ার | ৪০–১৩০ কিলোওয়াট |
| বাসওয়ে রেটিং | প্রতি রুটে ৪০০–১,০০০ অ্যাম্পিয়ার |
| ট্যাপ-অফ ইনক্রিমেন্ট | প্রতি ৫০০ মিমি বা তার চেয়ে ভালো |
| পর্যবেক্ষণ | প্রতি-ট্যাপ কারেন্ট + তাপমাত্রা |
যেহেতু বাসওয়ে প্রিফেব্রিকেটেড এবং ফ্যাক্টরি-পরীক্ষিত অবস্থায় আসে, তাই জিপিইউ হলগুলি দ্রুত কমিশন করা যায় এবং পর্যায়ক্রমে সম্প্রসারণ করা যায়। একটি র্যাক যোগ করার অর্থ হল একটি ট্যাপ-অফ বক্স এবং একটি হুইপ ইনস্টল করা — একটি ভিড়যুক্ত সিলিংয়ের মধ্য দিয়ে নতুন কেবল টানা নয়। সেই গতি সরাসরি এআই পরিষেবা প্রদানকারীদের জন্য দ্রুত রাজস্বে রূপান্তরিত হয় যারা ক্ষমতা অনলাইনে আনতে প্রতিযোগিতা করছে।
উচ্চ-ঘনত্বের বাসওয়ে স্বীকৃত বৈদ্যুতিক মানগুলির সাথে প্রকৌশলকৃত এবং পরীক্ষিত, যাচাইকৃত ইনসুলেশন, তাপমাত্রা-বৃদ্ধি এবং শর্ট-সার্কিট কর্মক্ষমতা সহ। ফ্যাক্টরি টেস্টিং ফিল্ড-ফ্যাব্রিকেটেড কেবল টার্মিনেশনগুলির চারপাশে থাকা অনিশ্চয়তার অনেকটাই দূর করে, এবং আবদ্ধ নির্মাণ কন্ডাক্টরগুলিকে ধুলো, দুর্ঘটনাজনিত যোগাযোগ এবং একটি ব্যস্ত হোয়াইট-স্পেস পরিবেশে যান্ত্রিক ক্ষতি থেকে রক্ষা করে।
একটি সাধারণ জিপিইউ হলে, ওভারহেড বাসওয়ে প্রতিটি সারির উপরে চলে এবং ট্যাপ-অফ বক্সগুলিতে পাওয়ার সরবরাহ করে যা সরাসরি নীচের র্যাকগুলিতে পাওয়ার সরবরাহ করে। যেহেতু ট্যাপ-অফ অবস্থানগুলি নিয়মিত বিরতিতে প্রি-ইঞ্জিনিয়ার করা হয়, তাই একটি নতুন জিপিইউ নোড কয়েক মিনিটের মধ্যে কমিশন করা যেতে পারে। রক্ষণাবেক্ষণও সমানভাবে সহজ: একটি পৃথক ট্যাপ-অফ বিচ্ছিন্ন করা এবং পরিষেবা দেওয়া যেতে পারে প্রতিবেশীদের বিরক্ত না করে, পুরো ক্লাস্টারের আপটাইম রক্ষা করে।
অ্যাক্সিলারেটর পাওয়ার বাড়তে থাকায়, পাওয়ার ডিস্ট্রিবিউশন সিস্টেমকে সীমাবদ্ধ ফ্যাক্টর হতে দেওয়া উচিত নয়। উচ্চ-ঘনত্বের বাসবার ট্রাঙ্কিং এআই ডেটা সেন্টারগুলিকে একটি স্কেলেবল, পর্যবেক্ষণযোগ্য এবং পরিষেবাযোগ্য ভিত্তি দেয় যা প্রতিটি নতুন জিপিইউ প্রজন্মের সাথে বৃদ্ধি পেতে পারে।
এআই কম্পিউটিং যুগের প্রধান চ্যালেঞ্জ হল পাওয়ার ডেনসিটি। বড় মডেল প্রশিক্ষণের জন্য ব্যবহৃত জিপিইউ এক্সিলারেটরগুলির একটি একক র্যাক এখন ১০০ কিলোওয়াট বা তার বেশি লোড নিতে পারে — যা একটি প্রচলিত সার্ভার ক্যাবিনেটের লোডের চেয়ে কয়েকগুণ বেশি। এত বেশি পাওয়ার নির্ভরযোগ্যভাবে, নিরাপদে এবং নমনীয়ভাবে সরবরাহ করা একটি সাধারণ বৈদ্যুতিক কাজ নয়। উচ্চ-ঘনত্বের বাসবার ট্রাঙ্কিং প্রশিক্ষণ এবং ইনফারেন্স ডেটা সেন্টার উভয় ক্ষেত্রেই জিপিইউ ক্লাস্টারগুলির জন্য ব্যবহারিক সমাধান হিসাবে আবির্ভূত হয়েছে।
খুব উচ্চ র্যাক লোডে, কেবল-ভিত্তিক বিতরণ ব্যয়বহুল এবং অসুবিধাজনক হয়ে পড়ে। মোটা সমান্তরাল কন্ডাক্টরগুলি ভারী এবং অনমনীয়, টার্মিনেশনগুলি হট স্পট হয়ে যায় এবং লেআউটের প্রতিটি পরিবর্তনের অর্থ নতুন কেবল টানা। বাসওয়ে এক ডজন পৃথক সার্কিটকে একটি প্রকৌশলকৃত, ফ্যাক্টরি-পরীক্ষিত পাওয়ার হাইওয়ে দিয়ে প্রতিস্থাপন করে।
এআই ওয়ার্কলোডগুলি বার্স্টি। প্রশিক্ষণ কাজগুলি দ্রুত অলস অবস্থা থেকে পূর্ণ লোডে যেতে পারে, তাই পাওয়ার পাথকে উপদ্রব ট্রিপ ছাড়াই ডাইনামিক চাহিদা পরিচালনা করতে হবে। ইন্টিগ্রেটেড মিটারিং সহ বুদ্ধিমান বাসওয়ে অপারেটরদের প্রতি-র্যাক ব্যবহার পরিমাপ করতে, ফেজগুলি ভারসাম্য করতে এবং আটকে থাকা ক্ষমতা সনাক্ত করতে দেয়।
| প্যারামিটার | এআই র্যাকগুলির জন্য সুপারিশ |
|---|---|
| র্যাক পাওয়ার | ৪০–১৩০ কিলোওয়াট |
| বাসওয়ে রেটিং | প্রতি রুটে ৪০০–১,০০০ অ্যাম্পিয়ার |
| ট্যাপ-অফ ইনক্রিমেন্ট | প্রতি ৫০০ মিমি বা তার চেয়ে ভালো |
| পর্যবেক্ষণ | প্রতি-ট্যাপ কারেন্ট + তাপমাত্রা |
যেহেতু বাসওয়ে প্রিফেব্রিকেটেড এবং ফ্যাক্টরি-পরীক্ষিত অবস্থায় আসে, তাই জিপিইউ হলগুলি দ্রুত কমিশন করা যায় এবং পর্যায়ক্রমে সম্প্রসারণ করা যায়। একটি র্যাক যোগ করার অর্থ হল একটি ট্যাপ-অফ বক্স এবং একটি হুইপ ইনস্টল করা — একটি ভিড়যুক্ত সিলিংয়ের মধ্য দিয়ে নতুন কেবল টানা নয়। সেই গতি সরাসরি এআই পরিষেবা প্রদানকারীদের জন্য দ্রুত রাজস্বে রূপান্তরিত হয় যারা ক্ষমতা অনলাইনে আনতে প্রতিযোগিতা করছে।
উচ্চ-ঘনত্বের বাসওয়ে স্বীকৃত বৈদ্যুতিক মানগুলির সাথে প্রকৌশলকৃত এবং পরীক্ষিত, যাচাইকৃত ইনসুলেশন, তাপমাত্রা-বৃদ্ধি এবং শর্ট-সার্কিট কর্মক্ষমতা সহ। ফ্যাক্টরি টেস্টিং ফিল্ড-ফ্যাব্রিকেটেড কেবল টার্মিনেশনগুলির চারপাশে থাকা অনিশ্চয়তার অনেকটাই দূর করে, এবং আবদ্ধ নির্মাণ কন্ডাক্টরগুলিকে ধুলো, দুর্ঘটনাজনিত যোগাযোগ এবং একটি ব্যস্ত হোয়াইট-স্পেস পরিবেশে যান্ত্রিক ক্ষতি থেকে রক্ষা করে।
একটি সাধারণ জিপিইউ হলে, ওভারহেড বাসওয়ে প্রতিটি সারির উপরে চলে এবং ট্যাপ-অফ বক্সগুলিতে পাওয়ার সরবরাহ করে যা সরাসরি নীচের র্যাকগুলিতে পাওয়ার সরবরাহ করে। যেহেতু ট্যাপ-অফ অবস্থানগুলি নিয়মিত বিরতিতে প্রি-ইঞ্জিনিয়ার করা হয়, তাই একটি নতুন জিপিইউ নোড কয়েক মিনিটের মধ্যে কমিশন করা যেতে পারে। রক্ষণাবেক্ষণও সমানভাবে সহজ: একটি পৃথক ট্যাপ-অফ বিচ্ছিন্ন করা এবং পরিষেবা দেওয়া যেতে পারে প্রতিবেশীদের বিরক্ত না করে, পুরো ক্লাস্টারের আপটাইম রক্ষা করে।
অ্যাক্সিলারেটর পাওয়ার বাড়তে থাকায়, পাওয়ার ডিস্ট্রিবিউশন সিস্টেমকে সীমাবদ্ধ ফ্যাক্টর হতে দেওয়া উচিত নয়। উচ্চ-ঘনত্বের বাসবার ট্রাঙ্কিং এআই ডেটা সেন্টারগুলিকে একটি স্কেলেবল, পর্যবেক্ষণযোগ্য এবং পরিষেবাযোগ্য ভিত্তি দেয় যা প্রতিটি নতুন জিপিইউ প্রজন্মের সাথে বৃদ্ধি পেতে পারে।