هنگامی که عملکرد یک بار کاری (Workload) هوش مصنوعی مطابق انتظار نیست، اولین جایی که بررسی می‌شود، پردازنده گرافیکی یا همان GPU است. سوالاتی نظیر «آیا ظرفیت پردازشی کافی داریم؟» یا «آیا افزودن GPUهای بیشتر مشکل را حل می‌کند؟» معمولاً مطرح می‌شوند. اما واقعیت این است که اگر شبکه قادر به جابجایی سریع و مداوم داده‌ها نباشد، افزودن توان پردازشی تنها منجر به افزایش هزینه‌ها می‌شود، بدون اینکه گلوگاه (Bottleneck) واقعی برطرف گردد.
در هیاهوی سرمایه‌گذاری روی هوش مصنوعی، ریسک نادیده گرفتن زیرساخت وجود دارد. GPUها نمی‌توانند به تنهایی کار کنند؛ آن‌ها به حجم عظیمی از داده‌ها وابسته هستند که باید با سرعت بالا بین بخش‌های محاسباتی (Compute)، ذخیره‌سازی (Storage) و اپلیکیشن‌ها جابجا شوند. بنابراین، شبکه نقش حیاتی در میزان بهره‌وری این سرمایه‌گذاری ایفا می‌کند.
تغییر ماهیت ترافیک شبکه در عصر هوش مصنوعی
شبکه‌های سازمانی همواره وظیفه جابجایی قابل اعتماد داده‌ها را داشته‌اند، اما تفاوت اصلی در هوش مصنوعی، حجم، سرعت و الگوی این ترافیک است. بار کاری‌های بزرگ هوش مصنوعی در چندین GPU توزیع می‌شوند، زیرا نیازهای پردازشی فراتر از توان یک پردازنده واحد است. این GPUها باید به طور مداوم با هم در ارتباط باشند، داده‌ها را تبادل کنند و کار خود را همگام‌سازی (Synchronize) نمایند.
فرآیند آموزش (Training) به ویژه چالش‌برانگیز است؛ زیرا GPUها در طول فرآیند نیاز به تبادل پارامترها و گرادیان‌ها دارند که حجم بسیار زیادی از ترافیک را ایجاد می‌کند. با افزایش تعداد GPUها، اهمیت اتصالات بین آن‌ها نیز به صورت تصاعدی بالا می‌رود.
پهنای باند به تنهایی کافی نیست
پاسخ بدیهی ممکن است افزایش پهنای باند (Bandwidth) باشد، اما این کار تمام محدودیت‌ها را از بین نمی‌برد. بار کاری‌های هوش مصنوعی به شدت نسبت به موارد زیر حساس هستند:
- تأخیر (Latency): حتی تأخیرهای کوچک می‌تواند سرعت همگام‌سازی GPUها را کاهش دهد.
- تراکم (Congestion): ازدحام در مسیرهای شبکه باعث توقف پردازش‌ها می‌شود.
- از دست رفتن بسته‌ها (Packet Loss): که منجر به بازسازی داده‌ها و کاهش کارایی می‌شود.
اگر شبکه نتواند با سرعت پردازش همگام شود، منابع گران‌قیمت پردازشی به جای انجام محاسبات، در حالت انتظار (Waiting) باقی می‌مانند. در این مرحله، سازمان با کمبود پردازنده مواجه نیست، بلکه با یک مشکل زیرساختی روبروست.
تمایز میان پایش (Monitoring) و قابلیت مشاهده (Observability)
در محیط‌های پیچیده هوش مصنوعی، ابزارهای سنتی پایش (Monitoring) که تنها سلامت اجزا را بررسی می‌کنند، کافی نیستند. یک سوئیچ ممکن است سالم باشد، سرور در وضعیت خوب باشد و GPUها در دسترس باشند، اما عملکرد کل سیستم پایین باشد. اینجاست که مفهوم Observability اهمیت می‌یابد.
قابلیت مشاهده (Observability) فراتر از بررسی پارامترهای از پیش تعریف شده است؛ این مفهوم با تجمیع داده‌ها از کل محیط زیرساختی، به تیم‌ها کمک می‌کند تا بفهمند چرا یک سیستم به شیوه‌ای خاص رفتار می‌کند. برای مثال، اگر یک فرآیند آموزش کند شد، تیم‌ها باید بتوانند به سرعت تشخیص دهند که آیا علت آن کمبود پردازش است، یا ازدحام در یک مسیر شبکه، یا افت کیفیت یک لینک خاص.
نتیجه‌گیری برای مدیران ارشد
آمادگی برای هوش مصنوعی، صرفاً با شمارش تعداد GPUها سنجیده نمی‌شود. زیرساخت شبکه باید از همان ابتدا به عنوان بخشی از استراتژی سرمایه‌گذاری هوش مصنوعی در نظر گرفته شود. اگر سازمان‌ها می‌خواهند از سرمایه‌گذاری‌های سنگین خود در حوزه محاسبات شتاب‌یافته استفاده کنند، باید اطمینان حاصل کنند که زیرساخت پیرامون آن‌ها مانع پیشرفت نیست.
