NTT Global Data Centers אומר ש-optical technology לא תבטל את הצורך ב-fiber נוסף, ככל שתנועת ה-AI תגדל.
Bruno Berti, SVP of global product management ב-NTT Global Data Centers, תיאר את השינוי סביב תנועת ה-AI בתוך data centers, ולא סביב דפוסי cloud קלאסיים. תעבורת cloud מסורתית היא יחסית צפויה; training של AI ו-inference בהיקף גדול יוצרים זרימות east-west כבדות, כשה-GPUs מתקשרים זה עם זה.
איך AI משנה את ה-network fabric
Berti אמר שדרישות הרשת של AI צריכות להיות שטוחות יותר, דטרמיניסטיות יותר ועמידות יותר. זה דוחף ל-fabrics בעלי קיבולת גבוהה יותר, ל-interconnects אופטיים מתקדמים ולשילוב הדוק יותר בין compute, storage ו-networking.
הוא גם אמר שהאתגר כבר חורג מעולם ה-networking עצמו. צריך לתכנן יחד צפיפות הספק, cooling, צפיפות fiber, ניתוב fiber, ארכיטקטורת campus והחיבורים אל מערכות edge ו-cloud.
מה optics מהירות יותר כן עושות, ומה לא
Optics מהירות יותר יכולות להאריך את חיי ה-fiber הקיים ברמת ה-data center וה-metro, אבל optics לבדן לא יסלקו את הצורך ב-fiber חדש ככל שתנועת ה-AI תתרחב. הכתבה מזכירה במפורש 400G, 800G ו-1.6T כטכנולוגיות המהירות יותר הנוכחיות.
Berti אמר שהתשתית הרשתית בכללותה מצליחה ברובה להדביק את קצב ההתרחבות של ה-compute, אבל זה תלוי בתכנון מכוון ובהגדלה שמתבצעת במקביל ל-compute. עומסי עבודה של AI רגישים ל-latency, ל-bandwidth ול-packet loss בתוך אשכולות GPU ובין מתקנים מחוברים.
תנועת ה-AI כופה שדרוגים פיזיים בתוך המתקנים
Training של AI בהיקף גדול נשען על תקשורת מסונכרנת בין GPUs, מה שיוצר תעבורת east-west עצומה ומעדיף ארכיטקטורות שמצמצמות hops, מפחיתות latency ושומרות על ביצועים צפויים. Optical networking מקבלת תפקיד גדול יותר עמוק בתוך מתקני AI וגם בין קמפוסים.
Berti אמר שתכנון הרשת נעשה משולב יותר ויותר עם הסביבה הפיזית של ה-data center, כולל צפיפות הספק, אסטרטגיית cooling, פריסת racks וניתוב fiber. מוקצה יותר שטח להכנסה של fiber נוסף ו-conduits אל תוך data centers.
למי זה חשוב: מפעילי data centers ומתכנני תשתיות AI
המשמעות המעשית למפעילי data centers היא ש-optics יכולות להאריך את חיי התשתית הקיימת, אבל הן לא יכולות להחליף fiber חדש ברגע שתנועת ה-AI ממשיכה לגדול. התכנון כיום חייב לכלול יחד compute, networking, cooling ושטח רצפה, אחרת הרשת תהפוך לצוואר הבקבוק.
זה חשוב גם לצוותי תשתיות AI שמנסים להתרחב ממאות gigabits ל-terabits בלי תכנון מחדש משבש. Berti אמר שהדרישות האלה ימשיכו להשתנות ככל שעומסי העבודה יעברו מ-training של AI אל inference, וככל ש-agent AI יישא בחלק גדול יותר מדרישת התשתית.
Photonics והאופק הרחוק יותר
Berti הפנה לגישות photonic מתפתחות כמו IOWN כנתיב ארוך טווח ל-latency נמוך יותר וליעילות אנרגטית טובה יותר בסביבות AI בהיקף גדול. כיוון התנועה ברור מספיק: מערכות אופטיות נכנסות עמוק יותר לתוך המתקן, ולא רק בין בניינים.