Cerebras Systems חשפה את ה-CS-4, מערכת AI בהיקף rack-scale שמחברת מעבדי wafer-scale בין racks בלי network switches. לפי Cerebras, המערכת יכולה לפעול עד פי שניים מהר יותר מה-CS-3, ובמבחן GPT-OSS-120B היא מספקת עד פי 30 ממהירות ה-inference לכל משתמש של מערכות מבוססות GPU.
החברה אומרת גם שהתפוקה בפועל משתנה לפי המודל והגדרת השירות. ה-CS-4 היא המערכת הראשונה שנבנתה על ארכיטקטורת Nexus rack-scale של Cerebras.
מה משנה ארכיטקטורת Nexus בתוך ה-rack
לפי Cerebras, Direct Wafer Links יכולים לצמצם את השהיית ה-wafer-to-wafer עד לשתי מיקרושניות בלבד. החברה אומרת גם שכל CS-4 מספקת רוחב פס I/O של המערכת עד 7.2 Tbps.
הבד הפנימי הזה הוא proprietary. אי אפשר להוסיף אליו accelerators של צד שלישי, והרחבת ה-fabric מחייבת מערכות Cerebras נוספות.
איך ה-CS-4 משתלב ברשתות data center קיימות
ה-CS-4 תומכת ב-RoCE v2 over Ethernet, כך שהיא יכולה להתחבר לרשתות data center קיימות. Cerebras אומרת ש-RoCE v2 מאפשרת למערכת להתחבר לתשתית Ethernet מהירה קיימת.
מחוץ ל-fabric של Cerebras, תמונת ה-networking לא נעלמת. Manish Rawat, אנליסט מוליכים למחצה ב-TechInsights, אמר שהארכיטקטורה עשויה להפחית את התלות בשכבות switching מסורתיות בין מערכות Cerebras, אבל לא תבטל את הצורך ב-networking קונבנציונלי.
מה זה אומר לצוותי תשתיות AI
Neil Shah, סגן נשיא למחקר ב-Counterpoint Research, אמר שהסרת switches בין מערכות Cerebras עשויה להפחית עלויות תשתית וצריכת חשמל. לדבריו, קישורי rack-to-rack ישירים יכולים להסיר שכבת חומרת networking שיכולה לצרוך נתח גדול מתקציב של cluster AI ועד שליש מהחשמל שלו.
Danish Faruqui, מנכ״ל Fab Economics, אמר ש-data ingestion ו-cluster management עדיין יישענו על תשתית Ethernet מסורתית, בעוד מערכות חיצוניות ב-disaggregated inference יתקשרו עם ה-CS-4 דרך RoCE v2. Cerebras תומכת גם ב-frameworks כמו PyTorch, אבל ה-workloads רצים דרך פלטפורמת התוכנה CSoft של החברה.
Shah אמר שה-ecosystem של Cerebras עדיין חסר את הבשלות ואת רוחב היריעה של סביבת CUDA של Nvidia.