Cerebras Systems hat den CS-4 vorgestellt, ein AI-System im Rack-Format, das Wafer-Scale-Prozessoren über mehrere Racks hinweg ohne Netzwerkswitches verbindet. Nach Angaben von Cerebras läuft das System bis zu doppelt so schnell wie der CS-3 und erreicht in einem GPT-OSS-120B-Test eine bis zu 30-mal höhere Inference-Geschwindigkeit pro Nutzer als GPU-basierte Systeme.
Das Unternehmen weist zugleich darauf hin, dass der tatsächliche Durchsatz je nach Modell und Serving-Setup variiert. Der CS-4 ist das erste System auf Basis der Nexus Rack-Scale-Architektur von Cerebras.
Was sich mit der Nexus-Architektur im Rack ändert
Mit Direct Wafer Links lässt sich die Wafer-zu-Wafer-Latenz nach Angaben von Cerebras auf bis zu zwei Mikrosekunden senken. Zudem stellt jeder CS-4 eine System-I/O-Bandbreite von bis zu 7,2 Tbps bereit.
Dieses interne Fabric ist proprietär. Drittanbieter-Beschleuniger lassen sich nicht hinzufügen, und eine Skalierung des Fabrics erfordert weitere Cerebras-Systeme.
Wie sich der CS-4 in bestehende Rechenzentrumsnetze einfügt
Der CS-4 unterstützt RoCE v2 über Ethernet und kann damit an bestehende Rechenzentrumsnetze angebunden werden. Cerebras zufolge lässt sich das System so in vorhandene Highspeed-Ethernet-Infrastruktur einbinden.
Außerhalb des Cerebras-Fabrics verschwindet das Netzwerkthema allerdings nicht. Manish Rawat, Halbleiteranalyst bei TechInsights, sagte, die Architektur könne die Abhängigkeit von klassischen Switching-Ebenen zwischen Cerebras-Systemen verringern, werde konventionelle Netzwerkanforderungen aber nicht beseitigen.
Was das für AI-Infrastrukturteams bedeutet
Neil Shah, Vice President for Research bei Counterpoint Research, sagte, der Verzicht auf Switches zwischen Cerebras-Systemen könne Infrastrukturkosten und Stromverbrauch senken. Direkte Rack-zu-Rack-Verbindungen könnten eine Netzwerkschicht entfernen, die einen großen Teil des Budgets eines AI-Clusters und bis zu ein Drittel seines Stroms verbrauchen könne.
Danish Faruqui, CEO von Fab Economics, sagte, Data Ingestion und Cluster-Management würden weiterhin auf traditioneller Ethernet-Infrastruktur basieren, während externe Systeme bei disaggregated Inference über RoCE v2 mit dem CS-4 kommunizierten. Cerebras unterstützt außerdem Frameworks wie PyTorch, die Workloads laufen jedoch über die CSoft-Softwareplattform des Unternehmens.
Shah sagte, dem Cerebras-Ökosystem fehle es an Reife und Breite des CUDA-Umfelds von Nvidia.