Cerebras Systems a présenté la CS-4, un système d’IA à l’échelle du rack qui relie des processeurs à l’échelle du wafer entre plusieurs racks sans commutateurs réseau. Cerebras affirme que le système peut fonctionner jusqu’à deux fois plus vite que la CS-3 et, dans un test GPT-OSS-120B, offrir jusqu’à 30 fois la vitesse d’inférence par utilisateur des systèmes basés sur GPU.
L’entreprise précise aussi que le débit réel varie selon le modèle et la configuration de service. La CS-4 est le premier système construit sur l’architecture Nexus de Cerebras à l’échelle du rack.
Ce que l’architecture Nexus change dans le rack
Cerebras indique que les Direct Wafer Links peuvent réduire la latence wafer-à-wafer à seulement deux microsecondes. L’entreprise ajoute que chaque CS-4 fournit jusqu’à 7,2 Tbps de bande passante d’E/S système.
Ce tissu interne est propriétaire. Il ne peut pas accueillir d’accélérateurs tiers, et son extension nécessite d’autres systèmes Cerebras.
Comment la CS-4 s’intègre aux réseaux de data center existants
La CS-4 prend en charge RoCE v2 sur Ethernet afin de pouvoir se connecter aux réseaux de data center existants. Cerebras indique que RoCE v2 permet au système de se brancher sur une infrastructure Ethernet haut débit déjà en place.
Au-delà du tissu Cerebras, le sujet réseau ne disparaît pas. Manish Rawat, analyste semi-conducteurs chez TechInsights, a indiqué que l’architecture pourrait réduire la dépendance aux couches de commutation traditionnelles entre systèmes Cerebras, sans pour autant supprimer les besoins de réseau conventionnel.
Ce que cela implique pour les équipes d’infrastructure IA
Neil Shah, vice-président chargé de la recherche chez Counterpoint Research, a déclaré que la suppression des commutateurs entre systèmes Cerebras pourrait réduire les coûts d’infrastructure et la consommation électrique. Il a expliqué que des liaisons directes d’un rack à l’autre peuvent supprimer une couche de matériel réseau susceptible d’absorber une part importante du budget d’un cluster IA et jusqu’à un tiers de son électricité.
Danish Faruqui, CEO de Fab Economics, a déclaré que l’ingestion de données et la gestion du cluster dépendraient toujours d’une infrastructure Ethernet traditionnelle, tandis que les systèmes externes en inférence désagrégée communiqueraient avec la CS-4 via RoCE v2. Cerebras prend également en charge des frameworks comme PyTorch, mais les charges de travail s’exécutent via la plateforme logicielle CSoft de l’entreprise.
Shah a déclaré que l’écosystème Cerebras n’atteint pas la maturité ni l’ampleur de l’environnement CUDA de Nvidia.