Cerebras Systems presentó el CS-4, un sistema de IA a escala de rack que conecta procesadores a escala de oblea entre racks sin switches de red. Cerebras afirma que el sistema puede funcionar hasta el doble de rápido que el CS-3 y que, en una prueba con GPT-OSS-120B, puede ofrecer hasta 30 veces la velocidad de inferencia por usuario de los sistemas basados en GPU.
La compañía también señala que el rendimiento real varía según el modelo y la configuración de servicio. El CS-4 es el primer sistema construido sobre la arquitectura Nexus de Cerebras para rack-scale.
Qué cambia la arquitectura Nexus dentro del rack
Cerebras afirma que Direct Wafer Links puede reducir la latencia entre obleas hasta dos microsegundos. La compañía también dice que cada CS-4 ofrece hasta 7,2 Tbps de ancho de banda de E/S del sistema.
Ese tejido interno es propietario. No se le pueden añadir aceleradores de terceros y la ampliación del tejido requiere más sistemas de Cerebras.
Cómo encaja el CS-4 en las redes existentes del centro de datos
El CS-4 admite RoCE v2 sobre Ethernet, por lo que puede conectarse a redes de centro de datos ya existentes. Cerebras afirma que RoCE v2 permite integrar el sistema en infraestructuras Ethernet de alta velocidad ya desplegadas.
Fuera del tejido de Cerebras, la red sigue siendo necesaria. Manish Rawat, analista de semiconductores en TechInsights, dijo que la arquitectura podría reducir la dependencia de las capas de switching tradicionales entre sistemas de Cerebras, pero no eliminaría los requisitos de red convencional.
Qué significa esto para los equipos de infraestructura de IA
Neil Shah, vicepresidente de investigación en Counterpoint Research, dijo que eliminar los switches entre sistemas de Cerebras podría reducir los costes de infraestructura y el consumo eléctrico. Señaló que los enlaces directos rack a rack pueden quitar una capa de hardware de red que puede absorber una gran parte del presupuesto de un clúster de IA y hasta un tercio de su electricidad.
Danish Faruqui, CEO de Fab Economics, dijo que la ingestión de datos y la gestión del clúster seguirán dependiendo de la infraestructura Ethernet tradicional, mientras que los sistemas externos en la inferencia desagregada se comunicarán con el CS-4 por RoCE v2. Cerebras también da soporte a frameworks como PyTorch, pero las cargas de trabajo se ejecutan a través de la plataforma de software CSoft de la compañía.
Shah dijo que el ecosistema de Cerebras carece de la madurez y amplitud del entorno CUDA de Nvidia.