SAN JOSÉ, California – Supermicro, Inc. (NASDAQ: SMCI), conocida por sus soluciones informáticas para IA, nube, almacenamiento y 5G/Edge, anunció una nueva serie de soluciones SuperCluster para acelerar la implementación de IA sintética. Estas soluciones están diseñadas para ser la base de marcos de trabajo de modelado de lenguajes grandes (LLM).
La línea SuperCluster de Supermicro incluye tres configuraciones: sistema de refrigeración líquida de 4U, sistema de refrigeración por aire de 8U y sistema de refrigeración por aire Supermicro NVIDIA MGX™ de 1U. Estos sistemas están diseñados para ofrecer un alto rendimiento en cargas de trabajo de inferencia y capacitación de LLM de gran volumen. El director ejecutivo de la empresa, Charles Liang, enfatizó la capacidad de entregar rápidamente estos grupos de IA a los clientes, aprovechando las capacidades de fabricación global de Supermicro.
El sistema de refrigeración líquida 4U, equipado con 8 GPU NVIDIA HGX H100/H200, está diseñado para admitir la próxima generación de GPU basadas en la arquitectura Blackwell de NVIDIA. El objetivo de estos sistemas es reducir el consumo de energía y reducir el costo total de propiedad (TCO) del centro de datos a través de una tecnología de enfriamiento eficiente que puede reducir los costos de electricidad hasta en un 40%. Los nuevos servicios de Supermicro se integran con el software NVIDIA AI Enterprise y las soluciones de red, incluidas NVIDIA Quantum-2 InfiniBand a 400 Gb/s y Spectrum-X Ethernet, para respaldar la capacitación LLM con miles de millones de referencias.
SuperClusters también combina un motor de almacenamiento de datos de IA personalizable con opciones de sistema de archivos paralelo y está diseñado para admitir acceso al almacenamiento de alto rendimiento y baja latencia. El sistema NVIDIA MGX 1U refrigerado por aire cuenta con el superchip NVIDIA GH200 Grace Hopper, que cumple con los requisitos de capacidad de memoria y ancho de banda de GPU para ejecutar LLM con grandes lotes de inferencia para reducir los costos de procesamiento de minería. Estos sistemas son escalables y adecuados para inferencias de gran volumen a escala de nube.
El anuncio de Supermicro subraya el compromiso de la compañía de proporcionar soluciones informáticas optimizadas para aplicaciones y un enfoque en la innovación y la sostenibilidad en el diseño de sus productos y los procesos de fabricación. Este comunicado se basa en un comunicado de prensa de Super Micro Computer, Inc.
