NEWS / AMD stellt Instinct MI350P PCIe-GPUs vor

AMD erweitert sein AI-Portfolio um die neuen Instinct MI350P PCIe-GPUs, die speziell dafür entwickelt wurden, KI-Workloads in bestehende Rechenzentrums-Infrastrukturen zu integrieren. Statt aufwendiger Umbauten für Stromversorgung oder Kühlung setzen die Karten auf ein Dual-Slot-Design für klassische luftgekühlte Server und lassen sich direkt in vorhandene Systeme einsetzen.

Die GPUs richten sich an Unternehmen, die mehr KI-Leistung benötigen als CPUs bieten können, ohne direkt in spezialisierte Accelerator-Plattformen investieren zu müssen. In Konfigurationen mit bis zu acht Karten pro System eignen sie sich für Inference-Workloads, RAG-Pipelines sowie kleine bis große KI-Modelle.

Eckdaten der AMD Instinct MI350 PCIe auf einen Blick. (Bildquelle: amd.com)

Technisch bieten die Instinct MI350P PCIe-Karten eine hohe Rechenleistung mit bis zu 2.299 TFLOPS und bis zu 4.600 TFLOPS bei niedrigen Präzisionsformaten wie MXFP4. Hinzu kommen bis zu 144 GB HBM3E-Speicher mit einer Bandbreite von bis zu 4 TB/s. Unterstützung für moderne Präzisionsformate wie FP8, MXFP8 sowie INT8 und BF16 mit Sparsity-Beschleunigung sorgt für effiziente Verarbeitung unterschiedlichster KI-Workloads.

Ein weiterer Fokus liegt auf dem offenen Software-Ökosystem: Die GPUs sind kompatibel mit gängigen Frameworks wie PyTorch und lassen sich über Kubernetes GPU Operator und AMD Inference Microservices verwalten. Der offene Ansatz mit kostenfreien Referenz-Stacks soll die Integration vereinfachen und Betriebskosten reduzieren, während bestehende Anwendungen mit minimalen Anpassungen migriert werden können.

Mit den Instinct MI350P PCIe-Karten positioniert AMD eine flexible Lösung für Unternehmen, die KI lokal betreiben und gleichzeitig Kosten, Infrastrukturaufwand und Abhängigkeit von Cloud-Diensten reduzieren möchten.