AMD stellt die Radeon AI PRO R9700 GPU mit beeindruckender KI-Leistung vor

AMD hat weitere Details zu seiner Radeon AI PRO R9700 GPU bekannt gegeben und wie sie sich bei KI-Aufgaben im Vergleich zur bestehenden Radeon PRO W7800 schlägt.

AMD bietet mit der RDNA 4-basierten Radeon AI PRO R9700 GPU 4x mehr KI-TOPS und eine 2x höhere KI-Leistungssteigerung für Verbraucher

AMD hat kürzlich seine Software-Suite mit ROCm 7 erweitert, wobei die aktuelle KI-Beschleuniger-Strategie in drei Hauptkategorien skaliert: die Ryzen AI MAX APUs, die auf kleine bis mittelgroße LLMs abzielen, die Radeon AI PRO GPUs, die sich auf Multi-GPU-Edge-Inferenz und kleine bis mittelgroße LLMs konzentrieren, und schließlich die Instinct AI-Beschleuniger, die auf große LLMs für Rack-Skalen-Inferenz und Training abzielen. Während AMD seine MI350-Serie detailliert beschrieben hat, hat das Unternehmen auch weitere KI-Statistiken für seine Radeon AI PRO-Reihe veröffentlicht.

Die AMD Radeon AI PRO R9700 nutzt die Navi 48 GPU, die mit 64 Compute Units oder 4096 Stream-Prozessoren ausgestattet ist. Die GPU verfügt über 128 KI-Beschleuniger und hat eine TBP von bis zu 300W. In Bezug auf den Speicher ist die AMD Radeon AI PRO R9700 mit 32 GB GDDR6-Speicher ausgestattet, der über einen 256-Bit-Bus läuft, und verdoppelt damit im Wesentlichen den VRAM, der auf der 9070 XT vorhanden ist. Weitere von AMD geteilte Leistungsaspekte umfassen die 96 TFLOPs FP16-Compute und 1531 TOPS INT4 (Sparse).

Das Ziel der AMD Radeon AI PRO R9700 GPU ist es, hochwertige KI-Modelle effizient abzuschließen. Deshalb wurde sie mit 32 GB VRAM ausgestattet, was eine optimale Menge für die meisten fortschrittlichen lokalen KI-Workloads ist, wie DeepSeek R1 Distill Qwen 32B Q6, Mistral Small 3.1 24B Instruct 2503 Q8, Flux 1 Schnel und SD 3.5 Medium.

In Bezug auf die Leistung gibt AMD an, dass die Radeon AI PRO R9700 in DeepSeek R1 doppelt so schnell ist wie die Radeon PRO W7800 32 GB GPU, während das Unternehmen auch einige Messungen gegen die RTX 5080 zeigt, die über einen 16 GB VRAM-Puffer verfügt. Die 16 GB VRAM könnten für KI-Modelle, die mehr Speicher benötigen, nicht ausreichen, und deshalb wird die R9700 als bis zu 5x schneller gezeigt.

Bei den Berechnungsmetriken bietet die R9700 47,8 TFLOPs FP32, 191,4 TFLOPs FP16 / BF16, 382,7 TFLOPs FP8, 382,7 TOPs INT8 und 765,5 TOPS INT4 Leistung. Die GPU unterstützt auch Wave Matrix Multiply Accumulate (WMMA)-Anweisungen und strukturierte Sparsity. Mit Sparsity wird die Gesamtleistung der INT4 TOPS 1531 erreichen. Die FP16-Werte sind eine 2x Steigerung gegenüber der Radeon PRO W7800, während die INT8/INT4-Werte eine 4x Erhöhung zeigen.

AMD hebt auch hervor, warum die Unterstützung größerer Modelle entscheidend für bessere Ergebnisse ist. Bei Text-zu-Bild-Anwendungen wird ein 8B-Modell, das auf FP16 läuft, weit bessere Ergebnisse liefern als ein 1B-Modell. In Bezug auf das Schlussfolgern wird ein 32B 6-Bit-Modell eine höhere Genauigkeit liefern als ein 8B 6-Bit-Modell.

AMD zeigt auch die FP16-KI-Leistung in einem Vergleich zwischen der R9700 und der W7800, wobei die neue Variante über 2x Leistungssteigerung in DeepSeek R1 Distill Llama (8B) bietet.

Aber damit endet es nicht; die AMD Radeon AI PRO R9700 kann auch in 4-Wege-Multi-GPU-Konfigurationen auf einer modernen PCIe 5.0-Plattform skaliert werden. Dies ermöglicht es den Nutzern, einen riesigen 128 GB-Pool zu nutzen, der Puffer-Modelle wie Mistral 123B und DeepSeek R1 70 B verarbeiten kann. Diese Modelle können bis zu 112-116 GB VRAM verbrauchen.

Schließlich wird die AMD Radeon AI PRO R9700 GPU ab Juli dieses Jahres bei führenden Partnern wie ASUS, ASRock, Gigabyte, PowerColor, Sapphire, XFX und Yeston erhältlich sein. Die Karte wird ein Dual-Slot-Design mit einem Blower-Kühler haben.

Das ASRock-Modell können Sie unten sehen:

AMD Radeon Pro Workstation-Grafikkarten im Überblick: