AMD Helion basiert auf einer Spezifikation des Open Compute Project (OCP) und nutzt AMD-Rechenhardware. Unternehmen und Partner sollen die CPU-Leistung, Kerndichte und Stromversorgung an die Aufgaben ihrer KI-Agenten anpassen können. Der Entwurf sieht sowohl luft- als auch flüssigkeitsgekühlte Varianten vor. AMD will die Spezifikation dem OCP zur weiteren Entwicklung und Nutzung durch die Community vorlegen.
Eine mögliche Ausführung besteht ausschließlich aus CPUs der 6. Generation AMD EPYC. Sie kann laut AMD bis zu 32.768 CPU-Kerne umfassen und richtet sich an Hyperscale-Anbieter. Die Rechenleistung soll Agenten ausführen und sie mit einer getrennten Infrastruktur für Modellinferenz verbinden. Damit trennt AMD die Ausführung von Agenten von der Berechnung durch die Modelle.
Für Unternehmen beschreibt AMD ein Rack-Konzept, das AMD-EPYC-CPU-Knoten mit AMD-Instinct-MI350P-GPU-Knoten und allgemeiner Rechenleistung kombiniert. Die Konfigurationen sollen Agentenausführung, Modellinferenz und unterstützende Rechenaufgaben abdecken. AMD zufolge lässt sich Helion auch in vorhandene IT-Infrastruktur integrieren; Partner können CPU- und GPU-Ausstattung auf die Anforderungen eines Einsatzes abstimmen.
Zum Softwarekonzept gehört ein integrierter Token-Router. Er soll die Modellaufrufe von Agenten auf Frontier-Modelle und Open-Source-Modelle verteilen. AMD stellt Helion als offenen Hardware- und Softwareansatz vor. Die Rack-Konfigurationen werden derzeit gemeinsam mit Partnern entwickelt und sollen im November 2026 verfügbar sein. Die genannten Ausführungen sind Beispiele innerhalb des flexiblen Rack-Entwurfs, keine abschließende Liste aller möglichen Varianten.