Nvidia und AMD schrumpfen Künstliche Intelligenz – Rechner für lokale KI-Modelle

Santa Clara – Eine KI-Anwendung direkt am Arbeitsplatz entwickeln? Bislang schwierig, denn in der Regel sind dafür große KI-Rechenzentren nötig. Nun haben die Chip-Hersteller Nivida und AMD eine Workstation vorgestellt, mit der professionelle Nutzer lokal KI-Modelle entwickeln können.

Ausgestattet sind die Workstations mit NVIDIA RTX Ada Gen Grafikprozessoren und AMD Ryzen Threadripper PRO 7000 WX-Series CPUs. Die neuen Plattformen vereinen KI-Berechnungen, Rendering und Simulation. Ab November sollen die Rechner bei BOXX und HP erhältlich sein.

Ein großes Sprachmodell mit einer Billion Parametern zu trainieren – das erfordert bislang Tausende von Grafikkarten und Wochen an Rechenzeit. Doch Forscher arbeiten daran, die Modellgröße zu schrumpfen und auf kleinere Systeme zu wechseln, ohne dabei die Präzision zu beeinträchtigen.

 

Rechner für kompakte KI-Modelle auf Team-Ebene

Die neuen KI-Workstations mit Nvidia RTX-Grafikpower und AMD-Prozessoren liefern die Leistung für das Training kleinerer Modelle. Sie ermöglichen die lokale Feinabstimmung und reduzieren die Belastung von Cloud-Ressourcen und Rechenzentren bei KI-Entwicklungsprojekten.

Mit kompakten KI-Modellen können Firmen Workstations für lokale Inferenzprozesse zu nutzen, für Anwendungen, die aus der Wissensbasis neue Aussagen ableiten. Die mit RTX-Grafikkarten und AMD-Prozessoren bestückten Rechner seien bestens für kleine KI-Modelle auf Team-Ebene geeignet.

Workstation oder Rechenzentrum – Skalierung möglich

Rechenzentren zu entlasten – dabei sollen die neuen Workstations effektiv helfen. Wenn jedoch die Nutzer lokale Operationen auf die Ebene eines Rechenzentrums oder in die Cloud ausweiten wollen, ist das dem Konzern zufolge mit der Nvidia AI Enterprise Software-Plattform nahtlos möglich.

Ob Architektur oder Produktion, Medien oder Gesundheitswesen – laut Nvidia profitieren Experten aus verschiedensten Branchen von den neuen Workstations. Die leistungsstarken Rechner können meistern hohe KI-Workloads und helfen auch bei 3D-Rendering, Visualisierung und Simulation.

 

 

Disclaimer:
Alle Angaben ohne Gewähr auf Vollständigkeit, Richtigkeit und Aktualität. Der Text stellt keine Handelsempfehlung oder Anlageberatung dar.