KI und maschinelles Lernen

ML- und KI-Workstations

Im Bereich des maschinellen Lernens und der künstlichen Intelligenz gibt es eine große Vielfalt an Softwareprogrammen und Anwendungen; eine Standard-ML- und KI-Workstation existiert nicht. Ikbenstil Computers erstellt auf der Grundlage der Empfehlungen des jeweiligen Softwareherstellers, der verfügbaren High-End-Hardware und der langjährigen Erfahrung unserer Ingenieure eine passende, maßgeschneiderte Lösung.

Empfohlene Systemanforderungen für ML- und KI-Workstations

ML- und KI-Hardware:

Prozessor (CPU): Die CPU ist im Allgemeinen der GPU untergeordnet; GPUs sind in der ML- und KI-Forschung von großer Bedeutung und haben bereits zu vielen wissenschaftlichen Durchbrüchen geführt. Die Prozessoren spielen zwar eine wichtige Rolle in der Workstation, doch besteht diese vor allem darin, die richtige Plattform bereitzustellen, damit die GPU-Berechnungen und -Simulationen so schnell wie möglich ablaufen können.  Intel mit dem Xeon und AMD mit der Threadripper Pro- und EPYC-Reihe sind die in der ML-AI-Workstation-Reihe verwendeten Prozessoren. Die Taktraten und die hohe Anzahl an Kernen, von Intel bis zu 64 Kernen und von AMD bis zu 128 Kernen, bis zu 12 Speicherkanälen, bis zu 3 TB DDR5 ECC Registered-Speicher, die große Anzahl an PCIe-Lanes, der AVX512-Befehlssatz, die Busgeschwindigkeiten und viele weitere Funktionen machen diese professionellen Systeme zu den leistungsstärksten Prozessoren und sind daher oft den gewöhnlichen Core- und Ryzen-Typen vorzuziehen. Welche CPU für Sie die beste Wahl ist, hängt von der Anwendung und dem Softwarehersteller ab; unsere Spezialisten können Sie diesbezüglich beraten.

Die Grafikkarte (GPU) Grafikkarten sind ein wesentlicher Bestandteil von ML- und KI-Workstations. Die in den Bereichen Machine Learning und künstliche Intelligenz am häufigsten eingesetzten GPUs sind die professionellen Grafikkarten von Nvidia, da in der Wissenschaft die Open-Source-Software Nvidia Rapids weit verbreitet ist. Diese Pro-Karten sind in verschiedenen Größen erhältlich, von der Nvidia RTX 2000 Ada bis zur NVIDIA RTX PRO 6000 96 GB Blackwell Max-Q Workstation Edition. Dank der kompakten Bauweise der großen Karten in der Breite ist es möglich, diese direkt nebeneinander zu positionieren, sodass bis zu vier GPUs pro Workstation eingesetzt werden können. Mit den gewöhnlichen RTX 5080- oder 5090-Karten ist dies wesentlich schwieriger, da das Format dies nicht zulässt und die Anzahl daher auf maximal zwei GPUs beschränkt bleibt. Eine Karte, die besonders erwähnenswert ist, ist die NVIDIA RTX PRO 5000 Blackwell mit 72 GB GDDR7-VRAM. AMD stellt mit der Radeon PRO und FirePro ebenfalls professionelle GPUs her, die durch den AMD ROCm-Software-Stack unterstützt werden. Diese Software eignet sich für KI, Large-Language-Modelle, Bilderkennung in der Wissenschaft usw. Diese Software ist vielversprechend, in der Wissenschaft jedoch noch nicht weit verbreitet. Zudem sind die schnellsten AMD Pro-GPUs nicht so schnell wie die von Nvidia. Wir beobachten AMD genau und erwarten, dass sich hier in naher Zukunft im wissenschaftlichen Bereich noch viel tun wird.

Der Arbeitsspeicher (RAM) Der Einsatz dieser Xeon- sowie AMD Threadripper PRO- und EPYC-Prozessoren bietet einen großen Vorteil im Bereich des Arbeitsspeichers: So kann auf einigen Mainboards sehr viel Arbeitsspeicher installiert werden, bis zu 3 TB; Konfigurationen mit 256 GB und 512 GB sind weit verbreitet. Bei Intel beträgt der Speicherbus maximal 8 Kanäle, bei AMD EPYC 12 Kanäle. Es kann auch stabiler Arbeitsspeicher (Registered, RDIMM) verwendet werden, und dank der ECC-Funktion, die als Speicherfehlerkorrektur dient, werden die Module oft als ECC Registered bezeichnet. Diese Module werden mit einer maximalen Kapazität von 256 GB DDR5 pro Stück hergestellt. Bei GPU-Workstations für maschinelles Lernen und künstliche Intelligenz ist es üblich, die doppelte Menge an VRAM als RAM zu verbauen; eine Konfiguration mit 4x RTX PRO 6000 96 GB benötigt 768 GB RAM.

Speicher: Für das Betriebssystem und die Programme wählen wir eine schnelle primäre SSD. Diese gibt es in verschiedenen Arten, Größen und Schnittstellen. Bei ML- und KI-Workstations ist entscheidend, welche Anwendung benötigt wird, und die entsprechende Hardwareplattform kann spezifische Übersichten darüber enthalten, welche SSDs, Marken und Typen unterstützt werden. Natürlich wird auch Speicherplatz für die Inhalte benötigt; dieser kann auf einer SSD oder optional auf großvolumigen HDDs, einem Dateiserver oder einem NAS bereitgestellt werden.

Maßgeschneiderte Lösungen Ikbenstil Computers hat Workstations entwickelt, die auf Standard-Arbeitsprozesse und die dazugehörige Software abgestimmt sind. Sollte Ihre Wahl hier nicht aufgeführt sein, können Sie sich an einen unserer Spezialisten wenden, der Ihnen eine maßgeschneiderte Lösung anbieten kann.