Workstations voor AI, Machine Learning en Deep Learning
ML en AI Workstations
In de machine learning en artificial intelligence wetenschap bestaat een grote veelzijdigheid aan software programma’s en toepassingen, een standaard ML Ai Workstation bestaat niet. Ikbenstil Computers maakt op basis van, de aanbeveling van de specifieke software maker, de beschikbare high-end hardware en de jarenlange ervaring van onze engineers, een passende maatwerk oplossing.
Aanbevolen systeemvereisten voor ML Ai Workstations
ML en AI hardware:
Processor (CPU):
De CPU is over het algemeen ondergeschikt aan de GPU, GPU’s zijn zeer belangrijk in de ML Ai wetenschap en hebben al tot vele wetenschappelijke doorbraken gezorgd. De processoren hebben wel een belangrijke rol in het workstation, maar die is vooral om het juiste platform te bieden om de GPU berekeningen en simulaties zo snel mogelijk te laten verlopen. Intel met de Xeon en AMD met de Threadripper Pro en EPYC lijn zijn de toegepaste processoren in de ML Ai Workstation lijn.
De kloksnelheden en het grootte aantal cores, Intel tot 64 Cores en AMD tot 128 Cores, tot 12 kanaalsgeheugen, tot 3TB DDR5 ECC Registered geheugen, het grote aantal PCIe lanes, AVX512 instructie set, de bus snelheden en nog vele features meer maken de professionele systemen tot de krachtigste processoren , en zijn daarom vaak te verkiezen boven de gewone Core en Ryzen types.
Welke CPU de beste keuze is voor uw, hangt af van de toepassing en software maker, onze specialisten kunnen u hierin adviseren.
De Videocard (GPU)
De videokaarten zijn een essentieel onderdeel zijn in ML Ai Workstations.
De meest toegepaste GPU’s in de machine learning en artificial intelligence wetenschap zijn de professionele videokaarten van Nvidia (voorheen de Quadro lijn) vanwege de in de wetenschap veel gebruikte Cuda software. Deze Pro-kaarten zijn er van klein tot groot, de T400 tot de RTX A6000 ADA. Door de compacte bouw-form in de breedte van de grote kaarten is het mogelijk om deze vlak naast elkaar te positioneren, zo kunnen er tot vier GPU’s per workstation worden toegepast. Dit is met de gewone RTX 4080 of 4090 kaarten een stuk lastiger omdat het formaat dat niet toelaat en het daardoor tot maximaal twee GPU’s beperkt blijft.
AMD maakt met de Radeon PRO en FirePro ook professionele GPU’s, wat ondersteund wordt door de AMD ROCm software stack Deze software is geschikt voor Ai, Large Lauguage Modellen, beeld herkenning wetenschap enz enz. Deze software is veel belovend, alleen nog niet wijdverspreid in de wetenschap. Ook zijn de snelste AMD Pro GPU’s niet zo snel als die van Nvidia. Wij volgen ADM nauwlettend en verwachten dat hier in de nabije toekomst nog veel gaat gebeuren op wetenschappelijk gebied.
Het geheugen (RAM)
De toepassing van deze Xeon en AMD Threadripper PRO en EPYC processoren hebben een groot voordeel op het memory gebied, zo kan er erg veel geheugen worden geplaatst op sommige mainboards tot wel 3TB, configuraties met 256GB en 512GB zijn veel voorkomend.
Bij Intel is de memory bus maximaal 8 kanaal en AMD EPYC een 12 channel memory bus. Ook kan er stabiel werkgeheugen worden gebruikt (Registered, RDIMM) en met de ECC functie, die als een geheugen fout correctie fungeert, de modules worden vaak aan gegeven als ECC Registered. Deze modules worden geproduceerd tot een maximum van 256GB DDR5 per stuk.
In machine learning en artificial intelligence GPU Workstations is het regel om tweemaal de totale hoeveelheid VRAM als RAM te plaatsen, een configuratie met 4x RTX A6000 48GB heeft 384GB RAM nodig.
Opslag
Wij kiezen voor het besturingssysteem en de programma’s voor een snelle primaire SSD. Deze zijn er in verschillende soorten, maten en interfaces. Voor ML Ai Workstations is het bepalend welke applicatie er vereist is, en het bij behorende hardware platform kan specifieke overzichten hebben welke SSD’s, merk en type, worden ondersteund. Natuurlijk is er ook een opslag voor de content nodig dit kan op een SSD of optioneel groot volume HDD’s, Fileserver of een NAS.
Maatwerk
Ikbenstil Computers heeft workstations gemaakt die aansluiten bij standaard werkprocessen en de bij behorende software. Staat uw keuze hier niet tussen, dan kunt u in contact komen met een van onze specialisten, die u een maatwerk oplossing kunnen bieden.
