Die Systeme sind für KI-Workloads im Edge-Bereich konzipiert und ermöglichen die On-Premise-Bereitstellung und Feinabstimmung von KI-Modellen, einschließlich großer Sprachmodelle (LLMs) und KI-Vision-Inferenzanwendungen, wie medizinische Bildgebung und automatische Inspektion. Die Modelle AIR-410 und dem AIR-420 verfügen über Wärmemanagement, Netzteile und integrieren Hardware und Software.
AIR-410 unterstützt 3-Slot-GPU für High-End-Edge-Inferenz
Mit AMD Ryzen Embedded Prozessoren der 8000er Serie, unterstützt der AIR-410 High-End-GPUs, darunter die NVIDIA RTX PRO 6000 Blackwell Max-Q Workstation Edition, AMD Radeon PRO W7900 und Qualcomm Cloud AI 100 Ultra, die KI-Funktionen für Edge-KI-Anwendungen bieten. Der FHFL-GPU-Formfaktor mit 3 Steckplätzen und der Betrieb mit < 38,2 dBA machen ihn für die On-Premise Halbleiterinspektion, medizinische Bildgebung und LLM-Inferenz einsetzbar.
Technische Eckdaten:
- 850-W-Netzteil
- Unterstützung für bis zu 96GB DDR5-RAM und 14TB Speicherplatz
- Edge AI SDK von Advantech, vorvalidierte KI-Modellen und programmierfreie GUI
AIR-420 unterstützt zwei Hochleistungs-GPUs für On-Premise GenAI-Post-Training
Entwickelt für KI-Inferenz- und Fine-Tuning-Workloads am Edge, verfügt der AIR-420 über ein 28,6-Liter-Chassis und unterstützt zwei 600-W-Hochleistungs-GPU-Karten. Er bietet AMD Ryzen Prozessoren der Serien 7000/9000, CPU/PCIe-Layout, ein redundantes Stromversorgungssystem und Advantech-Softwaretools aiSSD, aiDAPTIV+ sowie der No-Code-Plattform GenAI Studio. GenAI Studio wird kontinuierlich aktualisiert, um die neuesten LLMs zu unterstützen, und bietet sowohl Full-Parameter- als auch parameter-effizientes Fine-Tuning (z. B. PEFT, LoRA).
Die Geräte sind für Vision AI, GenAI-Entwicklung und Echtzeit-Edge-Inferenz verwendbar. Für angepasste Varianten bietet Advantechs europäisches DMS Team lokale Design- und Fertigungsdienstleistungen an.
