Germany – Supporting services for the government – µHPC-System inklusive Wartung und Betrieb für das KI-Labor

Ziel des Projektes ist die Bereitstellung eines performanten µHPC-Systems inklusive Hard- und Softwaresupport zusammen mit einem Software-Stack inklusive Supportes und Pflege bei gleichzeitiger Aufrechterhaltung der Experimentierfähigkeit des Auftraggebers in Rich-tung GreenAI. Konkret soll das System selbst für Experimente zur Energieeffizienz von KI-Anwendungen genutzt werden. Damit sind sowohl präzise Energiemessungen sowohl auf Rackschranke-bene als auch auf Knotenebene oder Infrastrukturebene notwendig. Gleichzeitig müssen APIs und Schnittstellen zur Leistungsanalyse oder zur Anpassung von Leistungskennzah-len zugänglich sein, z.B. Performance Monitoring Counter, TDP Limits bzw. Power Capping, cupti. Um dynamisch mit den anfallenden Rechenlasten arbeiten zu können soll Virtualisierung und Containerisierung mit OpenSource-Tools breit eingesetzt werden.