- Oliver Hessel
- Mittwoch, 09. Dez. 2026
- 14:00 - 14:45
- Plateau 2 | Ebene 1
- Session
Performance, Latenzen & Modell-Wahl – Insights aus dem AI Model Hub
Souveräne KI gilt als das Zielbild vieler europäischer IT-Strategien. Doch abseits von High-Level-Narrativen beginnt im Eigenbetrieb die technische Realität: Wie sieht der tägliche Spagat zwischen GPU-Infrastruktur, Performance und Budget aus?
Dieser Vortrag nimmt bewusst die Betreiberperspektive ein und zeigt, was es konkret bedeutet, ein modernes Modell-Serving in Europa aufzubauen und nachhaltig zu betreiben. Am Beispiel des AI Model Hub beleuchten wir die entscheidenden Stellschrauben der Praxis:
- Modell-Lineup & Kuration: Welche Open-Weight-Modelle lohnen sich im Einsatz, wie stellt man ein praxistaugliches Portfolio zusammen und was leisten Open-Weight-Ansätze heute wirklich?
- Kapazität & Kostenrealität: Wie sieht die tatsächliche Auslastung von GPU-Ressourcen aus und welche versteckten Kostenfaktoren lauern beim Skalieren?
- Latenz & Performance: Welche Architekturentscheidungen sind nötig, um akzeptable Antwortzeiten für Business-Anwendungen zu garantieren?
Erfahren Sie aus erster Hand, wo Souveränität klare Vorteile bringt, wo die technischen und wirtschaftlichen Grenzen liegen und welche Learnings Sie für Ihre eigene KI-Infrastruktur mitnehmen können.
