Challenges · Architecture Challenge
Stack für ein echtes Unternehmen bauen
Zehn Entscheidungen, ein konkreter Fall. Am Ende bekommst du einen Score über Datenschutz, Skalierbarkeit, Kosten, Wartbarkeit und Performance.
Müller Consulting GmbH
Beratungsunternehmen mit sensiblen Kundendokumenten
Über das Unternehmen
- · 200 Mitarbeitende
- · Nutzt Microsoft 365
- · Interne Dokumente: Verträge, Angebote, Projektdokumentation, Kundendokumente
Anforderungen
DSGVO-Konformität ist wichtigStartbudget maximal 50.000 €Kleine IT-AbteilungCa. 500.000 Tokens pro TagCa. 80 gleichzeitige NutzerRAG erforderlich
Deine Architektur
0/10 Entscheidungen getroffen
1Betriebsmodell
Wie soll die KI-Infrastruktur grundsätzlich betrieben werden?
2Modell
Welche Art von Modell soll die Anfragen beantworten?
3Hosting
Wo läuft die Infrastruktur physisch?
4Serving
Wie wird das Modell betrieben, falls self-hosted?
5Gateway
Wie werden Zugriff, Budgets und Fallbacks kontrolliert?
6UI
Welche Oberfläche nutzen die Mitarbeitenden?
7RAG
Wie wird internes Wissen eingebunden?
8Vector Database
Wo werden die Embeddings gespeichert?
9Security
Welche Guardrails sind aktiv?
10Monitoring
Wie wird der Betrieb überwacht?