Eine halbe Million Euro für ein KI-Modell? Lokale KI im Realitätscheck
Chris hat sich die Mittagspause genommen und nachgerechnet: Was kostet es wirklich, ein Spitzenmodell wie Kimi K3.1 Pro im eigenen Haus zu betreiben? Seine Antwort: rund 1,7 Terabyte Grafikspeicher, acht Top-GPUs und ein Komplettsystem für etwa eine halbe Million Euro. Und dann schafft es nur rund zehn Nutzer. Manuel und Marco ordnen ein: Welche Modelle braucht ein Unternehmen im Alltag wirklich und wo liegt der Unterschied zwischen Entwicklung und normaler Büroarbeit? Dazu Microsofts Abfindungsangebot an 67.000 Mitarbeitende und die Frage, was auf die Konzerne in den nächsten Jahren zukommt.
Die Kernpunkte
- Microsoft bietet 67.000 Mitarbeitenden Abfindungen an: Kommt der Stellenabbau auf alle Konzerne zu?
- Warum 2027 für viele Unternehmen ein spannendes Jahr wird und es auf die Entscheidung aus der Position der Stärke ankommt
- Lokale KI-Modelle: Was Kimi K3.1 Pro an Hardware verlangt und was ein komplettes Rack kostet
- Warum die großen Anbieter Verlust machen: Hardware-Verschleiß und Stromkosten
- Was auf einem starken MacBook oder Mac Studio läuft und wie viel schwächer diese Modelle sind
- Die Zwischenstufe: Offene Modelle bei einem deutschen Hoster zahlen nur Input- und Output-Tokens
- Second Brain und Datenqualität: Warum sauber sortiertes Wissen mehr bringt als das größte Modell
- Die These: KI ist dafür da, dass Menschen bei der Dokumentation weiter faul sein können
- Copilot oder Claude Code: Brauchst du für agentische Entwicklung das stärkste Modell?
- 90 Prozent der Anwendungsfälle sind einfach und haben trotzdem riesigen Impact
- Das Jevons-Paradoxon: Warum wir erst bei steigenden Preisen anfangen zu optimieren
- Chris' Fazit: Für jede Aufgabe die passende Modellstufe finden und ein Lizenzmodell für 2027 bauen
Sprung zu den Themen
„Für welchen Use Case im normalen Businessalltag brauchst du so ein starkes Modell? Das brauchst du ja in der Regel nicht."
Diese Folge anhören
Weitere Folgen
Microsoft streicht 67.000 Stellen — kommt der große KI-Knall nächstes Jahr?
Der große Knall kommt noch, sagt Manuel. Marco schaut auf die nackten Zahlen: Weltweit setzen gerade mal drei Prozent KI…
Folge ansehen →
KI-Agenten — bald bearbeiten Mitarbeiter nur noch ihre Rückfragen
Manuels These der Folge: Viele Mitarbeiter werden in Zukunft nur noch die Rückfragen ihrer KI-Agenten bearbeiten. Marco …
Folge ansehen →
Claude steuert unsere Werbekampagne — und wir sind fast nicht mehr Human in the Loop
Marco lässt Claude die Werbekampagne für den KI Snack steuern: Reportings auswerten, Budgets an- und abschalten, A/B-Tes…
Folge ansehen →