AI
Wir glauben daran, dass AI einen deutlich höheren Kundennutzen erlaubt, wenn man sie richtig einsetzt!
Hier findest du:
Aktuellste Beiträge
-

Round two: Hosting GLM 5.2 via expert streaming
GLM 5.2 is a 744-billion-parameter MoE model – way too big for any GPU I own. Expert streaming let me run it anyway, at around 1.2 tokens per second, entirely from a single mini PC.
-

Hosting a 284B model on 90GB of VRAM
I own an AMD Strix Halo box with 128GB of unified memory, and I wanted to know how big a model I could actually host on it. Turns out: pretty big, if you stop trying to fit everything into VRAM.
-

Wie ich meiner KI das Ratespiel abgewöhnte
„Gleicher Mist, doppelter Preis.“ Wir erinnern uns, das war der Werbespruch, den meine lokale KI für eine Spielregel hielt. Den bin ich diesmal losgeworden. Nur … am Ende hatte ich vielleicht andere Probleme mit meinem lokalen RAG.
Beim Abspielen verbindet sich Ihr Browser mit YouTube. Google erhält dabei Ihre IP-Adresse und kann Informationen (z. B. Cookies) auf Ihrem Gerät speichern. Wenn Sie die Seite neu laden, wird die Einbindung wieder entfernt. Bereits übermittelte Daten und gesetzte Cookies bleiben davon unberührt.
Weitere Beiträge
-
Wo die Dark Factory das Licht anlässt
Die vollautomatische Fabrik, in der niemand mehr das Licht anlassen muss, ist ein schönes Bild. Nur brennt an ein paar Stellen das Licht hartnäckig weiter. Über die Frage, wo genau – und warum das kein Bug, sondern eigentlich eine gute Nachricht ist.
-
When everyone is named Jane Doe
Zwei Screenshots übereinanderlegen und die Differenz messen … die naheliegendste Antwort auf die Frage nach Design-Treue. Und eine der wenigen, die noch weniger taugt als gar keine Prüfung. In diesem Sinne: Willkommen zurück, Jane Doe.
-
Die Risiko-Staffel gegen den Kontrollverlust beim Agenten
„Ist das gut genug geprüft?“ fühlt sich nach einer vernünftigen Frage an und ist es nicht. Perfektion war nie das Ziel … „mehr Prüfung ist besser“ aber auch nicht. Wie du Absicherung nach Risiko staffelst, warum eine halbe Hülle keine halbe Sicherheit gibt, und an welchen drei Stellen jede Kosten-Nutzen-Rechnung versagt.
-
Deine Landkarte durchs KI-Vokabular
Scaffold, Harness, MCP, Deep Agent … die 13 wichtigsten Begriffe rund ums KI-Vokabular, einmal sauber sortiert: vom simplen Prompt bis zum abgesicherten Agenten. Ganz ohne Informatikstudium.
-
Blast Radius – was dein Agent anrichtet, wenn er nicht mehr dir gehört
Der Agent will seinen eigenen Pull Request genehmigen und scheitert an der Branch Protection. Zum Glück, denn genau da fängt die eigentliche Frage an: Was darf dieser Akteur eigentlich anrichten, wenn er nicht mehr dir gehört? Über Prompt Injection, die Lethal Trifecta und warum Eindämmung wichtiger ist als Vertrauen.
-
Merge Queue für KI-Agenten
Von einem KI-Agenten, der eine halbfertige Spezifikation durchwinken wollte. Sein eigenes System hat’s abgelehnt. Dreimal. Ein Blick ins Tagebuch einer Maschine, die lernt, sich selbst nicht zu trauen … und die Antwort auf die Frage, warum das gut so ist.

