Blog »
AI
Wir glauben daran, dass AI einen deutlich höheren Kundennutzen erlaubt, wenn man sie richtig einsetzt!
Hier findest du:
Aktuellste Beiträge
-

Round two: Hosting GLM 5.2 via expert streaming
GLM 5.2 is a 744-billion-parameter MoE model – way too big for any GPU I own. Expert streaming let me run it anyway, at around 1.2 tokens per second, entirely from a single mini PC.
-

Hosting a 284B model on 90GB of VRAM
I own an AMD Strix Halo box with 128GB of unified memory, and I wanted to know how big a model I could actually host on it. Turns out: pretty big, if you stop trying to fit everything into VRAM.
-

Wie ich meiner KI das Ratespiel abgewöhnte
„Gleicher Mist, doppelter Preis.“ Wir erinnern uns, das war der Werbespruch, den meine lokale KI für eine Spielregel hielt. Den bin ich diesmal losgeworden. Nur … am Ende hatte ich vielleicht andere Probleme mit meinem lokalen RAG.
Beim Abspielen verbindet sich Ihr Browser mit YouTube. Google erhält dabei Ihre IP-Adresse und kann Informationen (z. B. Cookies) auf Ihrem Gerät speichern. Wenn Sie die Seite neu laden, wird die Einbindung wieder entfernt. Bereits übermittelte Daten und gesetzte Cookies bleiben davon unberührt.
Weitere Beiträge
-
Die Suche, die ich befohlen habe, ohne es zu merken
Ein rsync, der nicht vorankommt, führt zu einer falschen Diagnose, einer richtigen Handlung aus dem falschen Grund und schließlich zu sieben Vollscans quer über die Platte, die meine eigenen Subagenten in der Nacht gestartet hatten. Vier von achtundzwanzig Aufträgen nannten einen Ort.
-
Was passiert, wenn die lokale KI das Regelheft ersetzt
Gleicher Mist, doppelter Preis. Oder: Wie ich das Nachschlagen eines Regelwerks einer KI auf der eigenen Gaming-Grafikkarte überlassen wollte. Das Setup war nach einem Befehl erledigt … aber die Antworten waren dann das Problem.
-
Autonom ja, verlässlich nein: Was KI-Agenten heute leisten
Die stärksten KI-Agenten lösen Aufgaben, für die ein Profi zwölf Stunden braucht; aber nur in jedem zweiten Fall … Wer vier von fünf Ergebnissen richtig braucht, kann ihnen Aufgaben von gut einer Stunde übergeben. Was daraus für deine Agentenprojekte folgt und welches Bauteil die Differenz trägt.
-
KI als persönlicher DevEx Engineer
Fehlt mir ein Werkzeug, gebe ich dessen Bau als Nebenaufgabe an einen Agenten. Was dabei entsteht und welche Entscheidungen bei mir bleiben.
-
If you can dream it, you can Claude it
Kalender-Mitteilung weggeklickt, Meeting verpasst. Kommt in den besten Familien vor, wie es so schön heißt. Mir passiert so etwas öfter … Also habe ich mit Claude Code eine kleine macOS-App gebaut, die zwei Minuten vorher so lange klingelt, bis ich beitrete. Und das ganz ohne Backend und Swift-Kenntnisse.
-
Die Schizophrenie des KI-Entwickelns
Ich setze ein Werkzeug ein, weil ich ihm zutraue, Code zu schreiben, und baue mit demselben Werkzeug einen Apparat, der davon ausgeht, dass es das nicht kann. Was dieser Apparat kostet, hat bisher niemand ausgerechnet. Ein gemessener Befund über Prüfschichten, die installiert sind und trotzdem nichts tun.

