AI
Wir glauben daran, dass AI einen deutlich höheren Kundennutzen erlaubt, wenn man sie richtig einsetzt!
Hier findest du:
Aktuellste Beiträge
-

Round two: Hosting GLM 5.2 via expert streaming
GLM 5.2 is a 744-billion-parameter MoE model – way too big for any GPU I own. Expert streaming let me run it anyway, at around 1.2 tokens per second, entirely from a single mini PC.
-

Hosting a 284B model on 90GB of VRAM
I own an AMD Strix Halo box with 128GB of unified memory, and I wanted to know how big a model I could actually host on it. Turns out: pretty big, if you stop trying to fit everything into VRAM.
-

Wie ich meiner KI das Ratespiel abgewöhnte
„Gleicher Mist, doppelter Preis.“ Wir erinnern uns, das war der Werbespruch, den meine lokale KI für eine Spielregel hielt. Den bin ich diesmal losgeworden. Nur … am Ende hatte ich vielleicht andere Probleme mit meinem lokalen RAG.
Beim Abspielen verbindet sich Ihr Browser mit YouTube. Google erhält dabei Ihre IP-Adresse und kann Informationen (z. B. Cookies) auf Ihrem Gerät speichern. Wenn Sie die Seite neu laden, wird die Einbindung wieder entfernt. Bereits übermittelte Daten und gesetzte Cookies bleiben davon unberührt.
Weitere Beiträge
-
5 unverzichtbare Tools für die Datenverarbeitung mit AI
Unstrukturierte Daten, wo man auch hinschaut. Da kann man schon eine AI drauf werfen, doch mal sollte vorbereitet sein. Ich stelle vor: 5 unverzichtbare Tools für dieses Unterfangen.
-
Real-Time Hyperpersonalization with LLMs and Zero-Shot Learning
The combination of LLMs and Zero-shot Learning seems to be the key to predicting explicit and implicit customers‘ needs. Let’s have a closer look.
-
Fine-tuning German LLMs with Model Merging and DPO for Improving Customer Support
Let’s cover Model Merging and Direct Preference Optimization (DPO) as state-of-the-art approaches that could be combined to best level up LLM’s language performance.
-
Agenten- vs. Intent-basierte Systeme
Was ist eigentlich der Unterschied zwischen Agenten- und Intent-basierten Systemen? Wir erklären euch nicht nur das, sondern zeigen auch, was möglich ist.
-
AI – Standardsoftware, Assistenten oder eigene Lösungen?
AI soll eingeführt werden – doch was ist die richtige Strategie? Wir wissen es auch nicht, erklären aber die verschiedene AI-Lösungen.

