Blog » AI » Seite 11

AI

Wir glauben daran, dass AI einen deutlich höheren Kundennutzen erlaubt, wenn man sie richtig einsetzt!

Aktuellste Beiträge


  • Round two: Hosting GLM 5.2 via expert streaming

    Round two: Hosting GLM 5.2 via expert streaming

    GLM 5.2 is a 744-billion-parameter MoE model – way too big for any GPU I own. Expert streaming let me run it anyway, at around 1.2 tokens per second, entirely from a single mini PC.

  • Hosting a 284B model on 90GB of VRAM

    Hosting a 284B model on 90GB of VRAM

    I own an AMD Strix Halo box with 128GB of unified memory, and I wanted to know how big a model I could actually host on it. Turns out: pretty big, if you stop trying to fit everything into VRAM.

  • Wie ich meiner KI das Ratespiel abgewöhnte

    Wie ich meiner KI das Ratespiel abgewöhnte

    „Gleicher Mist, doppelter Preis.“ Wir erinnern uns, das war der Werbespruch, den meine lokale KI für eine Spielregel hielt. Den bin ich diesmal losgeworden. Nur … am Ende hatte ich vielleicht andere Probleme mit meinem lokalen RAG.

Weitere Beiträge


Gefällt dir, wie wir über KI denken?

Diese drei Produkte sind genau aus diesem Denken heraus entstanden. Jedes davon aus einem direkten Kunden-Need heraus, nicht aus einer Pitch-Deck-Session. Wenn eines davon zu deiner aktuellen Baustelle passt: Ein Gespräch. Kostenlos. Kein Commitment.

Web
mayflower.de

E-Mail
kontakt@mayflower.de

Berlin
Krausenstraße 9-10
10117 Berlin

fon +49 30 4036473 20
berlin @mayflower.de

Würzburg
Landsteinerstraße 4
97074 Würzburg

fon +49 931 466216 1177
fax (0931) 466216 – 28

München
Landsberger Straße 314
80687 München

fon +49 89 242054 1177
fax (089) 242054 – 29