Catatan episode
„Wir haben viel in Stil, Grammatik und deutsches Denken gesteckt. Dinge, die in keinem Benchmark auftauchen.“ So beschreibt das Team von Aleph Alpha sein neues Modell Kolibri, seit dem 3. Oktober mit offenen Gewichten frei verfügbar und bewusst nur für Deutsch und Englisch gebaut. Wir haben es auf einem DGX Spark laufen lassen und eine Frage gestellt: Schreibt ein Modell, das für Deutsch gebaut ist, auch besseres Deutsch, mit weniger KI-Slop?
• Mixture of Experts: 78 Milliarden Parameter, pro Token rechnen nur 3,5 Milliarden. Warum Kolibri deshalb schnell ist und den Spark trotzdem fast…
Situs: podcasters.spotify.com

