Vai al contenuto
Global sound
Prompt und Antwort

Prompt und Antwort

201 - Strata

· 9 min · Stagione 1 Episodio 201

Note dell’episodio

Eine Inferenz-Engine, die genau ein Modell ausführen kann: Strata bringt Qwen 3.8 Flash Next mit 125 Milliarden Parametern auf einen normalen Spiele-PC mit einer Grafikkarte ab 12 Gigabyte. Wir spielen das an einem Entwickler durch, der seinen Coding-Agenten auf einer RTX 4090 lokal laufen lassen will, statt seinen Code in die Cloud zu schicken. Und wir fragen, ob der Trend weg vom Allzweck-Server wie Ollama hin zur maßgeschneiderten Engine trägt.

• Wie Strata das Modell auf drei Ebenen verteilt: die meistgenutzten Experten im Grafikspeicher, alle im Arbeitsspeicher, die Nachschlagetabelle…

Sito web: podcasters.spotify.com

In diretta, ultima ora: 10.550 brani su 4.605 stazioni in 130 paesi

Scopri il mondo attraverso la radio

Altri modi per scoprire (9)

Hai sentito qualcosa di bello? Salvalo, o aprilo subito in Spotify.

★ Artist of the week The fastest riser on the radio this week
Your song here? From € 9 per week →
Radio OIOMContinua ad ascoltare