Ugrás a tartalomra
Global sound
Mechanical Dreams

Mechanical Dreams

Qwen3.8-Next

· 22 perc

Epizódjegyzetek

In this episode:
• Welcome and the 1/9th FLOP Miracle: Linda introduces Qwen3.8-Next and its massive efficiency gains, hooking Dr. Norris.
• Token Mixing with GDN and Sparse Attention: Discussing the Gated DeltaNet hybrid architecture and how Qwen Sparse Attention scales to long contexts.
• The Gated Residual (GR): Norris is skeptical about widening the residual stream, but Linda explains the gating mechanism and how it boosts stability.
• N-gram Embeddings & The Muon Optimizer: Exploring off-accelerator capacity scaling and why Muon needs special engineering like the Canzona framework.
•…

Weboldal: mechanicaldreams.mechanicaldirk.com

Élőben, az elmúlt órában: 7 822 dal, 2 879 állomás, 121 ország

Fedezd fel a világot a rádión keresztül

További felfedezési lehetőségek (9)

Hallottál valami jót? Mentsd el, vagy nyisd meg rögtön a Spotifyban.

★ Artist of the week The fastest riser on the radio this week
Your song here? From € 9 per week →
Chillwave.FMHallgatás folytatása