Přejít k obsahu
Global sound
SemiAnalysis Weekly

SemiAnalysis Weekly

Ep. 034 - Engrams: How DeepSeek Offloads KV Cache to DRAM and SSD (Core Research) | Jordan Nanos, Cam Quilici, Alec Ibarra, Bryan Shan

· 1 h 3 min · Řada 1 Epizoda 34

Poznámky k epizodě

The InferenceX team is back after two months. Jordan Nanos (@JordanNanos) is joined by Cam Quilici (@noslawextratost), Bryan Shan, and Alec Ibarra to discuss Engram and DRAM offloading, the AgentX benchmark and its profit calculator, TPU v7 on InferenceX, Vera Rubin vs Blackwell, fast tokens, and TileRT on NVIDIA GPUs.

0:00 Intro
0:31 Engrams
12:27 AgentX Benchmark
16:36 Profit Calculator
23:40 TPU v7
32:03 Vera Rubin
40:49 Fast Tokens
49:33 TileRT
54:00 Chip Startups
1:01:31 Wrap Up

Web: podcasters.spotify.com

Živě, poslední hodina: 12 860 skladeb na 6 501 stanicích v 138 zemích

Objevte svět prostřednictvím rádia

Další způsoby objevování (9)

Slyšeli jste něco pěkného? Uložte si to, nebo to otevřete rovnou ve Spotify.

★ Artist of the week The fastest riser on the radio this week
Your song here? From € 9 per week →
AngelsRadioPokračovat v poslechu