Zum Inhalt springen
Global sound
Intervista Pythonista

Intervista Pythonista

Servire AI: inferenza, router semantici e SLM. #82

· 39 Min. · Folge 82

Shownotes

Eugenio Petullà, Chief AI Alchemist di Regolo.ai (provider di inferenza EU-based del gruppo Seeweb/DHH), racconta cosa significa davvero servire modelli su larga scala — dall'architettura di inferenza (K8S, vLLM, proxy, gestione utenti) alle sfide di sovranità tecnologica europea. Si parla anche di Small Language Models, router semantici e paper di ricerca su valutazione empirica e capacità dei modelli.
Riferimenti:

• CLEVER (Clinical LLM Evaluation Expert Review): https://pubmed.ncbi.nlm.nih.gov/41343765/
• BRICK (spatial capability routing): https://arxiv.org/abs/2606.13241

Website: podcasters.spotify.com

Live, letzte Stunde: 9.922 Songs auf 4.069 Sendern in 137 Ländern

Entdecke die Welt über das Radio

Mehr zum Entdecken (9)

Etwas Schönes gehört? Speicher es oder öffne es direkt in Spotify.

★ Artist of the week The fastest riser on the radio this week
Your song here? From € 9 per week →
Radio 538 luisteren - Live!Gerade beliebt