Aller au contenu
Global sound
Mind the Machine

Mind the Machine

What are AI models made of? Can they contain malware?

· 43 min · Saison 1 Épisode 9

Notes d’épisode

Today I’ll talk about a technical topic related to the composition of LLMs. Are LLMs only data (weights) or do they contain code? If they contain code, can this code contain malware? And one additional question, if they have code, can they have vulnerabilities like heap overflows? In this episode I analyze what we exactly download when we download a model with Ollama or with the Hugging Face API.

References

• https://ollama.com/
• https://huggingface.co
• https://docs.vllm.ai/en/latest/
• https://github.com/kserve/kserve
• https://huggingface.co/docs/transformers/en/index
•…

Site web: podcasters.spotify.com

En direct, dernière heure : 4 948 titres sur 1 885 stations dans 105 pays

Découvrez le monde par la radio

Plus de façons de découvrir (7)

Vous avez entendu quelque chose de bien ? Enregistrez-le, ou ouvrez-le directement dans Spotify.

★ Artiste de la semaine La plus forte progression à la radio cette semaine
Ton titre ici ? À partir de € 9 par semaine →
Powercast 97.9 Internet RadioContinuer l’écoute