Aller au contenu
Global sound
ExplAInable

ExplAInable

[153] למידה אדוורסריאלית

· 36 min · Saison 2 Épisode 153

Notes d’épisode

מה הקשר בין הרעלת training data להורדת הסבירות ל- end of text token?
בפרק 153 של אקספליינבל, אורי ומייק מארחים את ד״ר רז לפיד ואילון מזרחי לשיחה על למידה אדוורסריאלית. לא זו מארכיטקטורת GAN, אלא כזו שגורמת למודלי LLM לצטט את החוקה האמריקאית ולבזבז יותר מדי טוקנים. בפרק למדנו על תקיפות שמתחילות בwhitebox עם מודל opensource ונודדות למודלים סגורים, תקיפות פיזיות על מערכות סגורות שאומנו לזיהוי בני אדם, ואיך אפשר להתמודד עם מתקפה שמורידה את הסבירות שמודל שפה יוצא end of text token. אז האם אייג׳נטים שמשתמשים במודל סגור יותר בטוחים מכאלו שמשתמשים במשקולות מhugging face? איך תוקפים מרעילים תוצאות…

Site web: podcasters.spotify.com

En direct, dernière heure : 14 343 titres sur 6 084 stations dans 144 pays

Découvrez le monde par la radio

Plus de façons de découvrir (9)

Vous avez entendu quelque chose de bien ? Enregistrez-le, ou ouvrez-le directement dans Spotify.

D-TWOContinuer l’écoute