Przejdź do treści
Global sound
What's AI Podcast by Louis-François Bouchard

What's AI Podcast by Louis-François Bouchard

Use Long Context or RAG?

· 7 min · Sezon 2 Odcinek 2

Notatki do odcinka

In this one, I discuss the dilemma between using retrieval-based generation and the newer "long context models".

Long context models, like the Gemini suite of models, allow us to send up to millions of tokens (thousands of text pages), whereas retrieval (RAG)-based systems allow us to search through as much (if not more) content and retrieve only the necessary bits to send the LLM for improved answers.

Both have advantages and disadvantages. This short episode will help you better understand when to use each.

Build Your First Scalable Product with LLMs…

Strona: podcasters.spotify.com

Na żywo, ostatnia godzina: 8 134 utworów na 3 049 stacjach w 123 krajach

Odkrywaj świat przez radio

Więcej sposobów na odkrywanie (7)

Usłyszałeś coś fajnego? Zapisz to albo otwórz od razu w Spotify.

★ Artysta tygodnia Najszybciej rosnący w radiu w tym tygodniu
Twój utwór tutaj? Od € 9 tygodniowo →
RADIO CLUB CALIFORNIASłuchaj dalej