Notas del episodio
🔧 Adapter un LLM à TES données pour 10€ au lieu de 100 000€. Et pourquoi 9 fois sur 10, RAG suffit.
Dans cette vidéo, on décortique :
— Pourquoi RAG est presque toujours le bon premier réflexe (et quand non)
— Comment fonctionne LoRA — geler le modèle, ajouter 2 petites matrices, entraîner 0,2 % des paramètres
— Pourquoi QLoRA permet de fine-tuner Llama 70B sur un GPU consumer à 1500€
— Quand le full fine-tuning reste pertinent (spoiler : rarement)
— Une matrice de décision claire : RAG / QLoRA / LoRA / Full FT selon ton cas
📚 Sources
— LoRA: Low-Rank Adaptation of Large Language…
Web: podcast.ausha.co

