#RAG

Mon modèle IA local : 8 Go de VRAM, 9 milliards de paramètres, zéro complexe

Jusqu’où peut-on aller avec un modèle IA local de 9 milliards de paramètres et seulement 8 Go de VRAM ? Tests, reasoning, RAG, Home Assistant, quantification et quelques surprises.