27595 shaares
Panorama des solutions pour exécuter des modèles de langage en local sous macOS, Linux et Windows. Le guide compare les applications graphiques (LM Studio, Jan, GPT4All), les moteurs et gestionnaires (Ollama, llama.cpp), les interfaces web, les bibliothèques de développement et les serveurs d’inférence. Il explique comment choisir selon les usages, le matériel disponible et les besoins d’intégration, en abordant la mémoire RAM/VRAM, la quantification, les formats de modèles et les possibilités d’exécution sur CPU, GPU, navigateur ou machine distante auto-hébergée.