26120 shaares
L’article détaille les essais de l’auteur, les outils testés (Ollama, Jan avec Vulkan/llama.cpp), et les astuces pour configurer un backend compatible afin d’obtenir de bonnes performances sans dépendre de serveurs distants.
L’article détaille les essais de l’auteur, les outils testés (Ollama, Jan avec Vulkan/llama.cpp), et les astuces pour configurer un backend compatible afin d’obtenir de bonnes performances sans dépendre de serveurs distants.