LLMFit est un outil open source en ligne de commande, écrit en Rust, qui aide à choisir un modèle de langage (LLM) adapté à son matériel pour une utilisation locale. Il analyse automatiquement la configuration de l'ordinateur (RAM, CPU, GPU/VRAM, compatibilité CUDA/Metal/ROCm) et recommande des modèles compatibles parmi plus de 157 options issues de 30 fournisseurs, en tenant compte de critères comme la qualité, la vitesse d'inférence, la mémoire requise et la longueur de contexte. L'outil propose aussi des filtres par usage (chat, coding, raisonnement, etc.) et s'intègre avec des solutions comme Ollama, llama.cpp ou LM Studio.
L'auteur partage son expérience avec LLMFit sur un MacBook Pro M2, illustrant comment l'outil simplifie le choix des modèles en évitant les essais infructueux. Il souligne les fonctionnalités avancées comme la sélection automatique de la quantization optimale, la gestion des architectures MoE et des configurations multi-GPU, ainsi que la possibilité de planifier l'achat de matériel en fonction des besoins d'un modèle spécifique. L'interface, disponible en mode TUI interactif ou en ligne de commande, facilite l'automatisation et l'intégration dans des workflows existants.
Enfin, LLMFit propose un mode "plan" pour inverser le processus : en entrant un modèle précis, il indique la configuration matérielle idéale, la quantization recommandée et une estimation des performances selon le backend utilisé. Cet outil répond ainsi à un besoin croissant avec l'essor des assistants de codage locaux, comme GitHub Copilot en mode offline, en permettant une utilisation efficace des ressources disponibles.
Dans cette chronique humoristique, Gee s'excuse auprès de Flatpak, un outil de gestion de paquets pour GNU/Linux, qu'il avait critiqué par le passé. Il explique de manière accessible le fonctionnement des bibliothèques logicielles et des gestionnaires de paquets, ainsi que les défis liés à la mutualisation des dépendances. Il souligne les avantages de Flatpak pour résoudre certains problèmes de compatibilité et faciliter l'installation de logiciels non inclus dans les dépôts officiels.
Tout est dans le titre
Tout est dans le titre
Un petit guide sur l'intérêt de shellcheck
Tout est dans le titre
Je cite : "Le but du projet h-node est de créer une base de données de matériel afin d'identifier les dispositifs qui fonctionne avec un système d’exploitation entièrement libre."
Un état des lieux des différents systèmes de fichiers et de leur compatibilité avec Linux, Windows et MacOS
Le NVMe est un protocole permettant d'optimiser au maximum les performances des disques SSD. L'auteur fait le point sur les "à côté" du sujet (notamment la compatibilité linux)
Tout est dans le titre
Tout est dans le titre
Un outil pour tester la compatibilité de scripts par rapport à la version de PHP
Un tableur présentant l'avancement de la compatibilité avec Symfony3 pour plusieurs bundles
Des constructeurs proposant du matériel compatible linux sans prise de tête
Tout est dans le titre
À garder sous le coude
L'équivalent de "Can I use" pour le mobile (via http://www.inpixelitrust.fr/blog/la-semaine-en-pixels-24-juillet-2015/ )