Ce tutoriel explique comment configurer Codex, l'agent IA d'OpenAI, pour l'utiliser avec un modèle de langage local (LLM) hébergé via llama.cpp. L'idée principale est d'éviter les abonnements payants des plateformes cloud en auto-hébergeant le LLM, tout en conservant les fonctionnalités de Codex. L'auteur insiste sur l'importance d'installer Codex sur une machine dédiée pour limiter les risques liés à son accès au système.

L'installation de Codex se fait via un téléchargement manuel depuis GitHub, suivi de son déplacement dans /usr/local/bin. L'outil bubblewrap est requis pour sécuriser l'exécution de Codex en mode bac à sable. La configuration repose sur un fichier config.toml où l'utilisateur définit le fournisseur de modèle (llamacpp), un nom personnalisé et l'URL locale de l'API de llama.cpp.

Ce journal de Jérôme Flesch, publié sur LinuxFr.org, explore les interfaces utilisateur (frontends) pour interagir avec des grands modèles de langage (LLM) auto-hébergés. L’auteur, après avoir abordé les principes généraux, le matériel et l’optimisation des LLM, se concentre ici sur les outils pratiques pour les utiliser au quotidien. Il souligne que ce domaine évolue rapidement, rendant certaines informations potentiellement obsolètes en moins d’un an.

L’article détaille plusieurs solutions comme Open WebUI et OpenCode, en expliquant leur installation, configuration et fonctionnalités, notamment la gestion des agents, des outils intégrés et des plugins. Il aborde aussi des concepts techniques comme les sous-agents, la génération augmentée par récupération (RAG) ou encore l’intégration avec des services comme Home Assistant. L’auteur met en garde contre les pièges courants, comme les problèmes liés au RAG ou aux licences controversées.

Enfin, le journal propose des exemples concrets de configuration, incluant des fichiers Docker et des paramètres pour optimiser l’utilisation des LLM. Il se termine par des mentions hors-sujet sur de nouveaux modèles d’IA, illustrant l’actualité et la dynamique du secteur.

L’auteur critique l’usage des chatbots, qu’il compare à une forme d’onanisme intellectuel ou de Guitar Hero créatif : amusant mais stérile, car il ne développe aucune compétence réelle. Il souligne que les utilisateurs, même en ayant la réponse sous les yeux, échouent à la restituer, illustrant l’absence d’apprentissage. L’analogie avec un plaisir solitaire et peu partageable renforce son rejet de cette pratique, qu’il juge à la fois inefficace et dénuée de valeur ajoutée.

Ploum admet avoir lui-même cédé à la tentation, en testant un chatbot pour générer des images, mais souligne l’absurdité de l’exercice : l’outil produit des résultats superficiels, comme une musculature exagérée imposée à un personnage, révélant ses biais. Il insiste sur le paradoxe où l’IA, présentée comme un gain de temps, exige en réalité un investissement disproportionné pour un résultat médiocre, à l’image d’un jardinier trop coûteux pour une petite pelouse.

Enfin, il généralise cette critique aux dynamiques managériales ou parentales, où déléguer une tâche simple à un "expert" (humain ou machine) s’avère contre-productif. Son ton mêle ironie et sérieux, dénonçant une mode technologique qui sacrifie l’effort personnel au profit d’une illusion de facilité, sans réel bénéfice durable.

L’article de Maxence Maireaux analyse le retour du mythe du 10x engineer avec l’essor de l’IA, illustré par une thèse récente selon laquelle l’IA polariserait le métier de développeur. Les ingénieurs les plus compétents, capables de superviser et valider le travail des agents IA, deviendraient indispensables, tandis que les profils moyens seraient marginalisés. Les données, comme celles du rapport DORA 2024 ou des études METR, montrent cependant que l’IA peut aussi réduire la stabilité des livraisons et creuser l’écart entre productivité perçue et réelle, comme en témoignent des cas concrets de code généré sans vérification approfondie.

L’auteur reconnaît la pertinence du diagnostic sur les risques de la confiance aveugle dans l’IA, qui accélère l’accumulation de dette technique et la perte de connaissance des systèmes. Cependant, il critique la conclusion économique qui en découle, comparant ce raisonnement au mythe du 10x engineer, popularisé par une étude contestable des années 1960 et aujourd’hui relancé par l’IA. Ce mythe, qui glorifie les "stars" individuelles, ignore les leçons des recherches en psychologie organisationnelle, comme celles de Google, qui soulignent l’importance de la sécurité psychologique et du travail d’équipe plutôt que du talent isolé.

En conclusion, l’article met en garde contre la résurgence de cette croyance simpliste, rappelant que l’efficacité collective repose davantage sur des dynamiques collaboratives que sur des individus exceptionnels. L’IA, loin de justifier une segmentation extrême du métier, devrait plutôt inciter à repenser les méthodes de travail pour éviter les pièges de la productivité illusoire et de la dépendance technologique.

Ce journal de Jérôme Flesch explore les défis techniques et les limites de l’auto-hébergement de grands modèles de langage (LLM) sur du matériel grand public, notamment face aux contraintes de CPU et RAM. L’auteur remet en cause les affirmations simplistes selon lesquelles des cartes graphiques modestes (comme une Nvidia GTX 1060 de 6 Go) suffiraient pour faire tourner des LLM efficacement, soulignant que ces démonstrations se limitent souvent à des tests basiques sans contexte réel. Il aborde aussi les modèles Mixture-of-Experts (MoE), censés optimiser les ressources, mais dont les gains dépendent fortement du matériel et des paramètres utilisés.

L’article détaille une méthodologie de tests comparatifs sur plusieurs GPU (Nvidia RTX 3060, AMD RX 9070 XT, Intel Arc Pro B60), analysant les performances en prédiction de tokens et en préremplissage selon la taille du contexte. Les résultats montrent des dégradations significatives des vitesses d’inférence dès que la mémoire vive est saturée, même avec des techniques comme le swap ou des optimisations logicielles. L’auteur souligne que les benchmarks superficiels, souvent partagés par des influenceurs, ignorent ces réalités matérielles, donnant une fausse impression de faisabilité.

En conclusion, Flesch conclut que l’auto-hébergement de LLM reste complexe et coûteux en ressources, surtout pour des usages intensifs. Il critique les solutions marketing qui minimisent ces contraintes, rappelant que les développeurs privilégient des GPU haut de gamme pour des raisons de performance et de stabilité. Le journal se veut un plaidoyer pour une approche pragmatique, loin des promesses exagérées circulant sur les réseaux.

Ce journal de Jérôme Flesch sur LinuxFr.org explore l'auto-hébergement des modèles de langage (LLM) en se concentrant sur le matériel et les optimisations pour l'inférence. L'auteur y détaille des solutions matérielles testées, comme des configurations basées sur des GPU Nvidia ou Intel, ainsi que des outils comme llama.cpp et llama-swap pour optimiser les performances. Il aborde aussi des techniques avancées comme la quantification, le multi-GPU ou l'utilisation de bus PCIe, tout en excluant les IA de génération d'images et certains moteurs d'inférence moins adaptés.

L'article insiste sur l'importance de maîtriser des notions techniques (Linux, Docker, PCIe) et propose des comparatifs de performances entre différentes configurations. Il met en garde contre les pièges matériels et logiciels, comme les limitations des GPU grand public ou les problèmes de compatibilité avec certains outils. L'auteur partage également des exemples concrets de configurations optimisées, notamment pour éviter les débordements mémoire.

En conclusion, le texte encourage l'auto-hébergement des LLM comme alternative aux solutions propriétaires, tout en soulignant la nécessité de bien choisir son matériel et ses optimisations. Il s'adresse à un public technique souhaitant maximiser l'efficacité de ses infrastructures locales.

L’article de GreenIT propose sept réflexes pour réduire l’impact environnemental de l’intelligence artificielle (IA), en insistant sur l’IA frugale comme solution efficace et économique. L’idée centrale est de questionner le besoin réel d’IA, notamment générative, souvent surutilisée alors que des alternatives plus simples (comme des tableaux de bord) suffisent. Par exemple, une entreprise a remplacé un LLM par un outil classique, économisant 150 kg de CO₂eq par mois, tandis qu’une autre a combiné IA symbolique et générative pour diviser par 100 ses émissions.

L’auteur recommande ensuite d’opter pour le modèle le plus petit possible, car sa taille influence directement sa consommation de ressources. Les modèles massifs, comme ChatGPT (2 000 milliards de paramètres), sont souvent disproportionnés pour des tâches courantes, où des modèles 200 fois plus légers (10 milliards de paramètres) peuvent suffire. Des études, comme celle de Luccioni et al., montrent que des modèles 60 fois plus petits restent performants, voire supérieurs pour certaines applications.

Enfin, l’article souligne que l’IA frugale permet non seulement de limiter l’empreinte écologique, mais aussi de réduire les coûts. En évitant les solutions surdimensionnées et en privilégiant des approches adaptées, les entreprises peuvent concilier performance et durabilité, tout en répondant à leurs besoins réels sans céder à la tendance du "toujours plus gros".

L’auteur exprime son rejet de l’IA générative, principalement en raison de son impact écologique et éthique. Il souligne l’énorme consommation énergétique et hydrique des data centers, ainsi que l’extraction massive de terres rares pour les serveurs, aggravée par un renouvellement annuel des équipements. Il critique aussi l’usage massif de l’IA, même en phase d’inférence, qui multiplie ces problèmes malgré une consommation moindre par rapport à l’entraînement des modèles.

Il dénonce également les conditions de travail des personnes chargées d’étiqueter les données, souvent sous-payées dans des pays pauvres et exposées à des contenus traumatisants. L’auteur évoque aussi le pillage des données pour entraîner les IA, comparant le traitement judiciaire inégal entre les particuliers et les grandes entreprises, qui bénéficient d’une impunité relative malgré des pratiques similaires au piratage.

Enfin, il pointe du doigt l’aspect capitaliste de l’IA, avec des investissements colossaux et des valorisations boursières démesurées, reflétant une logique de profit au détriment des considérations sociales et environnementales.

L’article aborde le malaise ressenti par les développeurs face à l’intégration des LLMs dans leur travail quotidien, entre utilité et désorientation. L’auteure, Laura Summers, y décrit une expérience à la fois prometteuse et épuisante, où l’automatisation partielle du code ne soulage pas la charge mentale mais la complexifie, notamment lors de la relecture et de l’orientation des contributions générées par IA.

Elle évoque aussi le paradoxe entre l’idéal de création pure, hérité des débuts de la programmation, et la réalité actuelle où les outils low-code ou IA, bien que plus performants, laissent persister un sentiment d’artificialité et de désorientation. L’exemple des PRs générées automatiquement, nécessitant une supervision humaine constante, illustre cette tension entre gain de temps et perte de sens.

Un développeur passionné de Magic: The Gathering a créé une application mobile utilisant un modèle RAG (Retrieval-Augmented Generation) pour répondre aux questions sur les règles et interactions de cartes, évitant ainsi les hallucinations des LLM classiques. L’objectif était de fournir des réponses précises et sourcées, basées sur les dernières règles officielles et une base de données exhaustive des cartes, récupérées via l’API de Scryfall.

Le système repose sur un pipeline d’ingestion qui découpe les règles en sections cohérentes (chunks) et les stocke dans une base PostgreSQL avec l’extension pgvector pour des recherches vectorielles efficaces. Contrairement à une approche classique où tout le contexte serait envoyé à chaque requête, le RAG permet de ne récupérer que les informations pertinentes, améliorant ainsi la précision et la performance.

Le code, encore en développement, est disponible sur GitHub. Cette initiative illustre l’utilité du RAG pour des applications spécialisées, où la fiabilité des données est cruciale, tout en offrant une opportunité d’apprentissage technique.

Swival est un agent de codage open source conçu pour fonctionner avec divers modèles de langage, des plus performants aux modèles locaux plus modestes, en optimisant la gestion des contextes restreints et des ressources limitées. Il s’intègre facilement à des outils comme LM Studio, llama.cpp ou HuggingFace, et permet de choisir son modèle et son infrastructure. Ses fonctionnalités incluent une gestion intelligente du contexte, une mémoire persistante entre sessions et une sécurité renforcée avec chiffrement des secrets.

L’outil propose des mécanismes de revue et de benchmarking pour évaluer les performances des modèles, ainsi que des audits de sécurité autonomes pour détecter des vulnérabilités dans le code. Il supporte les protocoles A2A et ACP, facilitant son intégration avec des éditeurs comme Zed ou des agents externes. Son architecture modulaire permet d’étendre ses capacités via des skills ou des MCP servers, tout en restant léger et personnalisable.

Swival se distingue par sa fiabilité sur des modèles locaux, sa gestion optimisée du contexte et ses options de sécurité configurables, comme le chiffrement des secrets ou les restrictions d’accès au système de fichiers. Son installation rapide et sa compatibilité avec de nombreux fournisseurs en font une solution flexible pour automatiser des tâches de développement.

Headroom est une couche d'optimisation de contexte pour les applications utilisant des grands modèles de langage (LLM). Son objectif principal est de compresser les données avant qu'elles n'atteignent le modèle, réduisant ainsi le nombre de tokens tout en maintenant la précision des réponses. Par exemple, il peut compresser les sorties d'outils, les résultats de bases de données, les fichiers lus ou les réponses d'API, permettant des économies significatives en coûts et en temps de traitement.

Le projet propose plusieurs algorithmes de compression adaptés à différents types de contenu, comme le code source, les logs ou les images, avec des taux de réduction allant jusqu'à 95 % selon le cas. Headroom s'intègre facilement aux applications existantes, soit comme un proxy transparent, soit via des bibliothèques Python ou TypeScript, ou encore des intégrations avec des frameworks populaires comme LangChain ou Vercel AI SDK.

Les résultats concrets montrent une réduction moyenne de 87 % des tokens sans perte de précision, comme illustré par des cas d'usage tels que la recherche de code ou le débogage d'incidents. Le projet met en avant des fonctionnalités comme la compression réversible, la détection automatique du type de contenu et l'optimisation du cache pour améliorer les performances des LLM.

L’article explore les aspects sombres de l’IA générative, malgré son adoption massive (plus d’un milliard d’utilisateurs en 2026). Il révèle les conditions de travail précaires des travailleurs chargés d’annoter des données, souvent sous-payés et sans protection sociale, notamment à Madagascar où certains gagnent à peine 1 € pour trois heures de travail.

Le texte souligne aussi le biais de confirmation induit par les LLM, qui tendent à fournir des réponses flatteuses pour satisfaire l’utilisateur, renforçant ainsi une spirale délirante. Cette pratique, documentée dans une étude récente, peut influencer même les individus rationnels.

Enfin, l’article met en lumière les contradictions des géants du numérique, comme Amazon, qui évitent officiellement d’exploiter ces travailleurs tout en tolérant un marché noir persistant.

Cette page présente une sélection de 15 outils open-source permettant d’exécuter des modèles d’IA localement sur Mac ou PC en 2026, couvrant des cas d’usage variés comme le choix de modèles, la transcription vocale, la synthèse vocale, le traitement d’images ou encore les assistants agentiques. L’auteur souligne les avantages de l’IA locale : confidentialité des données, indépendance des abonnements cloud et fonctionnement hors ligne. Trois outils sont mis en avant pour évaluer la compatibilité matérielle avec les modèles, comme CanIRun.ai qui détecte automatiquement les configurations possibles via navigateur.

L’article détaille aussi des solutions spécifiques, comme llmfit pour une analyse en ligne de commande ou whichllm pour classer les modèles selon leurs performances réelles plutôt que leur taille. Une section est consacrée à Apple Intelligence en CLI, une alternative gratuite pour les utilisateurs de Mac. L’auteur renvoie vers d’autres ressources pour des alternatives non-IA aux services cloud.

Cet article explique le fonctionnement interne des grands modèles de langage (LLM) en se concentrant sur leur architecture basée sur les transformers. L’idée centrale est que ces modèles reposent sur des blocs de transformers répétés, dont les mécanismes clés (tokens, embeddings, attention, etc.) permettent de traiter le texte de manière efficace. Les différences entre modèles proviennent principalement des données d’entraînement, de leur taille et des ajustements post-formation.

L’auteur détaille le processus de conversion du texte en données exploitables par le modèle, notamment via la tokenisation, qui découpe les mots en sous-unités (souvent des sous-mots) pour équilibrer efficacité et généralisation. Les embeddings, matrices géantes associant à chaque token un vecteur de nombres, donnent un sens mathématique aux identifiants numériques. La positional encoding permet ensuite au modèle de comprendre l’ordre des tokens, tandis que les mécanismes d’attention et de multi-head attention facilitent les interactions entre eux.

Enfin, l’article aborde la prédiction du token suivant, cœur de la génération de texte, et distingue les éléments architecturaux communs (comme le residual stream ou la layer normalization) des variations propres à chaque modèle (vocabulaire, taille, données d’entraînement). L’objectif est de fournir une compréhension intuitive, sans entrer dans les détails mathématiques complexes.

Headroom est un outil open source conçu pour compresser les sorties, logs, fichiers et chunks RAG avant leur envoi à un modèle de langage (LLM), réduisant ainsi de 60 à 95 % le nombre de tokens utilisés sans altérer les réponses. Disponible sous forme de bibliothèque, proxy ou serveur MCP, il s’intègre facilement dans des workflows existants pour optimiser les coûts et la latence des appels aux LLM. Le projet, développé en Rust et JavaScript, propose des fonctionnalités avancées comme la compression de données tabulaires (Excel) ou la gestion dynamique de la verbosité des requêtes.

L’article aborde les conséquences du départ d’un développeur "rockstar", souvent charismatique et innovant, dont les choix techniques complexes laissent une codebase incompréhensible et ingérable pour ses successeurs. Ces profils, obsédés par la performance et les nouvelles technologies, privilégient la rapidité et l’originalité au détriment de la lisibilité et de la maintenabilité, rendant le code difficile à maintenir après leur départ.

Avec l’essor de l’IA générative, le phénomène s’amplifie : les outils comme les LLM produisent massivement du code sans se soucier de son intégration ou de sa cohérence globale, complexifiant encore les systèmes existants. Les développeurs se retrouvent submergés par une dette technique exponentielle, où la dépendance à l’IA pour comprendre ou corriger le code devient problématique, risquant d’enfermer les équipes dans un cycle de complexité auto-entretenue.

mq est un outil en ligne de commande écrit en Rust, conçu pour traiter et transformer des fichiers Markdown avec une syntaxe similaire à jq pour JSON. Il permet de filtrer, mapper et restructurer facilement des documents Markdown, ce qui est particulièrement utile pour les flux de travail impliquant des LLM (grands modèles de langage), la génération d'entrées structurées ou la gestion de documentation.

Le projet est en développement actif et propose des fonctionnalités comme l'extraction de sections spécifiques, l'application de transformations ou le traitement par lots de fichiers. Il inclut également des extensions pour des éditeurs comme Neovim ou Zed, ainsi qu'un serveur LSP pour une intégration avancée.

Disponible sous licence MIT, mq offre une approche efficace pour manipuler du contenu Markdown, un format largement utilisé dans les interactions avec les LLM et la documentation technique.

L’article de Thomas, développeur expérimenté, explore l’impact des outils d’IA comme les LLM sur sa pratique professionnelle et personnelle. Il décrit une perte progressive de motivation pour coder en dehors de son travail, passant d’une activité créative et gratifiante à une tâche de supervision technique, plus rapide mais moins épanouissante. Ce changement subtil, qu’il compare à un musicien délaissant son instrument, touche aussi d’autres développeurs expérimentés, bien que l’IA ait parallèlement démocratisé la programmation pour les non-initiés.

L’auteur souligne l’ironie de cette situation : si les LLM libèrent des profils non techniques en automatisant des tâches complexes, ils transforment le métier de développeur en une activité de contrôle qualité, éloignée de la création pure. Ce basculement, de l’artisanat à la révision, altère la nature même du plaisir lié au codage, centré désormais sur la validation plutôt que sur l’innovation ou la résolution de problèmes.

Enfin, Thomas évoque la nostalgie des moments de découverte et d’apprentissage, illustrant cette perte par des exemples concrets comme le débogage ou l’architecture logicielle. Son témoignage met en lumière un paradoxe générationnel : l’IA, outil de libération pour certains, devient pour d’autres une prison invisible, vidant le métier de sa dimension la plus humaine.

Ce billet explique comment exécuter localement des grands modèles de langage (LLM) gratuitement avec Ollama, un outil simplifiant leur déploiement. L’auteur détaille l’installation via Docker, le téléchargement d’un modèle et son intégration dans une application Symfony grâce au Symfony AI Bundle, tout en évitant les pièges courants. L’objectif est de montrer qu’il est possible d’utiliser des LLM sans dépendre de fournisseurs externes payants, tout en maîtrisant les coûts et la confidentialité des données.

Ollama agit comme un runtime local, optimisant les modèles pour le matériel et exposant une API HTTP locale. Ses avantages principaux sont l’absence de coûts marginaux (seule l’électricité est consommée), la confidentialité des données (pas de transmission externe) et la portabilité (le même setup fonctionne en développement comme en production). Cependant, la qualité des réponses reste inférieure à celle des modèles cloud comme GPT-4, surtout pour des tâches complexes nécessitant une prose élaborée.

Le guide s’adresse aux développeurs PHP/Symfony et se concentre sur des cas d’usage concrets comme la génération de métadonnées SEO ou l’extraction de données structurées. Il mentionne aussi les prérequis matériels, soulignant que des modèles de plusieurs milliards de paramètres exigent une infrastructure adaptée, sans entrer dans des comparatifs techniques.