Mon IA à la maison : comment installer un LLM sur mon Mac

Si l’intelligence artificielle entraîne une course aux data centers avec de fâcheuses conséquences, cette technologie peut aussi s’utiliser différemment : cela fait maintenant plus d'un an que je fais tourner des modèles d’IA en local, sur mon Mac. Dès le début, j'ai ressenti une vraie excitation de dialoguer avec quelque chose qui « vit » dans ma propre machine.

Il y a plusieurs raisons qui peuvent pousser à chercher une alternative locale à ChatGPT, Gemini et consorts. Ces services clés en main ont des atouts incontestables, mais sans abonnement payant on se retrouve de plus en plus freiné dans son usage, sans même parler de la pub qui arrive bientôt. Et puis ces chatbots se nourrissent de nos données personnelles, qui ne le sont plus tout à fait une fois envoyées sur leurs serveurs. En parlant de serveurs, ceux-ci ont un impact écologique considérable en pompant allègrement les sources d’énergie. « Drill, baby, drill », comme dirait l’autre.

Mon IA, elle, tourne sur mon Mac Studio, consomme 9 W et garde mes secrets. Au fil du temps, j’ai élargi ses capacités, je l’ai ouverte à toute la famille et nous y accédons même maintenant depuis mon iPhone. Quand je vous disais que c'était grisant ! C'est toute cette expérience que je souhaite partager dans cette série dédiée à l'intelligence artificielle en local.

Je vais vous expliquer comment installer un grand modèle de langage (LLM) sur votre Mac et vous aurez votre premier échange avec votre petit robot personnel avant la fin de cet article ! Nous l'aiderons ensuite à déployer ses fonctions et nous en comprendrons la logique. Puis OpenClaw prendra le relais, et vous verrez que vous ne pourrez plus revenir en arrière.

Le monde alternatif des modèles ouverts

Mais avant de parler installation, un mot sur les modèles eux-mêmes. Quand on pense intelligence artificielle, l'image qui vient est souvent celle de ChatGPT, Gemini ou Claude, autant de services propriétaires dont les technologies sous-jacentes tournent sur les serveurs privés d’OpenAI, Google ou Anthropic. Les GPT-5.6 Sol et autres Fable 5 sont très puissants, oui, mais vous n'en contrôlez rien : les données que vous leur envoyez ne vous appartiennent plus dans la plupart des cas, les coûts explosent et vous êtes à la merci des changements de stratégie de ces entreprises.

Mais il existe un autre monde. Des entreprises et des laboratoires de recherche développent des modèles ouverts, qui sont gratuits, téléchargeables et personnalisables par n'importe qui, car l’open source fait partie de l’ADN de la communauté. Parmi eux, citons Qwen du groupe chinois Alibaba, l’un des plus réputés, Nemotron de Nvidia ou encore la famille Mistral d'origine française. Certains acteurs font les deux : Google propose régulièrement des nouvelles versions de Gemma, ses modèles ouverts, en parallèle de Gemini. Meta fait de même avec Muse/Llama et OpenAI a sorti l’année dernière gpt-oss, mais le créateur de ChatGPT ne fait plus de l’open source une priorité depuis plusieurs années.

Ces modèles ouverts se présentent sous différentes tailles, de quelques milliards de paramètres à plusieurs centaines de milliards pour les plus costauds. Le choix dépend de votre configuration : plus vous avez de mémoire vive, plus vous pouvez charger de grands modèles, riches mais gourmands. Il existe également des versions quantifiées (allégées) qui sacrifient un peu de qualité pour tenir sur du matériel plus modeste.

Ces modèles, on peut les télécharger sur les sites de leurs créateurs ou les trouver sur la plateforme Hugging Face. Ce site rassemble des milliers de modèles et comprend des fonctions pour les récupérer, les tester et les partager facilement. Certaines applications permettent aussi d’en installer directement, ce qui simplifie encore plus le démarrage. Et pour savoir qui de Qwen, Nemotron, Gemma ou encore Mistral est le meilleur, on peut se faire une petite idée en consultant des classements collaboratifs, comme celui de arena.ai, même si ce sera votre ressenti qui comptera à la fin.

Sur Mac, l’exécution est facilitée par MLX, un framework open source conçu par Apple pour faire tourner avec les meilleures performances possibles des modèles d’IA sur les puces Apple Silicon. MLX exploite l’architecture à mémoire unifiée pour traiter les calculs indifféremment sur le CPU ou le GPU, sans transferts de données explicites ni configuration complexe.

Des modèles adaptés au mobile

Techniquement, n'importe quel Mac, qu’il soit Apple Silicon ou même Intel, peut faire tourner un modèle local, mais tous ne sont pas égaux. Avec les LLM, c'est un arbitrage entre matériel et logiciel qu'il faut trancher. En fait, même un simple iPhone peut embarquer son propre chatbot en local. Locally AI, récemment rachetée par LM Studio, est l’une des meilleures apps pour tenter l’expérience. Elle comprend une sélection de modèles adaptés aux terminaux mobiles et rend l’installation comme l’utilisation enfantines.

Dans le même domaine, il y a Google AI Edge Gallery, qui offre un premier aperçu des paramétrages d'un modèle hébergé. C'est une démo technologique impressionnante, mais encore expérimentale, qui apporte fluidité et sobriété, au détriment de quelques bugs de stabilité et du choix du modèle. Seule la famille Gemma est en effet proposée.

Locally AI et Google AI Edge Gallery ne peuvent pas faire de miracle non plus : même si les iPhone comptent parmi les smartphones les plus puissants du marché, les modèles qu’ils arrivent à exécuter en local ne peuvent pas égaler les technologies hébergées sur des serveurs ou même sur des Mac, et puis cela les fait beaucoup chauffer. Apple arrive très bien à proposer différentes fonctions à base d’IA sur les 12 Go de RAM des iPhone 17 Pro et même sur les 8 Go des iPhone 15 Pro (transcription de conversations, résumé de texte, reformulation…), mais pour avoir un assistant complet et (à peu près) fiable, ce n’est pas suffisant.

En avant Mac !

Pour aller plus loin, il nous faut nous affranchir des limites matérielles des appareils mobiles et passer au Mac. Un SSD interne spacieux est recommandé car les LLM se comptent en gigas, sinon en dizaines de gigas. Un volume externe (même un disque dur) fonctionne aussi, le chargement sera juste un peu plus long au démarrage. Une connexion internet rapide est aussi la bienvenue pour ne pas poireauter trop longtemps avant chaque expérimentation de modèle.

L’architecture Apple Silicon tire son épingle du jeu notamment grâce à sa mémoire unifiée. Contrairement à un PC classique où la RAM et la mémoire vidéo (VRAM) sont séparées, le CPU et le GPU des puces Apple partagent le même pool de mémoire. Toute la mémoire disponible peut ainsi être mise à contribution pour l’IA locale, ce qui simplifie le chargement des modèles.