Le logiciel ‘LM Studio AI’ pour Mac et PC permet d’installer en local des modèles IA – intelligence artificielle – et LLM capables de générer des images ou de rédiger des textes sans que vous n’ayez à payer quoi que ce soit ni même à passer par un quelconque outil en ligne…
Comment Exécuter des Modèles IA / LLM en Local sur Mac / PC avec LM Studio AI
Nous allons voir comment exécuter des modèles d’IA en local sur un ordinateur Mac sous processeur M1/M2 ou PC Windows et ainsi pouvoir expérimenter et exploiter la puissance des applications IA sans dépendre de serveurs tiers ruineux ou de solutions basées sur le cloud tout aussi coûteuses. Dans ce guide, je vais vous expliquer la procédure à suivre pour y parvenir, à condition d’avoir les outils et les exigences matérielles nécessaires.
Vous n’aurez pas à jouer avec les lignes de code ou le Terminal, mais juste à télécharger LM Studio AI et à installer en local sur votre ordinateur Apple ou PC. Grâce à ce logiciel open source, vous pourrez faire tourner diverses modèles d’intelligence artificielle sur la majorité des systèmes d’exploitation et des configurations matérielles récentes. Que ce soit des modèles orientés traitement de langage naturel (NLP) et d’image ou les quantifiés au format GF, ils sont tous exécutables.
Comment savoir si mon CPU prend en charge l’AVX2
Avant de commencer, vous devez d’abord vous assurer si votre ordinateur Mac M1/M2 ou PC est capable de gérer les commandes AVX2. Pour le savoir, il suffit de vérifier si son CPU la prend en charge en suivant ces quelques étapes :
Sous Windows : Ouvrez l’invite de commande, exécutez la commande systeminfo et recherchez votre modèle de CPU dans les informations affichées.
Sous macOS : Allez dans le menu Apple -> À propos de ce Mac -> Rapport Système et trouvez le « Nom du Processeur ».
Sous Linux : Ouvrez le terminal, exécutez la commande lscpu ou cat /proc/cpuinfo et recherchez le drapeau avx2 dans la sortie.
Cette vérification peut également se faire avec un utilitaire tiers comme CPU-Z (Windows) ou iStat Menus (macOS). Ces deux outils vous afficheront les spécifications détaillées de votre CPU, y compris la prise en charge d’AVX2.
Mémoire vive nécessaire sur Mac et PC
Quel que soit le système d’exploitation de votre ordinateur portable ou de bureau, celui-ci doit disposer de suffisamment de mémoire vive. En règle générale, un minimum de 8 Go de RAM est recommandé pour exécuter des modèles d’IA plus petits, tels que Mistral. Les modèles plus volumineux peuvent nécessiter davantage de mémoire au minimum 16 Go, il est donc primordial de préalablement vérifier les spécifications des modèles que vous désirez installer.
Configuration du Modèle et Paramètres d’Inférence
LM Studio offre une large gamme d’options pour la configuration du modèle et les paramètres d’inférence. Vous pouvez ajuster ces paramètres afin d’optimiser les performances de vos modèles, en fonction de votre configuration spécifique. Ce niveau de contrôle vous permet d’obtenir le meilleur rendement, même sur une modeste configuration.
Distribuer des Modèles IA en local via une API
L’autre caractéristique innovante de cet outil est sa capacité à créer un hôte local et à distribuer votre modèle via une API. Cela signifie que vous pouvez intégrer votre modèle dans d’autres applications ou services dont vous disposez localement. Cette fonctionnalité transforme LM Studio en une plateforme pour la création et le déploiement d’applications alimentées par l’IA.
Résumé des fonctions de LM Studio :
- Exécuter des LLM sur votre ordinateur portable, entièrement hors ligne
- Utiliser des modèles via l’interface de chat in-app ou un serveur local compatible OpenAI
- Télécharger tous les fichiers de modèles compatibles à partir des dépôts HuggingFace.
- Découvrir de nouveaux LLMs sur la page d’accueil de l’application
- Importer des modèles ggml Llama, MPT, et StarCoder sur Hugging Face (Llama 2, Orca, Vicuna, Nous Hermes, WizardCoder, MPT, etc.)
La dernière version du logiciel LM Studio pour Mac M1/M2 sous macOS 14 et plus, Windows et Linux est à télécharger gratuitement sur son site dédié par ici ou sur sa page GitHub par là.
