4 applications pour installer un LLM en local [sans coder]
Imaginez avoir les capacités de chatGPT, disponible 24/7, même hors connexion, sans abonnement, sans limite de requête et sans soucis de confidentialité des données.
C’est possible, et ce n’est plus seulement réservé aux Geeks boutonneux qui comprennent comment fonctionne GitHub et qui codent en python.
Aujourd’hui, tout le monde peut disposer de sa propre IA générative personnalisée. Ces solutions sont auto-hébergées. Faciles à installer. Elles vous donnent accès aux meilleurs modèles linguistiques, sans abonnement et sans partager vos données sensibles avec les géants de la Tech.
Vous n’avez plus à craindre une mise à jour qui ruine les performances de vos prompts ni des IA qui deviennent instable au fil du temps. Oubliez aussi les prévisions d’augmentation des abonnements à 400$ par mois.
Dans cet article, je vous présente les 5 meilleures applications No Code pour installer facilement vos modèles d’intelligence artificielle préférés sur votre machine.
Pourquoi installer un LLM en local ?
De plus en plus d’entrepreneurs choisissent d’installer leur propre LLM en local, et ce n’est pas un hasard.
Liberté, indépendance, autonomie, plusieurs raisons peuvent vous amener à faire ce choix :
Le flou juridique sur la confidentialité des données
Vous n’avez pas envie de partager les données de vos clients avec ChatGPT ou Google ?
Vous avez probablement raison, même eux vous préviennent (Cf Photo).
Ce qui est fait des données partagées avec ces IA reste obscure, et pose des questions de propriété intellectuelle autant que de protection de la vie privée.
Si vous manipulez des informations sensibles, vous préférerez sans doute la confidentialité d’une IA locale.
Les enjeux économiques
20€ par ci, 100€ par là… L’accumulation des abonnements peut rapidement grapiller le retour sur investissement espéré.
D’autant que certains spécialistes prévoient une envolée du prix des abonnements dans un futur proche, pour que ces IA soient rentables.
En utilisant votre propre ordinateur ou votre propre serveur, vous contrôlez le coût de votre solution.
Avec une application de gestion locale des LLM, vous pouvez installer et utiliser autant de modèles que vous le souhaitez (dans la limite des capacités de votre ordinateur).
Enjeux stratégiques
C’est votre IA, c’est vous qui pilotez.
- Vous n’êtes plus soumis aux variations de modèles lors des mises à jour.
- Vous pouvez personnaliser et entraîner vos modèles avec votre propre base de connaissances.
- Vous évitez les changements de fonctionnalités imposés et n’êtes plus limité dans le nombre de requêtes ou la longueur des conversations.
- Vous échappez aux réglementations grand public qui peuvent limiter la capacité de raisonnement des modèles lorsqu’ils sont bridés ou censurés.
Avec la personnalisation, vous pouvez faire de vos IA locales des assistants que vos concurrents ne possèderont jamais !
Quelles sont les ressources matérielles requises pour installer un LLM local ?
En fonction du modèle que vous voulez utiliser, vous aurez besoin d’un ordinateur suffisamment puissant. Cependant, ces applications fonctionnent sur la plupart des ordinateurs grand public récents.
La configuration minimum du PC (CPU) :
- Un processeur Quad core (idéalement hexacore ou octocore)
- Support du protocole Advanced Vector Extension 2 (AVX2)
- Intel : après 2013
- AMD : après 2015
- RAM DDR2 minimum et au moins 8GB pour faire tourner les petits modèles. Pour un modèle 13B (13 milliards de paramètres, au moins 24GB requis).
- Bien qu’un disque SSD ne soit pas obligatoire, il est fortement recommandé pour stocker vos modèles de langage.
La configuration minimum de la carte graphique (GPU)
Les intelligences artificielles conversationnelles, comme chatGPT, fonctionnent avec des bases de données dites « vectorielles ». Pour optimiser la recherche dans ces bases de données, on met à contribution la puissance de calcul et la mémoire de votre carte graphique (VRAM).
Si vous devez optimiser votre ordinateur pour auto-héberger des modèles IA, le choix de la carte graphique est un point essentiel.
Les applications présentées dans cet article acceptent les accélérateurs graphiques des marques NVIDIA, AMD et Intel.
Le tableau suivant présente les configurations minimum requises en fonction de votre système d’exploitation.
Les 4 solutions open source et No-Code pour installer une IA – LLM sur votre ordinateur
Du freelance au dirigeant d’entreprise, ces solutions no-code vous permettent enfin d’avoir votre propre IA, aussi facilement que vous installez une application mobile.
Chacune a ses points forts. Que vous cherchiez à remplacer votre abonnement ChatGPT ou à créer votre assistant IA personnalisé pour votre entreprise, il y en a forcément une qui est faite pour vous.
👋 Jan : le petit nouveau
👋 Jan est l’application de choix si vous voulez effectuer une transition douce depuis chatGPT.
Vous retrouverez une interface simple et épurée similaire à chatGPT, avec une colonne supplémentaire à droite pour fournir des instructions sur la manière dont doit répondre le chatbot (comme dans les réglages de chatGPT).
👋Jan est une application simple, idéale pour débuter. L’application est rapide et fonctionne bien sur les ordinateurs avec une puissance limitée.
De plus, les développeurs promettent prochainement des fonctionnalités intéressantes comme le « chat with documents » et la mémoire de vos préférences.
On aime :
- La communauté active et 100% Open Source
- La simplicité de prise en main
- Les prochaines fonctionnalités annoncées
Anything LLM donne accès internet à vos IA
Anything LLM est plus qu’un simple chatbot auto-hébergé. C’est une application complète pour créer votre propre IA sans connaissance en code.
En plus d’accéder à un large éventail de modèles linguistiques, vous pouvez entraîner vos propres modèles ou connecter vos autres applications pour les doter de fonctionnalités supplémentaires.
Avec Anything LLM, vous pouvez enrichir chaque modèle avec vos propres documents. Plus vous lui fournissez d’informations, plus le modèle devient intelligent et spécifique.
Mais, si vous utilisez déjà une application comme Ollama ou LM Studio, Anything LLM vous permet de doper ces applications en leur donnant accès à internet ou en enrichissant le modèle de votre base de connaissances (Retrieval Augmented Generation : RAG).
A ce jour, Anything est en développement et présente quelques bugs notamment avec la prise en charge des agents IA. Vous pouvez même rejoindre leur communauté Discord anglophone pour participer à son amélioration.
Je ne doute pas qu’Anything LLM deviendra rapidement une application incontournable pour une utilisation professionnelle de l’IA générative en local.
On aime :
- La création d’assistants personnalisés
- La possibilité de connecter n’importe quel modèle à internet
- La création de modèles enrichis personnalisés (RAG)
LM Studio pour accéder aux répertoires HuggingFace
LM Studio mise sur le côté intuitif et la simplicité.
Son assistant embarqué vous indique les modèles que votre ordinateur pourra supporter.
Comme 👋Jan, Lm Studio est idéal pour les débutants avec quelques fonctionnalités supplémentaires comme le « chat with pdf » et un plus large choix de modèles.
Par contre, je le déconseille si votre ordinateur est un peu ancien. J’ai eu du mal à le faire tourner sur des petites configurations.
Alors si votre ordinateur a tendance à toussoter lorsqu’on lui en demande trop, 👋 Jan sera une meilleure solution.
On aime
- Les conseils sur les meilleurs modèles à installer en fonction de la configuration de la machine
- L’accès aux réglages fins des modèles
GPT4All pour créer des assistants avec vos bibliothèques de connaissances
GPT4All est un des plus anciens acteurs du LLM auto-hébergé.
Avec les services de NOMIC, vous pouvez créer votre propre solution d’intelligence artificielle et vos propres modèles.
Pour les utilisateurs exigeants qui veulent travailler avec leurs propres données ou avec le large éventail de modèles proposés par l’application.
GPT4All est un concurrent direct de AnythingLLM. C’est bien plus qu’un chatbot.
Par contre, le doyen des hébergeurs de LLM souffre encore de quelques fantômes. L’application est consommatrice de ressources et nécessitera un PC solide pour profiter pleinement de toutes ses fonctionnalités.
Pour les utilisateurs exigeants avec une configuration performante !
On aime
- La possibilité de créer différentes bibliothèques de documents sans limite.
- Les possibilités infinies lorsqu’il est associé à Nomic.
Comparatif détaillé des différentes solutions
J’ai compilé dans ce tableau comparatif les fonctionnalités essentielles qui vous permettront de faire un choix éclairé.
Chacune de ces applications supporte des modèles performants, depuis les petits modèles à 3 milliards de paramètres aux plus conséquents des modèles de langage.
En bref
Installer un LLM en local n’est plus une option réservée aux experts techniques. Grâce à ces quatre applications, vous avez désormais la possibilité de déployer votre propre intelligence artificielle, adaptée à vos besoins spécifiques, tout en préservant la confidentialité de vos données.
Ne laissez plus le coût des abonnements ou les limitations des services en ligne freiner votre créativité et votre productivité. En prenant le contrôle de votre IA, vous libérez du temps pour vous concentrer sur ce qui compte vraiment : votre cœur de métier et votre passion.
Explorez ces solutions et découvrez comment elles pourront transformer votre productivité.
A propos de l’auteur
Ludovic Wrobel est le fondateur de Startup-Now et un pionnier dans l’utilisation des LLM auto-hébergés.
Acteur du développement d’outils d’intelligences artificielles pour simplifier le marketing digital, il teste et implémente depuis plus de 10 ans des solutions d’intelligence artificielle pour optimiser les processus business.
À travers Startup-Now, il partage son expertise pour permettre aux entrepreneurs d’utiliser l’IA de manière autonome et sécurisée, sans complexité technique.
Pour doper ton business avec l’IA, rejoins les Starters.