Ollama pour une IA découplée
Envoyer des requêtes à une IA qui s'en sert pour s'entraîner peut être contentieux lorsque l'information est sensible ou secrète. Savez-vous que vous pouvez installer une IA sur votre ordinateur, découplée d'internet? Téléchargez Ollama, puis lancez-le. Une mignonne tête de lama apparaîtra dans la barre des notifications. Ouvrez un terminal, et téléchargez l'un des nombreux modèles open source qui se trouve dans sa banque en tapant ceci
ollama pull llama3.2
...pour le modèle llama3.2, gracieuseté open source de Meta. Installez l'extension Page Assist, sur Firefox ou Chrome, qui vous demandera de choisir le modèle parmi ceux installés, et vous offrira une belle interface pour vos requêtes totalement découplées.
Cette solution ne répond pas à l'aspect énergivore de l'IA, la décentralisation de la consommation n'étant pas nécessairement positive. Elle ne répond pas non plus aux aspects éthiques, puisque même open source, un modèle a bien pu être entraîné sur du contenu sans en avoir la permission, ou bien sur du contenu malencontreusement faux, raciste ou sexiste.