Frama’LLM : promotion de l’installation de LLM sur des serveurs locaux ; avec des modèles ouverts et libres.
Les pilliers de la lowtechisation
Valeurs :
Convivialité : *Partage, pérennité et autonomie* (+)
Soutenabilité : *Ressource* (-)
Responsabilité : /
Leviers :
Optimiser : *Permaindustrie* (+)
Imaginer : /
Politiser : *Communs et fermeture (fermeture partielle)* (+)
Tensions :
Croissance : *Innovation* (+/-)
Progrès : *Lowtechiser un produit hightech (ou du small hightech ?)* (-)
Consommation : *Besoin* (-), *Individualisme* (+)
Utilisation de Frama’LLM : Installation dans une université : UTC’IA
Marie est en deuxième année à l’UTC. Elle prépare un rapport scientifique et a besoin d’aide pour reformuler un passage en anglais. Elle refuse d’utiliser ChatGPT ou Gemini, car ces services envoient les données sur des serveurs privés situés à l’étranger. L’université lui propose une alternative locale : UTC’IA, un LLM libre et léger, hébergé sur un serveur au sein même du campus. Marie se connecte depuis un ordinateur de la salle informatique. Elle ouvre le menu "Outils numériques" et clique sur UTC’IA. Une fenêtre s’affiche :
Elle est informée que les ressources de calcul sont limitées.
Un compteur précise qu’elle dispose de 3 requêtes par jour. Ce quota est défini pour préserver la charge serveur et permettre à tous les étudiants d’accéder au service.
Avant de continuer, une note lui demande de vérifier si sa requête est "non triviale" : pas de question triviale, pas de loisir, uniquement de l’usage académique. Une charte sera développée décidant ce qui est du ressort de l’académique ou non (traduction de texte, explication mathématiques,...)
Marie clique sur « Continuer ». Une zone de texte s’ouvre : elle tape "Reformule en anglais scientifique la phrase suivante…".En quelques secondes, l’IAg lui renvoie trois reformulations possibles. Une ligne en bas rappelle que les données sont uniquement traitées en interne, sans transfert extérieur. Un bouton permet de "sauvegarder localement" sa réponse dans son espace étudiant (quota de 10 Mo).
Installation de l’IAg par une administratrice
Amira est administratrice informatique à l’Université de Technologie de Compiègne. Le matin, elle arrive dans la salle informatique. Elle vérifie en premier le document partagé avec les autres administrateurs pour savoir les changements et autres informations qui pourraient lui être utiles. Amira allume ensuite le principal serveur sur lequel est hébergé un espace pour le programme. À l’écran, elle suit une procédure qu’elle a rédigée avec son équipe :
Télécharger le dossier du logiciel depuis le réseau interne.
Lancer le script d’installation.
Vérifier que tout fonctionne correctement.
L’installation dure une vingtaine de minutes. Pendant ce temps, Amira vérifie que le serveur ne chauffe pas trop et que la mémoire utilisée reste stable.
Le message “UTC’IA prêt à l’emploi” s’affiche. Elle ouvre alors un ordinateur de test et tape : utcia.local. Une page s’ouvre avec un bouton : “Démarrer une session”
Amira essaie une première question : "Traduis-moi la phrase : "La meilleure UV de l'UTC est IS03" en anglais et italien."
La réponse arrive en quelques secondes. Tout fonctionne.
Avant de partir, Amira met à jour le document partagé avec les autres administrateurs.
Elle ferme la porte du local serveur : l’IAg de l’UTC est désormais en ligne, prête à être utilisée par les étudiants et les chercheurs.
Utilisation communautaire de UTC’IA
Quelques semaines plus tard, UTC’IA fait déjà partie du quotidien des étudiants et enseignants.
Pour accompagner son usage, un forum interne est mis en place. Le principe est simple : chaque utilisateur peut créer un sujet, poser une question, ou partager une amélioration du modèle. Amira, qui administre le forum avec deux autres techniciens, y lit ce matin un message d’Alex, étudiant en génie informatique :“Bonjour, j’ai remarqué que le LLM ne répond pas toujours bien aux questions en chimie organique. Peut-on lui ajouter un petit corpus de référence ?”. En réponse, Léa, une enseignante-chercheuse, explique comment créer un module d’entraînement local avec un jeu de textes sous licence libre. Le soir même, un petit groupe d’étudiants se connecte sur le canal #training-lab. Ensemble, ils lancent ce projet collaboratif avec des données scientifiques issues d’archives ouvertes (HAL, arXiv).
Le lendemain, Amira déploie la nouvelle version sur le serveur.
Sur le forum, un message s’affiche en page d’accueil :“UTCI’A v1.4 — mise à jour communautaire : amélioration des réponses scientifiques et du temps de latence.”
Grâce à la communauté, le LLM n’est plus un outil figé mais un bien commun numérique, co-construit, documenté et partagé au sein de l’université.
