Installer et faire tourner des modèles de langage (LLM) en local sur votre machine

Vous aimeriez utiliser des modèles de langage (LLMs) pour analyser ou traiter des documents confidentiels ou des données sensibles ? Dans ce cas, il n'est évidemment pas envisageable de recourir à des services en ligne tels que ChatGPT, Claude ou DeepSeek, en raison des risques liés à la confidentialité.

Une alternative fiable consiste à exécuter ces modèles directement sur votre propre machine, ce qui garantit que toutes les données restent traitées localement, sans fuite possible vers des serveurs distants.

La formation se déroule en 2 étapes:

1. Une première étape théorique afin de comprendre la pertinence d’une telle approche ainsi que ses limites. 

2. Une deuxième étape pratique. Les participants seront accompagnés étape par étape pour réaliser l’installation d’une solution en local et en tester les fonctionnalités.

Objectifs

Ce cours vous permettra de comprendre les enjeux, les solutions disponibles et de mettre concrètement en œuvre un modèle local de manière très simple. Nous aborderons les points suivants :

1. Concepts généraux  

  • Pourquoi installer un LLM en local ? Dans quels cas cette approche est-elle pertinente ?
  • Avantages et limites de l'exécution locale par rapport aux solutions en ligne
  • Tour d’horizon des solutions existantes : modèles open source, interfaces utilisateur, performances, compatibilité matérielle

2. Atelier pratique

  • Installation pas à pas d’un modèle LLM sur votre machine
  • Utilisation de base : poser des questions, ajouter ses propres documents, tester les capacités du modèle

A l’issue de ce cours, vous serez capable de :

  • Comprendre quand utiliser une solution locale est pertinente
  • Installer et exécuter plusieurs LLMs localement sur votre ordinateur
  • Utiliser ces modèles pour interagir avec vos propres documents en toute confidentialité

Public-cible

Membres du corps enseignant, quel que soit le domaine d’enseignement/la faculté (UNIFR et HES-SO)

Prérequis

Il est nécessaire de posséder un machine suffisamment puissante pour faire tourner les modèle : Windows ou Mac (M-Series) avec un minimum 16Go de RAM.

Responsables et intervenant·e·s

Responsable(s)

  • Ruffieux Simon, Maitre-assistant et lecteur, Université de Fribourg
Collaboration

Cette formation fait partie du programme EduKIA développé conjointement par la HES-SO et l'Université de Fribourg et offert dans le cadre du projet "Open Education & Digital Competencies" (PgB 2025-2028).

Essentiels

Date(s)

07.10.25, 10h00 - 12h00

Learning Lab Unifr

PER21, salle B205

Type Séminaire / Cours
Langue Français

Contact

Service de didactique universitaire et compétences numériques
 Email