Faire tourner une IA sur ses propres machines
Présentation de la formation
Objectifs
- expliquer les différences entre l’utilisation d’un modèle d’IA dans le cloud et son exécution sur une infrastructure locale ;
- identifier les principaux avantages, contraintes et cas d’usage d’une IA exécutée sur ses propres machines ;
- distinguer les notions de modèle ouvert, modèle à poids ouverts et service d’IA propriétaire ;
- évaluer si une machine ou une infrastructure dispose des ressources nécessaires pour exécuter un modèle d’IA ;
- installer et exécuter un modèle de langage local à l’aide d’un outil adapté ;
- comparer plusieurs modèles selon leur taille, leurs performances, leurs besoins matériels et leur adéquation avec un usage donné ;
- identifier les principaux points de vigilance liés aux données, à la sécurité, aux licences et à la maintenance d’une solution d’IA locale.
Programme
- Différences entre une IA utilisée dans le cloud et une IA exécutée localement.
- Comprendre ce qu’est un modèle de langage et ce qui est réellement installé sur la machine.
- Distinguer modèles propriétaires, modèles ouverts et modèles à poids ouverts.
- Identifier les situations dans lesquelles une exécution locale peut être pertinente.
- Identifier les principales ressources mobilisées par un modèle : mémoire, processeur, carte graphique et stockage.
- Comprendre l’influence de la taille et de la quantification d’un modèle sur ses besoins matériels.
- Évaluer les capacités d’une machine existante.
- Choisir un modèle compatible avec les ressources disponibles.
- Installer un environnement permettant d’exécuter des modèles d’IA sur sa propre machine.
- Télécharger et lancer un premier modèle.
- Interagir avec le modèle et observer ses performances.
- Tester plusieurs modèles sur des tâches comparables.
- Comparer différents modèles selon leurs caractéristiques et leurs licences.
- Prendre en compte la qualité des réponses, la vitesse et les ressources nécessaires.
- Identifier le compromis entre performances et coût matériel.
- Sélectionner un modèle en fonction d’un besoin professionnel donné.
- Comprendre comment un modèle local peut être utilisé depuis une interface ou une application.
- Identifier les possibilités de connexion avec des documents, applications ou outils internes.
- Comprendre la différence entre l’exécution du modèle et les services construits autour de celui-ci.
- Confidentialité et maîtrise des données.
- Sécurité de l’installation et gestion des accès.
- Licences et conditions d’utilisation des modèles.
- Mise à jour, maintenance et évolution des modèles.
- Identifier les situations dans lesquelles une solution cloud, locale ou hybride est la plus adaptée.
Certification
Métiers associés
Source : GREF Bretagne #26222616F