Numérique & IA

Deep Learning et traitement naturel du langage : NLP, LLM et IA générative

Proposée par Retengr · certifié Qualiopi

Durée
21 h sur 3 jours
Lieu
Toulouse
Format
Hybride
Niveau
Avancé

Ce que vous allez apprendre

Maîtrisez les architectures de réseaux de neurones récurrents et des transformers pour analyser, comprendre et générer du langage naturel. Une formation pratique pour data scientists et développeurs.

À l'issue de la formation, vous serez capable de

  • Mettre en place un prétraitement efficace d'un jeu de données textuelles
  • Maîtriser les architectures de réseaux de neurones récurrents et des transformers
  • Comprendre les bases théoriques et pratiques des LLM
Lire la suite
  • Réutiliser des modèles existants avec du transfer learning
  • Comprendre le principe du RAG (Retrieval-Augmented Generation)
  • Mesurer la pertinence des modèles mis en œuvre
  • Mettre en œuvre des cas concrets pour chaque architecture et solution

Programme

Introduction

  • Les bases de la linguistique
  • Introduction au Text Mining / Fouille de texte (Data Mining pour le texte)
  • Extraction d'informations
  • Recherche d'informations
  • Catégorisation du texte
  • Résumé du texte
  • Text Normalisation / Normalisation du texte
  • n-grams
  • Tokenization
  • Stop Word
  • Stemming
  • Part-Of-Speech (POS) tagging
  • Lemmatization
  • Vectorisation du texte
  • Analyse de la fréquence des termes (Counter, TF-IDF, Word vectors)
  • Bag of word
  • Word Embedding: Word2vec, GloVe, FastText, etc.
  • Création d'une pipeline de préprocessing

Les réseaux de neurones récurrents

  • Principes fondamentaux des RNN
  • LSTM et GRU
  • Les approches Encodeur-Decodeur
  • Utilisation de connexions résiduelles (skip connections)

L'architecture Transformers

  • Seq2Seq
  • Attention is All You Need
  • Architecture des transformers
  • Mécanisme d'attention
  • Tokens
  • Embeddings

Les LLM

  • Les familles de modèles: encoder, decoder, encoder-decoder
  • Panorama de quelques modèles
  • Méthodes d'apprentissage et d'optimisation
  • Closed model APIs vs OpenModel weights vs Fully open model
  • Coût et empreinte écologique des LLM
  • Des LLM vers les SLM
  • Hugging Face et Keras Hub
  • HuggingFace et ses pipelines
  • Keras Hub et Kaggle

RAG - Retrieval-Augmented Generation

  • Fondements du Retrieval-Augmented Generation (RAG)
  • Les bases vectorielles
  • Premier pas avec LangChain
  • Du RAG avancé vers l'Agentic AI

Pour qui ?

Prérequis

Public: Data scientist, data analyst, développeur.

Prérequis: Connaissance de Python, des librairies scientifiques (scikit-learn, pandas, numpy), du Deep Learning (ou avoir suivi la formation « Maîtriser le Deep Learning ») et d'un framework Deep Learning (TensorFlow ou PyTorch).

Questions fréquentes

Combien de temps dure la formation ?

Elle dure 3 jours, soit 21 heures au total.

À qui s'adresse cette formation ?

Elle est conçue pour les data scientists, data analysts et développeurs qui souhaitent approfondir le traitement automatique du langage.

Quels sont les prérequis ?

Il faut maîtriser Python, les librairies scientifiques (scikit-learn, pandas, numpy), le Deep Learning et un framework comme TensorFlow ou PyTorch.

Où se déroule la formation ?

Elle alterne présentiel et distance, avec une partie à Toulouse.

Peut-on la financer ?

Elle n’est pas indiquée comme éligible au CPF, mais France Travail ou votre employeur peuvent la financer selon votre situation.

Quel est le prix de la formation ?

Le centre affiche 2 400 €.

Comment payer cette formation ?

  • Votre CPFCette formation n’est pas indiquée comme éligible au CPF. Le centre vous dira si une autre version l’est.
  • Si vous cherchez un emploiFrance Travail peut financer tout ou partie de la formation avec l’aide individuelle à la formation (AIF), si elle vous aide à retrouver un poste.
  • Si vous êtes salarié(e)Votre employeur peut la prendre en charge dans son plan de formation, souvent avec l’aide de son OPCO.
Estimer mon reste à charge Lire le guide : France Travail et AIF Découvrir le métier : IA Générative

Retengr

Retengr est un centre de formation spécialisé dans les hautes technologies informatiques, basé à Toulouse. Cet organisme de formation propose des formations expertes pour les professionnels de l'informatique, avec une expertise reconnue en Data, DevOps, Web client, Agilité, Mobilité et Architecture logicielle.

Découvrir le centre
2 400 €

Quelle formation cherchez‑vous ?