Numérique & IA
Deep Learning et traitement naturel du langage : NLP, LLM et IA générative
Proposée par Retengr · certifié Qualiopi
- Durée
- 21 h sur 3 jours
- Lieu
- Toulouse
- Format
- Hybride
- Niveau
- Avancé
Ce que vous allez apprendre
Maîtrisez les architectures de réseaux de neurones récurrents et des transformers pour analyser, comprendre et générer du langage naturel. Une formation pratique pour data scientists et développeurs.
À l'issue de la formation, vous serez capable de
- Mettre en place un prétraitement efficace d'un jeu de données textuelles
- Maîtriser les architectures de réseaux de neurones récurrents et des transformers
- Comprendre les bases théoriques et pratiques des LLM
Lire la suite
- Réutiliser des modèles existants avec du transfer learning
- Comprendre le principe du RAG (Retrieval-Augmented Generation)
- Mesurer la pertinence des modèles mis en œuvre
- Mettre en œuvre des cas concrets pour chaque architecture et solution
Programme
Introduction
- Les bases de la linguistique
- Introduction au Text Mining / Fouille de texte (Data Mining pour le texte)
- Extraction d'informations
- Recherche d'informations
- Catégorisation du texte
- Résumé du texte
- Text Normalisation / Normalisation du texte
- n-grams
- Tokenization
- Stop Word
- Stemming
- Part-Of-Speech (POS) tagging
- Lemmatization
- Vectorisation du texte
- Analyse de la fréquence des termes (Counter, TF-IDF, Word vectors)
- Bag of word
- Word Embedding: Word2vec, GloVe, FastText, etc.
- Création d'une pipeline de préprocessing
Les réseaux de neurones récurrents
- Principes fondamentaux des RNN
- LSTM et GRU
- Les approches Encodeur-Decodeur
- Utilisation de connexions résiduelles (skip connections)
L'architecture Transformers
- Seq2Seq
- Attention is All You Need
- Architecture des transformers
- Mécanisme d'attention
- Tokens
- Embeddings
Les LLM
- Les familles de modèles: encoder, decoder, encoder-decoder
- Panorama de quelques modèles
- Méthodes d'apprentissage et d'optimisation
- Closed model APIs vs OpenModel weights vs Fully open model
- Coût et empreinte écologique des LLM
- Des LLM vers les SLM
- Hugging Face et Keras Hub
- HuggingFace et ses pipelines
- Keras Hub et Kaggle
RAG - Retrieval-Augmented Generation
- Fondements du Retrieval-Augmented Generation (RAG)
- Les bases vectorielles
- Premier pas avec LangChain
- Du RAG avancé vers l'Agentic AI
Pour qui ?
Prérequis
Public: Data scientist, data analyst, développeur.
Prérequis: Connaissance de Python, des librairies scientifiques (scikit-learn, pandas, numpy), du Deep Learning (ou avoir suivi la formation « Maîtriser le Deep Learning ») et d'un framework Deep Learning (TensorFlow ou PyTorch).
Questions fréquentes
Combien de temps dure la formation ?
Elle dure 3 jours, soit 21 heures au total.
À qui s'adresse cette formation ?
Elle est conçue pour les data scientists, data analysts et développeurs qui souhaitent approfondir le traitement automatique du langage.
Quels sont les prérequis ?
Il faut maîtriser Python, les librairies scientifiques (scikit-learn, pandas, numpy), le Deep Learning et un framework comme TensorFlow ou PyTorch.
Où se déroule la formation ?
Elle alterne présentiel et distance, avec une partie à Toulouse.
Peut-on la financer ?
Elle n’est pas indiquée comme éligible au CPF, mais France Travail ou votre employeur peuvent la financer selon votre situation.
Quel est le prix de la formation ?
Le centre affiche 2 400 €.
Comment payer cette formation ?
- Votre CPFCette formation n’est pas indiquée comme éligible au CPF. Le centre vous dira si une autre version l’est.
- Si vous cherchez un emploiFrance Travail peut financer tout ou partie de la formation avec l’aide individuelle à la formation (AIF), si elle vous aide à retrouver un poste.
- Si vous êtes salarié(e)Votre employeur peut la prendre en charge dans son plan de formation, souvent avec l’aide de son OPCO.

Retengr
Retengr est un centre de formation spécialisé dans les hautes technologies informatiques, basé à Toulouse. Cet organisme de formation propose des formations expertes pour les professionnels de l'informatique, avec une expertise reconnue en Data, DevOps, Web client, Agilité, Mobilité et Architecture logicielle.
Découvrir le centreChez Retengr, aussi



Formations similaires

Éligible CPF
Éligible CPF