Plan du cours

Introduction aux grands modèles de langage

  • Aperçu de Natural Language Processing (NLP)
  • Introduction à Large Language Models (LLMs)
  • Contributions de Meta AI au développement des LLM

Comprendre l'architecture des LLM de Meta AI

  • Architecture du transformateur et mécanismes d'auto-attention
  • Méthodologies de formation pour les modèles à grande échelle
  • Comparaison avec d'autres LLMs (GPT, BERT, T5, etc)

Mise en place de l'environnement de développement

  • Installer et configurer Python et Jupyter Notebook
  • Travailler avec Hugging Face et le référentiel de modèles de Meta AI
  • Utiliser des GPU locaux ou basés sur le cloud pour la formation

Fine-Tuning et personnaliser les LLM de Meta AI

  • Chargement de modèles pré-entraînés
  • Mise au point sur des ensembles de données spécifiques à un domaine
  • Techniques d'apprentissage par transfert

Construire des applications NLP avec les Meta AI LLMs

  • Développement de chatbots et d'IA conversationnelle
  • Implémentation du résumé de texte et de la paraphrase
  • Analyse des sentiments et modération de contenu

Optimisation et déploiement de grands modèles de langage

  • Réglage des performances pour la vitesse d'inférence
  • Techniques de compression et de quantification des modèles
  • Déploiement de LLM à l'aide d'API et de plateformes en nuage

Considérations éthiques et IA responsable

  • Détection et atténuation des biais dans les LLM
  • Garantir la transparence et l'équité des modèles d'IA
  • Tendances et développements futurs de l'IA

Résumé et prochaines étapes

Pré requis

  • Compréhension de base de l'apprentissage automatique et de l'apprentissage profond
  • Expérience de la programmation Python.
  • Familiarité avec les concepts de traitement du langage naturel (NLP)

Audience

  • Chercheurs en IA
  • Scientifiques des données
  • Ingénieurs Machine Learning
  • Développeurs de logiciels intéressés par le TAL
 21 Heures

Nombre de participants


Prix ​​par Participant

Cours à venir

Catégories Similaires