Cursusaanbod

Deel 1 – Deep Learning en DNN-concepten


Introductie AI, Machine Learning & Deep Learning

  • Geschiedenis, basisconcepten en gebruikelijke toepassingen van kunstmatige intelligentie ver Van de fantasieën die door dit domein worden gedragen

  • Collective Intelligence: het samenvoegen van kennis die door veel virtuele agenten wordt gedeeld

  • Genetische algoritmen: om een populatie van virtuele agenten te laten evolueren door selectie

  • Gebruikelijke lerende machine: definitie.

  • Soorten taken: begeleid leren, leren zonder toezicht, versterkend leren

  • Soorten acties: classificatie, regressie, clustering, dichtheidsschatting, vermindering van dimensionaliteit

  • Voorbeelden van Machine Learning algoritmen: Lineaire regressie, Naïeve Bayes, Random Tree

  • Machine learning VS Deep Learning: problemen waarover Machine Learning vandaag de dag nog steeds de stand van de techniek is (Random Forests & XGBoosts)

Basisconcepten van een neuraal netwerk (toepassing: meerlaags perceptron)

  • Herinnering aan wiskundige grondslagen.

  • Definitie van een netwerk van neuronen: klassieke architectuur, activatie en

  • Weging van eerdere activeringen, diepte van een netwerk

  • Definitie van het leren van een netwerk van neuronen: functies van kosten, terugpropagatie, stochastische gradiëntafdaling, maximale waarschijnlijkheid.

  • Modellering van een neuraal netwerk: modellering van invoer- en uitvoergegevens volgens het type probleem (regressie, classificatie ...). Vloek van dimensionaliteit.

  • Onderscheid tussen gegevens en signaal met meerdere functies. Keuze van een kostenfunctie op basis van de gegevens.

  • Benadering van een functie door een netwerk van neuronen: presentatie en voorbeelden

  • Benadering van een verdeling door een netwerk van neuronen: presentatie en voorbeelden

  • Data Augmentation: hoe een dataset in evenwicht te brengen

  • Generalisatie van de resultaten van een netwerk van neuronen.

  • Initialisatie en regularisatie van een neuraal netwerk: L1 / L2 regularisatie, Batch Normalisatie

  • Optimalisatie- en convergentie-algoritmen

Standaard ML / DL-tools

Er is een eenvoudige presentatie gepland met voor- en nadelen, positie in het ecosysteem en gebruik.

  • Hulpmiddelen voor gegevensbeheer: Apache Spark, Apache Hadoop Hulpmiddelen

  • Machine Learning: Numpy, Scipy, Sci-kit

  • DL frameworks op hoog niveau: PyTorch, Keras, Lasagne

  • DL-frameworks op laag niveau: Theano, Torch, Caffe, Tensorflow

Convolutioneel Neural Networks (CNN).

  • Presentatie van de CNN's: fundamentele principes en toepassingen

  • Basiswerking van een CNN: convolutionele laag, gebruik van een kernel,

  • Padding & stride, genereren van functiekaarten, pooling van lagen. Uitbreidingen 1D, 2D en 3D.

  • Presentatie van de verschillende CNN-architecturen die de stand van de techniek in classificatie brachten

  • Afbeeldingen: LeNet, VGG Networks, Network in Network, Inception, Resnet. Presentatie van innovaties die voortkomen uit elke architectuur en hun meer globale toepassingen (Convolutie 1x1 of restverbindingen)

  • Gebruik van een aandachtsmodel.

  • Toepassing op een veelvoorkomend classificatiegeval (tekst of afbeelding)

  • CNN's voor generatie: superresolutie, pixel-tot-pixel segmentatie. Presentatie van

  • Belangrijkste strategieën voor het vergroten van functiekaarten voor het genereren van afbeeldingen.

Terugkerend Neural Networks (RNN).

  • Presentatie van RNN's: fundamentele principes en toepassingen.

  • Basiswerking van de RNN: verborgen activering, terugpropagatie door de tijd, uitgevouwen versie.

  • Evoluties naar de Gated Recurrent Units (GRU's) en LSTM (Long Short Term Memory).

  • Presentatie van de verschillende toestanden en de evoluties die deze architecturen met zich meebrengen

  • Convergentie en vanising gradiëntproblemen

  • Klassieke architecturen: voorspelling van een temporele reeks, classificatie ...

  • RNN Encoder Decoder type architectuur. Gebruik van een aandachtsmodel.

  • NLP-toepassingen: woord-/tekencodering, vertaling.

  • Videotoepassingen: voorspelling van het volgende gegenereerde beeld van een videosequentie.


Generatiemodellen: Variational AutoEncoder (VAE) en Generative Adversarial Networks (GAN).

  • Presentatie van de generatiemodellen, link met de CNN's

  • Auto-encoder: vermindering van dimensionaliteit en beperkte generatie

  • Variationele Auto-encoder: generatiemodel en benadering van de verdeling van een gegeven. Definitie en gebruik van latente ruimte. Truc voor herparametrisering. Toepassingen en waargenomen limieten

  • Generatieve vijandige netwerken: basisprincipes.

  • Dubbele netwerkarchitectuur (generator en discriminator) met afwisselend leren, kostenfuncties beschikbaar.

  • Convergentie van een GAN en ondervonden moeilijkheden.

  • Verbeterde convergentie: Wasserstein GAN, begon. Bewegende afstand van de aarde.

  • Toepassingen voor het genereren van afbeeldingen of foto's, tekstgeneratie, superresolutie.

Diep Reinforcement Learning.

  • Presentatie van reinforcement learning: controle van een agent in een gedefinieerde omgeving

  • Door een staat en mogelijke acties

  • Gebruik van een neuraal netwerk om de toestandsfunctie te benaderen

  • Deep Q Learning: ervaring replay en toepassing op de besturing van een videogame.

  • Optimalisatie van het leerbeleid. Aan-beleid & off-beleid. De architectuur van de acteurscriticus. A3C.

  • Toepassingen: controle van een enkel videospel of een digitaal systeem.

Deel 2 – Theano voor Deep Learning

De basis van Theano

  • Introductie

  • Installatie en configuratie

Theano-functies

  • inputs, outputs, updates, givens

Training en optimalisatie van een neuraal netwerk met behulp van Theano

  • Modellering van neurale netwerken

  • Logistieke regressie

  • Verborgen lagen

  • Het trainen van een netwerk

  • Berekening en classificatie

  • Optimalisering

  • Verlies van logboek

Testen van het model


Deel 3 – DNN met Tensorflow

TensorFlow Basisinformatie

  • Variabelen maken, initialiseren, opslaan en herstellen TensorFlow

  • Gegevens invoeren, lezen en voorladen TensorFlow

  • Hoe TensorFlow infrastructuur te gebruiken om modellen op schaal te trainen

  • Modellen visualiseren en evalueren met TensorBoard

TensorFlow Mechanica

  • Bereid de gegevens voor

  • Downloaden

  • Invoer en tijdelijke aanduidingen

  • Bouw de grafieken

    • Conclusie

    • Verlies

    • Opleiding

  • Train het model

    • De grafiek

    • De sessie

    • Trein lus

  • Evalueer het model

    • De Eval-grafiek maken

    • Eval-uitvoer

Het Perceptron

  • Activeringsfuncties

  • Het perceptron leeralgoritme

  • Binaire classificatie met het perceptron

  • Documentclassificatie met het perceptron

  • Beperkingen van het perceptron

Van de perceptron naar ondersteunende vectormachines

  • Kernels en de kerneltruc

  • Maximale margeclassificatie en ondersteuningsvectoren

Kunstmatig Neural Networks

  • Niet-lineaire beslissingsgrenzen

  • Feedforward en feedback kunstmatige neurale netwerken

  • Meerlagige perceptrons

  • Minimaliseren van de kostenfunctie

  • Voorwaartse voortplanting

  • Terug voortplanting

  • Verbetering van de manier waarop neurale netwerken leren

Convolutioneel Neural Networks

  • Goals

  • Model Architectuur

  • Principes

  • Code Organisatie

  • Lanceren en trainen van het model

  • Een model evalueren

Basisinleidingen die moeten worden gegeven voor de onderstaande modules (korte inleiding moet worden gegeven op basis van beschikbare tijd):

Tensorflow - Geavanceerd gebruik

  • Threading en wachtrijen

  • Gedistribueerd TensorFlow

  • Schrijven Documentation en je model delen

  • Gegevenslezers aanpassen

  • Manipuleren van TensorFlow modelbestanden


TensorFlow Serveren

  • Introductie

  • Basis Serveren Tutorial

  • Geavanceerde tutorial voor serveren

  • Zelfstudie over het aanvangsmodel serveren

Vereisten

Achtergrond in natuurkunde, wiskunde en programmeren. Betrokkenheid bij beeldverwerkingsactiviteiten.

De afgevaardigden moeten vooraf inzicht hebben in machine learning-concepten en moeten hebben gewerkt aan Python programmeren en bibliotheken.

 35 Uren

Aantal deelnemers


Prijs Per Deelnemer

Testimonials (5)

Voorlopige Aankomende Cursussen

Gerelateerde categorieën