Cursusaanbod
Deel 1 – Deep Learning en DNN-concepten
Introductie AI, Machine Learning & Deep Learning
-
Geschiedenis, basisconcepten en gebruikelijke toepassingen van kunstmatige intelligentie ver Van de fantasieën die door dit domein worden gedragen
-
Collective Intelligence: het samenvoegen van kennis die door veel virtuele agenten wordt gedeeld
-
Genetische algoritmen: om een populatie van virtuele agenten te laten evolueren door selectie
-
Gebruikelijke lerende machine: definitie.
-
Soorten taken: begeleid leren, leren zonder toezicht, versterkend leren
-
Soorten acties: classificatie, regressie, clustering, dichtheidsschatting, vermindering van dimensionaliteit
-
Voorbeelden van Machine Learning algoritmen: Lineaire regressie, Naïeve Bayes, Random Tree
-
Machine learning VS Deep Learning: problemen waarover Machine Learning vandaag de dag nog steeds de stand van de techniek is (Random Forests & XGBoosts)
Basisconcepten van een neuraal netwerk (toepassing: meerlaags perceptron)
-
Herinnering aan wiskundige grondslagen.
-
Definitie van een netwerk van neuronen: klassieke architectuur, activatie en
-
Weging van eerdere activeringen, diepte van een netwerk
-
Definitie van het leren van een netwerk van neuronen: functies van kosten, terugpropagatie, stochastische gradiëntafdaling, maximale waarschijnlijkheid.
-
Modellering van een neuraal netwerk: modellering van invoer- en uitvoergegevens volgens het type probleem (regressie, classificatie ...). Vloek van dimensionaliteit.
-
Onderscheid tussen gegevens en signaal met meerdere functies. Keuze van een kostenfunctie op basis van de gegevens.
-
Benadering van een functie door een netwerk van neuronen: presentatie en voorbeelden
-
Benadering van een verdeling door een netwerk van neuronen: presentatie en voorbeelden
-
Data Augmentation: hoe een dataset in evenwicht te brengen
-
Generalisatie van de resultaten van een netwerk van neuronen.
-
Initialisatie en regularisatie van een neuraal netwerk: L1 / L2 regularisatie, Batch Normalisatie
-
Optimalisatie- en convergentie-algoritmen
Standaard ML / DL-tools
Er is een eenvoudige presentatie gepland met voor- en nadelen, positie in het ecosysteem en gebruik.
-
Hulpmiddelen voor gegevensbeheer: Apache Spark, Apache Hadoop Hulpmiddelen
-
Machine Learning: Numpy, Scipy, Sci-kit
-
DL frameworks op hoog niveau: PyTorch, Keras, Lasagne
-
DL-frameworks op laag niveau: Theano, Torch, Caffe, Tensorflow
Convolutioneel Neural Networks (CNN).
-
Presentatie van de CNN's: fundamentele principes en toepassingen
-
Basiswerking van een CNN: convolutionele laag, gebruik van een kernel,
-
Padding & stride, genereren van functiekaarten, pooling van lagen. Uitbreidingen 1D, 2D en 3D.
-
Presentatie van de verschillende CNN-architecturen die de stand van de techniek in classificatie brachten
-
Afbeeldingen: LeNet, VGG Networks, Network in Network, Inception, Resnet. Presentatie van innovaties die voortkomen uit elke architectuur en hun meer globale toepassingen (Convolutie 1x1 of restverbindingen)
-
Gebruik van een aandachtsmodel.
-
Toepassing op een veelvoorkomend classificatiegeval (tekst of afbeelding)
-
CNN's voor generatie: superresolutie, pixel-tot-pixel segmentatie. Presentatie van
-
Belangrijkste strategieën voor het vergroten van functiekaarten voor het genereren van afbeeldingen.
Terugkerend Neural Networks (RNN).
-
Presentatie van RNN's: fundamentele principes en toepassingen.
-
Basiswerking van de RNN: verborgen activering, terugpropagatie door de tijd, uitgevouwen versie.
-
Evoluties naar de Gated Recurrent Units (GRU's) en LSTM (Long Short Term Memory).
-
Presentatie van de verschillende toestanden en de evoluties die deze architecturen met zich meebrengen
-
Convergentie en vanising gradiëntproblemen
-
Klassieke architecturen: voorspelling van een temporele reeks, classificatie ...
-
RNN Encoder Decoder type architectuur. Gebruik van een aandachtsmodel.
-
NLP-toepassingen: woord-/tekencodering, vertaling.
-
Videotoepassingen: voorspelling van het volgende gegenereerde beeld van een videosequentie.
Generatiemodellen: Variational AutoEncoder (VAE) en Generative Adversarial Networks (GAN).
-
Presentatie van de generatiemodellen, link met de CNN's
-
Auto-encoder: vermindering van dimensionaliteit en beperkte generatie
-
Variationele Auto-encoder: generatiemodel en benadering van de verdeling van een gegeven. Definitie en gebruik van latente ruimte. Truc voor herparametrisering. Toepassingen en waargenomen limieten
-
Generatieve vijandige netwerken: basisprincipes.
-
Dubbele netwerkarchitectuur (generator en discriminator) met afwisselend leren, kostenfuncties beschikbaar.
-
Convergentie van een GAN en ondervonden moeilijkheden.
-
Verbeterde convergentie: Wasserstein GAN, begon. Bewegende afstand van de aarde.
-
Toepassingen voor het genereren van afbeeldingen of foto's, tekstgeneratie, superresolutie.
Diep Reinforcement Learning.
-
Presentatie van reinforcement learning: controle van een agent in een gedefinieerde omgeving
-
Door een staat en mogelijke acties
-
Gebruik van een neuraal netwerk om de toestandsfunctie te benaderen
-
Deep Q Learning: ervaring replay en toepassing op de besturing van een videogame.
-
Optimalisatie van het leerbeleid. Aan-beleid & off-beleid. De architectuur van de acteurscriticus. A3C.
-
Toepassingen: controle van een enkel videospel of een digitaal systeem.
Deel 2 – Theano voor Deep Learning
De basis van Theano
-
Introductie
-
Installatie en configuratie
Theano-functies
-
inputs, outputs, updates, givens
Training en optimalisatie van een neuraal netwerk met behulp van Theano
-
Modellering van neurale netwerken
-
Logistieke regressie
-
Verborgen lagen
-
Het trainen van een netwerk
-
Berekening en classificatie
-
Optimalisering
-
Verlies van logboek
Testen van het model
Deel 3 – DNN met Tensorflow
TensorFlow Basisinformatie
-
Variabelen maken, initialiseren, opslaan en herstellen TensorFlow
-
Gegevens invoeren, lezen en voorladen TensorFlow
-
Hoe TensorFlow infrastructuur te gebruiken om modellen op schaal te trainen
-
Modellen visualiseren en evalueren met TensorBoard
TensorFlow Mechanica
-
Bereid de gegevens voor
-
Downloaden
-
Invoer en tijdelijke aanduidingen
-
Bouw de grafieken
-
Conclusie
-
Verlies
-
Opleiding
-
-
Train het model
-
De grafiek
-
De sessie
-
Trein lus
-
-
Evalueer het model
-
De Eval-grafiek maken
-
Eval-uitvoer
-
Het Perceptron
-
Activeringsfuncties
-
Het perceptron leeralgoritme
-
Binaire classificatie met het perceptron
-
Documentclassificatie met het perceptron
-
Beperkingen van het perceptron
Van de perceptron naar ondersteunende vectormachines
-
Kernels en de kerneltruc
-
Maximale margeclassificatie en ondersteuningsvectoren
Kunstmatig Neural Networks
-
Niet-lineaire beslissingsgrenzen
-
Feedforward en feedback kunstmatige neurale netwerken
-
Meerlagige perceptrons
-
Minimaliseren van de kostenfunctie
-
Voorwaartse voortplanting
-
Terug voortplanting
-
Verbetering van de manier waarop neurale netwerken leren
Convolutioneel Neural Networks
-
Goals
-
Model Architectuur
-
Principes
-
Code Organisatie
-
Lanceren en trainen van het model
-
Een model evalueren
Basisinleidingen die moeten worden gegeven voor de onderstaande modules (korte inleiding moet worden gegeven op basis van beschikbare tijd):
Tensorflow - Geavanceerd gebruik
-
Threading en wachtrijen
-
Gedistribueerd TensorFlow
-
Schrijven Documentation en je model delen
-
Gegevenslezers aanpassen
-
Manipuleren van TensorFlow modelbestanden
TensorFlow Serveren
-
Introductie
-
Basis Serveren Tutorial
-
Geavanceerde tutorial voor serveren
-
Zelfstudie over het aanvangsmodel serveren
Vereisten
Achtergrond in natuurkunde, wiskunde en programmeren. Betrokkenheid bij beeldverwerkingsactiviteiten.
De afgevaardigden moeten vooraf inzicht hebben in machine learning-concepten en moeten hebben gewerkt aan Python programmeren en bibliotheken.
Testimonials (5)
Hunter is fantastisch, zeer boeiend, uiterst deskundig en knap. Heel goed gedaan.
Rick Johnson - Laramie County Community College
Cursus - Artificial Intelligence (AI) Overview
Automatisch vertaald
The trainer explained the content well and was engaging throughout. He stopped to ask questions and let us come to our own solutions in some practical sessions. He also tailored the course well for our needs.
Robert Baker
Cursus - Deep Learning with TensorFlow 2.0
Tomasz really know the information well and the course was well paced.
Raju Krishnamurthy - Google
Cursus - TensorFlow Extended (TFX)
Organization, adhering to the proposed agenda, the trainer's vast knowledge in this subject
Ali Kattan - TWPI
Cursus - Natural Language Processing with TensorFlow
Very updated approach or CPI (tensor flow, era, learn) to do machine learning.