DeepSpeed for Deep Learning Training Cursus
DeepSpeed is een bibliotheek voor deep learning-optimalisatie die het gemakkelijker maakt om deep learning-modellen te schalen op gedistribueerde hardware. DeepSpeed is ontwikkeld door Microsoft en integreert met PyTorch om betere schaalbaarheid, snellere training en verbeterd gebruik van bronnen te bieden.
Deze live training onder leiding van een instructeur (online of op locatie) is bedoeld voor beginnende tot gemiddelde datawetenschappers en machine learning-ingenieurs die de prestaties van hun deep learning-modellen willen verbeteren.
Aan het einde van deze training zijn de deelnemers in staat om:
- Begrijp de principes van gedistribueerd deep learning.
- Installeer en configureer DeepSpeed.
- Schaal deep learning-modellen op gedistribueerde hardware met behulp van DeepSpeed.
- Implementeer en experimenteer met DeepSpeed-functies voor optimalisatie en geheugenefficiëntie.
Vorm van de cursus
- Interactieve lezing en discussie.
- Veel oefeningen en oefenen.
- Hands-on implementatie in een live-lab omgeving.
Opties voor het aanpassen van cursussen
- Om een training op maat voor deze cursus aan te vragen, neem dan contact met ons op om een afspraak te maken.
Cursusaanbod
Introductie
- Overzicht van de uitdagingen op het gebied van deep learning-schaling
- Overzicht van DeepSpeed en zijn functies
- DeepSpeed in vergelijking met andere gedistribueerde deep learning-bibliotheken
Slag
- Opzetten van de ontwikkelomgeving
- PyTorch en DeepSpeed installeren
- DeepSpeed configureren voor gedistribueerde training
Functies voor DeepSpeed-optimalisatie
- DeepSpeed training pijplijn
- ZeRO (geheugen optimalisatie)
- Activering controlepunt
- Gradiënt controlepunten
- Parallellisme van pijpleidingen
Modellen schalen met DeepSpeed
- Basis schalen met DeepSpeed
- Geavanceerde schalingstechnieken
- Prestatieoverwegingen en best practices
- Technieken voor foutopsporing en probleemoplossing
Geavanceerde DeepSpeed-onderwerpen
- Geavanceerde optimalisatietechnieken
- DeepSpeed gebruiken met gemengde precisietraining
- DeepSpeed op verschillende hardware (bijv. GPUs, TPU's)
- DeepSpeed met meerdere trainingsknooppunten
DeepSpeed integreren met PyTorch
- DeepSpeed integreren met PyTorch-workflows
- DeepSpeed gebruiken met PyTorch Lightning
Probleemoplossing
- Veelvoorkomende DeepSpeed-problemen debuggen
- Monitoring en logboekregistratie
Samenvatting en volgende stappen
- Samenvatting van de belangrijkste concepten en functies
- Best practices voor het gebruik van DeepSpeed in productie
- Verdere bronnen voor meer informatie over DeepSpeed
Vereisten
- Gemiddelde kennis van deep learning-principes
- Ervaring met PyTorch of vergelijkbare deep learning frameworks
- Bekendheid met Python programmeren
Audiëntie
- Datawetenschappers
- Ingenieurs voor machine learning
- Ontwikkelaars
Voor open trainingen is een minimum aantal van 5 deelnemers vereist
DeepSpeed for Deep Learning Training Cursus - Booking
DeepSpeed for Deep Learning Training Cursus - Enquiry
DeepSpeed for Deep Learning - Consultancyaanvraag
Consultancyaanvraag
Voorlopige Aankomende Cursussen
Gerelateerde cursussen
Advanced Stable Diffusion: Deep Learning for Text-to-Image Generation
21 UrenDeze live training onder leiding van een instructeur in België (online of ter plaatse) is bedoeld voor datawetenschappers van gemiddeld tot gevorderd niveau, machine learning-ingenieurs, deep learning-onderzoekers en computervisie-experts die hun kennis en vaardigheden op het gebied van deep learning willen uitbreiden voor het genereren van tekst-naar-beeld.
Aan het einde van deze training zijn de deelnemers in staat om:
- Begrijp geavanceerde deep learning-architecturen en -technieken voor het genereren van tekst-naar-beeld.
- Implementeer complexe modellen en optimalisaties voor hoogwaardige beeldsynthese.
- Optimaliseer prestaties en schaalbaarheid voor grote datasets en complexe modellen.
- Stem hyperparameters af voor betere modelprestaties en generalisatie.
- Integreer Stable Diffusion met andere frameworks en tools voor deep learning
AlphaFold
7 UrenDeze door een instructeur geleide, live training in België (online of ter plaatse) is bedoeld voor biologen die willen begrijpen hoe AlphaFold werkt en AlphaFold modellen als leidraad willen gebruiken in hun experimentele studies.
Aan het einde van deze training zijn de deelnemers in staat om:
- Begrijp de basisprincipes van AlphaFold.
- Meer informatie over hoe AlphaFold werkt.
- Leer hoe u AlphaFold voorspellingen en resultaten kunt interpreteren.
Applied AI from Scratch
28 UrenDit is een 4-daagse cursus waarin AI en de toepassing ervan worden geïntroduceerd. Er is een optie om na voltooiing van deze cursus een extra dag uit te trekken om een AI-project uit te voeren.
Deep Learning for Vision with Caffe
21 UrenCaffe is een diepgaand leerkader gemaakt met expressie, snelheid en modulariteit in het achterhoofd.
Deze cursus onderzoekt de toepassing van Caffe als een diepgaand leerkader voor beeldherkenning met behulp van MNIST als voorbeeld
Publiek
Deze cursus is geschikt voor onderzoekers en ingenieurs van Deep Learning die geïnteresseerd zijn in het gebruik van Caffe als kader.
Na het voltooien van deze cursus kunnen afgevaardigden:
- inzicht in de structuur en implementatiemechanismen van Caffe
- voer installatie / productieomgeving / architectuurtaken en configuratie uit
- codekwaliteit beoordelen, foutopsporing uitvoeren, controleren
- implementeer geavanceerde productie zoals trainingsmodellen, implementatie van lagen en logboekregistratie
Deep Learning Neural Networks with Chainer
14 UrenDeze live training onder leiding van een instructeur in België (online of ter plaatse) is bedoeld voor onderzoekers en ontwikkelaars die Chainer willen gebruiken om neurale netwerken te bouwen en te trainen in Python en tegelijkertijd de code gemakkelijk te debuggen te maken.
Aan het einde van deze training zijn de deelnemers in staat om:
- Zet de benodigde ontwikkelomgeving op om te beginnen met het ontwikkelen van neurale netwerkmodellen.
- Definieer en implementeer neurale netwerkmodellen met behulp van een begrijpelijke broncode.
- Voer voorbeelden uit en wijzig bestaande algoritmen om deep learning-trainingsmodellen te optimaliseren en tegelijkertijd gebruik te maken van GPUs voor hoge prestaties.
Using Computer Network ToolKit (CNTK)
28 UrenComputer Network ToolKit (CNTK) is Microsoft's Open Source, Multi-machine, Multi-GPU, Zeer efficiënte RNN-training machine learning-framework voor spraak, tekst en afbeeldingen.
Audiëntie
Deze cursus is bedoeld voor ingenieurs en architecten die CNTK in hun projecten willen gebruiken.
Computer Vision with Google Colab and TensorFlow
21 UrenDeze door een instructeur geleide, live training in België (online of ter plaatse) is gericht op professionals op gevorderd niveau die hun begrip van computervisie willen verdiepen en de mogelijkheden van TensorFlow willen verkennen voor het ontwikkelen van geavanceerde visiemodellen met behulp van Google Colab.
Aan het einde van deze training zijn de deelnemers in staat om:
- Bouw en train convolutionele neurale netwerken (CNN's) met behulp van TensorFlow.
- Maak gebruik van Google Colab voor schaalbare en efficiënte cloudgebaseerde modelontwikkeling.
- Implementeer beeldvoorbewerkingstechnieken voor computer vision-taken.
- Implementeer computer vision-modellen voor toepassingen in de echte wereld.
- Gebruik transfer learning om de prestaties van CNN-modellen te verbeteren.
- Visualiseer en interpreteer de resultaten van beeldclassificatiemodellen.
Deep Learning with TensorFlow in Google Colab
14 UrenDeze live training onder leiding van een instructeur in België (online of ter plaatse) is gericht op datawetenschappers en -ontwikkelaars van gemiddeld niveau die deep learning-technieken willen begrijpen en toepassen met behulp van de Google Colab-omgeving.
Aan het einde van deze training zijn de deelnemers in staat om:
- Stel Goluister naar Colab voor deep learning-projecten.
- Begrijp de basisprincipes van neurale netwerken.
- Implementeer deep learning-modellen met behulp van TensorFlow.
- Train en evalueer deep learning-modellen.
- Gebruik de geavanceerde functies van TensorFlow voor deep learning.
Deep Learning for NLP (Natural Language Processing)
28 UrenIn deze door een instructeur geleide, live training leren deelnemers Python bibliotheken voor NLP te gebruiken terwijl ze een applicatie maken die een reeks afbeeldingen verwerkt en bijschriften genereert.
Aan het einde van deze training kunnen deelnemers:
- Ontwerp en codeer DL voor NLP met behulp van Python-bibliotheken.
- Maak Python code die een substantieel grote verzameling afbeeldingen leest en trefwoorden genereert.
- Maak Python code aan die bijschriften genereert op basis van de gedetecteerde trefwoorden.
Edge AI with TensorFlow Lite
14 UrenDeze door een instructeur geleide, live training in België (online of op locatie) is bedoeld voor ontwikkelaars op gemiddeld niveau, datawetenschappers en AI-beoefenaars die gebruik willen maken van TensorFlow Lite voor Edge AI-toepassingen.
Aan het einde van deze training zijn de deelnemers in staat om:
- Begrijp de basisprincipes van TensorFlow Lite en zijn rol in Edge AI.
- Ontwikkel en optimaliseer AI-modellen met behulp van TensorFlow Lite.
- Implementeer TensorFlow Lite-modellen op verschillende edge-apparaten.
- Gebruik tools en technieken voor modelconversie en -optimalisatie.
- Implementeer praktische Edge AI-toepassingen met behulp van TensorFlow Lite.
Accelerating Deep Learning with FPGA and OpenVINO
35 UrenDeze live training onder leiding van een instructeur in België (online of ter plaatse) is bedoeld voor datawetenschappers die real-time machine learning-toepassingen willen versnellen en op schaal willen implementeren.
Aan het einde van deze training zijn de deelnemers in staat om:
- Installeer de OpenVINO toolkit.
- Versnel een computer vision-toepassing met behulp van een FPGA.
- Voer verschillende CNN-lagen uit op de FPGA.
- Schaal de toepassing over meerdere knooppunten in een Kubernetes-cluster.
Distributed Deep Learning with Horovod
7 UrenDeze live training onder leiding van een instructeur in België (online of ter plaatse) is bedoeld voor ontwikkelaars of datawetenschappers die Horovod willen gebruiken om gedistribueerde deep learning-trainingen uit te voeren en deze op te schalen om parallel over meerdere GPUs te draaien.
Aan het einde van deze training zijn de deelnemers in staat om:
- Zet de benodigde ontwikkelomgeving op om te beginnen met het uitvoeren van deep learning-trainingen.
- Installeer en configureer Horovod om modellen te trainen met TensorFlow, Keras, PyTorch en Apache MXNet.
- Schaal deep learning-training met Horovod om op meerdere GPUs uit te voeren.
Deep Learning with Keras
21 UrenDeze live training onder leiding van een instructeur in België (online of ter plaatse) is bedoeld voor technische personen die het deep learning-model willen toepassen op beeldherkenningstoepassingen.
Aan het einde van deze training zijn de deelnemers in staat om:
- Installeer en configureer Keras.
- Maak snel prototypes van deep learning-modellen.
- Implementeer een convolutioneel netwerk.
- Implementeer een terugkerend netwerk.
- Voer een deep learning-model uit op zowel een CPU als GPU.
Introduction to Stable Diffusion for Text-to-Image Generation
21 UrenDeze live training onder leiding van een instructeur (online of ter plaatse) is bedoeld voor datawetenschappers, machine learning-ingenieurs en computervisie-onderzoekers die Stable Diffusion willen gebruiken om afbeeldingen van hoge kwaliteit te genereren voor verschillende gebruiksscenario's.
Aan het einde van deze training zijn de deelnemers in staat om:
- Begrijp de principes van Stable Diffusion en hoe het werkt voor het genereren van afbeeldingen.
- Bouw en train Stable Diffusion-modellen voor taken voor het genereren van afbeeldingen.
- Pas Stable Diffusion toe op verschillende scenario's voor het genereren van afbeeldingen, zoals inpainting, outpainting en beeld-naar-beeld-vertaling.
- Optimaliseer de prestaties en stabiliteit van Stable Diffusion modellen.
Tensorflow Lite for Microcontrollers
21 UrenDeze door een instructeur geleide, live training (op locatie of op afstand) is gericht op ingenieurs die machine learning-modellen willen schrijven, laden en uitvoeren op zeer kleine ingebedde apparaten.
Aan het einde van deze training kunnen deelnemers:
- Installeer TensorFlow Lite.
- Laad machine learning-modellen op een ingebed apparaat zodat het spraak kan detecteren, afbeeldingen kan classificeren, enz.
- Voeg AI toe aan hardwareapparaten zonder afhankelijk te zijn van netwerkconnectiviteit.