Formation Spark Streaming with Python and Kafka

Cette formation en direct (en ligne ou sur site) s'adresse aux développeurs qui souhaitent intégrer Apache Kafka aux bases de données et applications existantes à des fins de traitement, d'analyse, etc.

A l'issue de cette formation, les participants seront capables de :

• Utiliser Kafka Connect pour ingérer de grandes quantités de données d'une base de données dans des sujets Kafka.
• Ingérer les données de logs générées par un serveur d'application dans les sujets Kafka.
• Mettre à disposition toutes les données collectées pour le traitement en flux.
• Exporter les données des sujets Kafka vers des systèmes secondaires pour le stockage et l'analyse.

Cette formation en direct, animée par un instructeur (sur site ou à distance), est destinée aux ingénieurs souhaitant utiliser Confluent (une distribution de Kafka) pour créer et gérer une plate-forme de traitement de données en temps réel pour leurs applications.

À la fin de cette formation, les participants seront en mesure de:

• Installez et configurez Confluent Platform.
• Utilisez les outils et les services de gestion de Confluent pour exécuter Kafka plus facilement.
• Stocker et traiter les données de flux entrants.
• Optimiser et gérer les clusters Kafka.
• Flux de données sécurisés.

Format du cours

• Conférence interactive et discussion.
• Beaucoup d'exercices et de pratique.
• Mise en œuvre pratique dans un environnement de laboratoire réel.

Options de personnalisation du cours

• Ce cours est basé sur la version open source de Confluent: Confluent Open Source.
• Pour demander une formation personnalisée pour ce cours, veuillez nous contacter pour organiser cela.

Apache Kafka est une plate-forme de diffusion distribuée. C'est un standard de facto pour la construction de pipelines de données qui résout de nombreux cas d'utilisation liés au traitement de données: il peut être utilisé comme une file d'attente de messages, un journal distribué, un processeur de flux, etc.

Nous commencerons par une théorie sur les pipelines de données en général, puis nous poursuivrons avec les concepts fondamentaux derrière Kafka. Nous découvrirons également des composants importants tels que Kafka Streams et Kafka Connect.

Dans cette formation dirigée par un instructeur en <loc&gt ; (sur site ou à distance), les participants apprendront comment configurer et intégrer différents Stream Processing frameworks avec des systèmes de stockage de big data existants et des applications logicielles et microservices connexes.

A l'issue de cette formation, les participants seront capables de :

• Installer et configurer différents Stream Processing frameworks, tels que Spark Streaming et Kafka Streaming.
• Comprendre et sélectionner le framework le plus approprié pour le travail à effectuer.
• Traiter des données en continu, de manière concurrente et enregistrement par enregistrement.
• Intégrer les solutions Stream Processing aux bases de données existantes, aux entrepôts de données, aux lacs de données, etc.
• Intégrer la bibliothèque de traitement de flux la plus appropriée avec les applications d'entreprise et les microservices.

Ce cours s'adresse aux architectes d'entreprise, aux développeurs, aux administrateurs système et à tous ceux qui souhaitent comprendre et utiliser un système de messagerie distribuée à haut débit. Si vous avez des exigences plus spécifiques (par exemple, uniquement du côté de l'administration système), ce cours peut être adapté pour mieux répondre à vos besoins.

Cette formation en direct avec instructeur (en ligne ou sur site) s'adresse aux administrateurs système qui souhaitent mettre en place, déployer, gérer et optimiser un cluster Kafka de niveau entreprise.

A l'issue de cette formation, les participants seront capables de :

• Mettre en place et administrer un cluster Kafka.
• Évaluer les avantages et les inconvénients du déploiement de Kafka sur site et dans le cloud.
• Déployer et surveiller Kafka à l'aide de divers outils d'environnement sur site et dans le nuage.

Cette formation en direct avec instructeur (en ligne ou sur site) s'adresse aux développeurs de niveau intermédiaire qui souhaitent développer des applications big data avec Apache Kafka.

A l'issue de cette formation, les participants seront capables de :

Développer des producteurs et des consommateurs Kafka pour envoyer et lire des données à partir de Kafka. Intégrer Kafka avec des systèmes externes en utilisant Kafka Connect. Ecrire des applications de streaming avec Kafka Streams &amp ; ksqlDB. Intégrer une application client Kafka avec Confluent Cloud pour des déploiements Kafka basés sur le cloud. Acquérir une expérience pratique grâce à des exercices et des cas d'utilisation réels.

Cette formation en direct avec instructeur dans Belgique (en ligne ou sur site) est destinée aux ingénieurs de données, aux scientifiques de données et aux programmeurs qui souhaitent utiliser les fonctionnalités Apache Kafka dans les flux de données avec Python.

À la fin de cette formation, les participants seront en mesure d'utiliser Apache Kafka pour surveiller et gérer les conditions dans les flux de données continus en utilisant la programmation Python.

Cette formation en Belgique (en ligne ou sur site) s'adresse aux développeurs de Java de niveau intermédiaire qui souhaitent intégrer Apache Kafka dans leurs applications pour une messagerie fiable, évolutive et à haut débit.

A l'issue de cette formation, les participants seront capables de :

• Comprendre l'architecture et les composants de base de Kafka.
• Mettre en place et configurer un cluster Kafka.
• Produire et consommer des messages en utilisant Java.
• Mettre en œuvre les flux Kafka pour le traitement des données en temps réel.
• Assurer la tolérance aux pannes et l'évolutivité des applications Kafka.

Cette formation en direct avec instructeur à Belgique (en ligne ou sur site) est destinée aux administrateurs de systèmes de niveau intermédiaire qui souhaitent exploiter efficacement les fonctionnalités de mise en file d'attente de messages de Kafka.

A l'issue de cette formation, les participants seront capables de :

• Comprendre les capacités et l'architecture de la file d'attente de messages de Kafka.
• Configurer les sujets Kafka pour les scénarios de mise en file d'attente de messages.
• Produire et consommer des messages en utilisant Kafka.
• Surveiller et gérer Kafka en tant que file d'attente de messages.

Cette formation en direct avec instructeur en <loc&gt ; (en ligne ou sur site) est destinée aux testeurs de logiciels qui souhaitent mettre en œuvre des mesures de sécurité réseau dans une application Apache Kafka.

A l'issue de cette formation, les participants seront capables de :

• Déployer Apache Kafka sur un serveur en nuage.
• Mettre en place le cryptage SSL pour prévenir les attaques.
• Ajouter l'authentification ACL pour suivre et contrôler l'accès des utilisateurs.
• S'assurer que les clients crédibles ont accès aux clusters Kafka avec SSL et l'authentification SASL.

Cette formation en direct avec instructeur en <loc&gt ; (en ligne ou sur site) est destinée aux développeurs de niveau intermédiaire qui souhaitent apprendre les principes fondamentaux de Kafka et l'intégrer à Spring Boot.

A l'issue de cette formation, les participants seront capables de :

• Comprendre Kafka et son architecture.
• Apprendre à installer, configurer et mettre en place un environnement Kafka de base.
• Intégrer Kafka à Spring Boot.

Kafka Streams est une bibliothèque côté client permettant de créer des applications et des microservices dont les données sont transmises depuis et vers un système de messagerie Kafka. Apache Kafka s’appuyait traditionnellement sur Apache Spark ou Apache Storm pour traiter les données entre les producteurs de messages et les consommateurs. En appelant l'API Kafka Streams depuis une application, les données peuvent être traitées directement dans Kafka, ce qui évite d'avoir à les envoyer à un cluster distinct.

Au cours de cette formation en direct animée par un instructeur, les participants apprendront comment intégrer Kafka Streams à un ensemble d’exemples d’applications Java qui transmettent des données depuis et vers Apache Kafka pour le traitement de flux.

À la fin de cette formation, les participants seront en mesure de:

• Comprendre les fonctionnalités et les avantages de Kafka Streams par rapport aux autres infrastructures de traitement de flux
• Traiter les données de flux directement dans un cluster Kafka
• Écrire une application ou un microservice Java ou Scala intégrant Kafka et Kafka Streams
• Écrivez un code concis qui transforme les sujets d’entrée de Kafka en sujets de sortie de Kafka
• Construire, empaqueter et déployer l'application

Public

• Développeurs

Format du cours

• Partie de conférence, partie de discussion, exercices et exercices intensifs

Remarques

• Pour demander une formation personnalisée pour ce cours, veuillez nous contacter pour organiser

Cette formation en direct avec instructeur à Belgique (en ligne ou sur site) s'adresse aux administrateurs système de niveau débutant à intermédiaire qui souhaitent apprendre à gérer efficacement les sujets Kafka pour une diffusion et un traitement efficaces des données.

A l'issue de cette formation, les participants seront capables de :

• Comprendre les principes fondamentaux et l'architecture des sujets Kafka.
• Créer, configurer et gérer les sujets Kafka.
• Contrôler l'état, les performances et la disponibilité des sujets Kafka.
• Mettre en œuvre des mesures de sécurité pour les sujets Kafka.

Cette formation en direct dans Belgique (en ligne ou sur site) est destinée aux développeurs qui souhaitent mettre en œuvre le traitement de flux Apache Kafka sans écrire de code.

A l'issue de cette formation, les participants seront capables de :

• Installer et configurer Confluent KSQL.
• Mettre en place un pipeline de traitement de flux en utilisant uniquement des commandes SQL (pas de codage Java ou Python).
• Effectuer le filtrage des données, les transformations, les agrégations, les jointures, le fenêtrage et la sessionnalisation entièrement en SQL.
• Concevoir et déployer des requêtes interactives et continues pour l'ETL en continu et l'analyse en temps réel.