Data Engineer
Date de mise à jour : 25/04/2025 | Identifiant OffreInfo :
15_705277
Organisme responsable :
Simplon.co
-
Expert en infrastructures de données massives - Code CertifInfo
114987
- Niveau de qualification : 7 - Savoirs hautement spécialisés
Objectifs
- Analyser l'expression d'un besoin de projet data dans une étude de faisabilité en explorant, à l'aune des enjeux stratégiques de l'organisation, le besoin métier avec les parties prenantes pour valider les orientations et sélectionner les hypothèses techniques du projet avec le ou les commanditaire(s).
- Cartographier les données disponibles en référençant les usages, les sources, les métadonnées et les données afin de valider les hypothèses techniques du projet data.
- Concevoir un cadre technique d'exploitation des données en analysant les contraintes techniques, de moyens et la cartographie des données afin de définir une réponse technique adaptée aux ressources mobilisables dans le respect du RGPD et d'une démarche éco-responsable.
- Réaliser une veille technique et réglementaire en sélectionnant des sources et en collectant et traitant les informations collectées afin de formuler des recommandations projet toujours en phase avec l'état de l'art.
- Planifier la réalisation d'un projet data en attribuant les moyens nécessaires et en définissant les étapes de réalisation et les méthodes de suivi du projet afin de d'organiser sa mise en oeuvre
- Superviser la réalisation d'un projet data en organisant les méthodes, les outils de travail et la communication entre les parties prenantes, afin d'accompagner les membres de l'équipe dans la réussite du projet
- Communiquer tout au long de la réalisation du projet data sur les orientations, les réalisations et leurs impacts en élaborant la stratégie et les supports de communication afin d'informer toutes les parties prenantes des évolutions ou des opportunités internes comme externes, portés par le projet.
- Automatiser l'extraction de données depuis un service web, une page web (scraping), un fichier de données, une base de données et un système big data en programmant le script adapté afin de pérenniser la collecte des données nécessaires au projet.
- Développer des requêtes de type SQL d'extraction des données depuis un système de gestion de base de données et un système big data en appliquant le langage de requête propre au système afin de préparer la collecte des données nécessaires au projet.
- Développer des règles d'agrégation de données issues de différentes sources en programmant, sous forme de script, la suppression des entrées corrompues et en programmant l'homogénéisation des formats des données afin de préparer le stockage du jeu de données final.
- Créer une base de données dans le respect du RGPD en élaborant les modèles conceptuels et physiques des données à partir des donn
Programme de la formation
Introduction à la formation
Découvrir le métier de Data Engineer.
Essayer la pédagogie active de Simplon.
Apprendre les bases du développement et de l'algorithme.
Rencontrer les autres personnes de la promotion.
Comprendre les compétences à acquérir et les critères pour obtenir la certification finale
Pendant la formation :
Apprendre des langages de programmation comme Python, Java, ou Scala.
Utiliser des outils Big Data comme Hadoop, Spark, et SQL.
Apprendre sur l'architecture distribuée et le cloud computing.
Phase 1 - Travailler sur des bases de données
Créer et gérer des bases de données pour répondre à des besoins simples.
Participer à la gestion d'un projet data.
Contribuer à la conception et création de bases de données.
Automatiser l'entrée de données dans les bases de données.
Phase 2 - Évolution d'un data warehouse
Travailler sur l'entrepôt de données de l'entreprise.
Automatiser et standardiser les traitements de données.
Connaître les structures de données en faits et dimensions du data warehouse.
Tester l'entrepôt de données en environnement de développement/test.
Intégrer de nouvelles sources de données en ajustant les scripts.
Phase 3 - Évolution d'un data lake
Travailler sur le datalake, qui stocke les données brutes.
Adapter les procédures de collecte automatique de données.
Travailler sur les outils de catalogage de données.
Configurer les droits d'accès.
Phase 4 - Bases de données pour les équipes d'analyse
Créer une base de données pour répondre à un besoin métier.
Identifier les données sources pertinentes.
Concevoir une base de données cible.
Automatiser l'import des données depuis différentes sources.
Développer des points de terminaison d'API et des règles d'autorisation.
Phase 5 - Création d'un data warehouse
Créer un entrepôt de données pour différents usages data.
Cartographier les données collectées par l'entreprise.
Structurer l'entrepôt de données selon les cas d'usage.
Choisir les outils de stockage et d'import.
Maintenir les composants techniques en état de fonctionnement.
Phase 6 - Création d'un datalake
Mettre en place l'architecture et la structure d'un datalake.
Concevoir l'architecture du datalake.
Intégrer les composants d'infrastructure.
Mettre en place un catalogue de données.
Implémenter des règles de gouvernance des données.
Phase 7 - Missions d'étude, conseil, et intégration
Piloter un projeValidation et sanction
Titre Professionnel : Expert en infrastructures de données massives
Type de formation
Certifiante
Sortie
Bac + 5 et plus
Contact de la formation
Contacter l'organisme
Contact de l'organisme formateur
Information fournie par :
