Mission freelance Data Engineer GCP Finance

Dans ce cadre, nous recherchons un développeur Full Stack, ayant une solide expérience dans le Cloud GCP

Récupérer les données issues de sources externes

• Utiliser la puissance du Data Lake

• Produire et mettre à disposition automatiquement des agrégats journaliers, hebdomadaires et mensuels.

Mise en œuvre de la chaîne :

o d’ingestion de données,

o de validation de données,

o de croisement de données,

o de déversement dans le data Lake des données enrichies

• Développer dans le respect des règles d’architecture définies

• Développer et documenter les user stories avec l’assistance du Product Owner.

• Produire les scripts de déploiement

• Prioriser les corrections des anomalies

• Assister les équipes d’exploitation

• Participer à la mise en œuvre de la chaîne de delivery continue

• Automatiser les tests fonctionnels

• Mettre en place la collecte et la mise à disposition des données au sein de l’entreprise

• Industrialiser et mettre en production des traitements sur les données (par exemple : mise à disposition de tableaux de bords, intégration de modèles statistiques) en lien avec les équipes métiers et les équipes qui les analysent

• Acheminement de la donnée

• Mise à disposition de la donnée aux équipes utilisatrices

• Mise en production de modèles statistiques

• Suivi de projet de développement

• Développement job spark

• Traitement et ingestion de plusieurs formats des données

• Développement des scripts

• Développement et Implémentation des collectes de données, des jobs de traitement et Mapping de données

• Développement des moyens de restitution via génération de fichier et ou API & Dashboarding

• Collecter toutes les données et les fournir aux clients en tant qu'API ou fichiers

• Développer de pipelines d'ingestion à partir de différentes sources (streaming et batch) ainsi que des Spark jobs le prétraitement des données et calcul des indicateurs de performance (KPI)

• Développer des API génériques d’ingestion et de traitement de données dans un environnement HDP

• Participer à la conception, mise en place et administration de solutions Big Data

• Participation à l’installation, administration et configuration des Hadoop clusters. Mise en place en Spring Boot des services d'extraction de data du système legacy (tera data), la data sera par la suite envoyée au data Lake via des topics Kafka

• Normalisation et agrégation des données afin de produire les rapports sous forme de Business View