Hadoop : Déployer du Big Data.

  • Lieu :
    LATTES
  • Date :
    28-08-2018
  • Durée:
    28 heures
  • Prix :
    2325
  • Référencé datadock

    Datadock certifie la qualité des organismes. Seuls ces centres vous permettent de bénéficier d'un financement pour votre formation.

  • 1-8 Participants
  • Séquençage :
    7h/jour
  • Pré-requis :
    Connaissances en administration système, préférablement Java
Fleche
Dernières demandes
pour une Formation
  • Il y a 14 minutes par Miladi i.
  • Il y a 1 heure par Youssouf a.
  • Il y a 7 heures par Caroline o.

OBJECTIFS :

Comprendre le Big Data et ses enjeux - Savoir déployer Hadoop et son écosystème - Comprendre HDFS, MapReduce - Structurer les données avec HBase - Écrire des requêtes avec HiveQL - Lancer une analyse avec Pig

PROGRAMME :

Introduction au Big Data

Qu'est-ce que le Big Data ?
Source des données : l'homme, la machine
La problématique de taille
Position de Hadoop dans le paysage

Introduction à Hadoop

L'origine du projet
Le système de fichiers HDFS
Comprendre l'algorithme MapReduce
L'environnement d'Hadoop : HBase, ZooKeeper, Hive, Pig…
L'API YARN

Mettre Hadoop en place : HDFS

Du mode autonome au mode complètement distribué en cluster
Pré-requis, distributions Hadoop
Cluster Hadoop : NameNode, ResourceManager, DataNode, NodeManager
Les fichiers de configuration
Opérations de base sur le cluster HDFS : formatage, démarrage, arrêt

Atelier pratique : installer Hadoop sur 2 nœuds, formater et manipuler HDFS

Travailler avec MapReduce

L'intérêt de MapReduce
Mappers, reducers, parallélisme et indépendance des traitements
Entrées, sorties
Soumission d'un job à Hadoop

Atelier pratique : exécuter une tâche via MapReduce, avec sortie dans HDFS

Une base de données distribuée : HBase

L'accès aléatoire, temps réel, lecture-écriture au Big Data
Fonctionnalités de HBase, NoSQL
Pré-requis, configuration
Manipulation via le shell HBase

Atelier pratique : mettre en place HBase sur Hadoop, créer et manipuler une table

Et pourquoi pas un peu de SQL avec Hive ?

Présentation de Hive
Gérer le schéma : bases, tables, vues, partitions
Manipulation des données, requêtes et map-reduce avec HiveQL
Audits et journal d'erreurs

Atelier pratique : chargement de données massives dans Hive, requêtes

Analyser les données avec Pig

Présentation, installation du projet Apache Pig
Exécutions de Pig en local, en mode map-reduce
Scripter pour Pig
Le langage Pig Latin
Manipulations de données et stockage avec Pig

Atelier pratique : écrire un script contenant du Pig Latin pour une tâche simple, et l'exécuter en local, puis en mode map reduce.

Aller plus loin avec Hadoop

Gérer les logs et l'audit de tâches Hadoop
Découvrir MRUnit pour les test unitaires dans Hadoop
Débogage en local
Surveillance des perfomances

Atelier pratique : mise en place d'un job MapReduce plus complexe avec traces et tests unitaires

OBSERVATIONS :

AUTRES SITES :

Lille, Lyon, Nantes, Paris, Bordeaux, Toulouse, Marseille, Aix, Strasbourg, Rennes, Montpellier

CONTACTER LE CENTRE DAWAN

28-08-2018 05-11-2018

Les champs E-mail ne sont pas identiques

Les champs E-mail ne sont pas identiques

Nous ne cédons et ne revendons pas vos coordonnées à des tiers.

TOUTES LES FORMATIONS SUR LE THèME Business intelligence