Код: EDU-BD-HADM Специализация: Авторские курсы: СУБД и хранилища данных
Продолжительность - 5 дней
Расписание:
19 июня 2023 года (Москва)
25 сентября 2023 года (Москва)
Стоимость:
110 000 руб.
Apache Hadoop является наиболее популярной открытой платформой для распределенных вычислений. Данный курс содержит информацию по планированию и развертыванию распределенных вычислительных кластеров на базе Hadoop, мониторингу и оптимизации производительности системы, резервному копированию и аварийному восстановлению узлов кластера и отдельных компонент, настройки безопасности системы Kerberos на базе Hadoop.
Курс "Администрирование кластера Hadoop" построен на сквозных практических примерах развертывания и администрирования Hadoop кластера, в том числе в облачной инфраструктуре; использования компонент Hadoop для запуска задач распределенных вычислений с тестовыми данными. Практические занятия выполняются в кластерной среде Amazone Web Services с использованием дистрибутивов Cloudera Distributed Hadoop и программного обеспечения управления кластером Cloudera Manager.
5 дней практического обучения установке и настройке кластера Hadoop, безопасность Kerberos, Apache Sentry, Cloudera Navigator, мониторинг, репликация и резервное копирование, взаимодействие с компонентами экосистемы Hadoop: Spark, Hive, sqoop, HDFS, MapReduce.
Примечание: с 1 января 2019 года данный курс проводится в объединеном формате по дистрибутивам Hadoop версии 2 компаний Cloudera/HortonWorks/ArenaData на выбор для пользователей. Для корпоративного формата обучения возможна выделенная программа по одной версии дистрибутива Hadoop (уточняйте у менеджера).
Аудитория: Системные администраторы, системные архитекторы, разработчики Hadoop желающие получить практические навыки по установке, конфигурированию, обслуживанию и управлению кластером Hadoop с использованием дистрибутива Cloudera и Cloudera Manager.
Предварительный уровень подготовки:
Начальный опыт работы в Unix, опыт работы с текстовым редактором vi (желателен)
Программа курса
Введение в Big Data
Что такое BigData. Понимание проблемы Big Data
Эволюция систем распределенных вычислений Hadoop
Принципы формирования Data Lake и pipelines
Архитектура Apache Hadoop
Hadoop сервисы и основные компоненты. Name node. DataNode.
YARN сервис-планировщик
Демоны HDFS
Отказоустойчивость и высокая доступность
Hadoop Distributed File System
Архитектура HDFS. Блоки HDFS.
Основные команды работы с HDFS.
Операции чтения и записи, назначения HDFS.
Дисковые квоты. Поддержка компрессии
Основные форматы хранения данных TXT, AVRO, ORC, Parquet, Sequence файлы
Импорт (загрузка) данных на HDFS
Организация Tiering для хранения данных
Архивное хранение HDFS
Локальное чтение и распределенное кэширование
Map Reduce
Ведение в MapReduce. Компоненты MapReduce. Работа программ MapReduce. YARNMapReduce v2/3
Ограничения и параметры MapReduce и YARN
Управление запуском пользовательских задач (jobs) под MapReduce
Дизайн кластера Hadoop
Сравнение дистрибутивов и версий Hadoop 2/3 (Cloudera Distributed Hadoop CDP, Horton Works Data Platform, Arenadata Hadoop): различия и ограничения
Интеграция с другими решениями: streaming (Data Flow), NoSQL.
Установка кластера CDP
Оптимизация OS для узлов кластера
Установка Hadoop-кластера с использованием Cloudera Data Platform Private Cloud
Выбор начальной конфигурации
Начальная конфигурация HDFS и MapReduce
Файлы логов и конфигураций
Установка Hadoop клиентов
Установка Hadoop кластера в облаке
Автоматические варианты установки
Установка и настройка кластера Hadoop в изолированном окружении (offline).
Операции обслуживания кластера Hadoop
Дисковая подсистема
Квоты
Остановка, запуск, перезапуск (Graceful Shutdown)
Управление узлами
Управление обновлениями и создание локального репозитория
Оптимизация и управление ресурсами
Поиск узких мест
Производительность. Файловая система. Data Node и Data layout и партиционирование, bucketing
Планировщики: FIFO scheduler. Планировщик емкости (Capacity Scheduler). Гранулярное управление ресурсами (Fair Scheduler). Защита очередей и доминантное управление ресурсами DRF.
Особенности управления ресурсами для разных дистрибутивов
Управление кластером Hadoop с использованием Cloudera Manager
Основные операции и задачи ClouderaManager
Мониторинг с Cloudera Manager/Grafana
Диагностика и разрешение проблем с Cloudera Manager
Обзор Apache Zookeeper
Cloudera Manager API
Безопасность Apache Hadoop
Безопасность по умолчанию
Многопользовательский режим
Аутентификация и авторизация с использованием Active Directory(Microsoft), REALM MIT/FreeIPA: Kerberos, keytabs, principals. Установка и конфигурирование Kerberos в Hadoop
Обзор возможностей компонент безопасности Apache Ranger, Apache Knox, Apache Atlas
Резервное копирование и аварийное восстановление
Репликация данных и snapshoting. Конфигурирование высокой доступности NameNode (HA)
Best practices Cloudera/ Arenadata
Мониторинг Apache Hadoop
Встроенные средства мониторинга Cloudera Manager
Логи сервисов и компонент
Troubleshooting
Data Node
Name Node
Восстановление Name Node
Инструментарий Apache Hadoop экосистемы
Графический интерфейс сервиса HUE/Zeppelin
Основы Apache Zookeeper
Введение в Hadoop SQL: Apache Hive, понятие Hive-таблицы, установка Hive
Использование Apache Sqoop – установка и выполнение базовых операций
Базовые операции Apache Flume – установка и выполнение базовых операций
Обзор и назначение компонент: Apache Spark, Apache Solr, Cloudera Impala, Apache HBase, Apache Phoenix, Apache NiFi, Apache Kafka, Apache Oozie
Примерный список практических занятий: • Ручная установка кластера Hadoop с дистрибутива Cloudera Distributed Hadoop на локальной системе 3х-узловый кластер • Установка 3х-узлового кластера в облаке Amazon Web Services с использованием Cloudera Manager • Базовые операции с кластером Hadoop и файловые операции HDFS. • Управление ресурсами и запуском задач с использованием YARN MapReduce. • Управление кластером с использованием Cloudera Manager(развертывание сервисов, репликация, мониторинг, alerting и т.д.) • Настройка аутентификации Kerberos для кластера Hadoop под управление Cloudera Manager • Установка и выполнение базовых операций в Apache Hive, Apache sqoop, Apache Flume, Apache Spark • Выполнение задач в веб-интерфейсе HUE • Настройка мониторинга кластера Hadoop с использованием Zabbix (опционально) • Настройка высокой доступности Name Node (опционально).
Примечание: • Доступ к лабораторному стенду на Amazon Web Services предоставляется на время учебных курсов с 8:30 до 18:30 (возможно продление времени по запросу) • Практические занятия с меткой (опционально) выполняются по желанию и при наличии свободного времени у слушателей
В конце обучения на курсе проводится итоговая аттестация в виде теста или на основании оценок за практические работы, выполненных в процессе обучения.
В современном мире сложно обойтись без информационных технологий и их производных - компьютеров, мобильных телефонов, интернета и т.д., особенно в крупных компаниях и государственных организациях, работающих с большим количеством людей, а не только с парой VIP-клиентов, как это может быть в случае небольшой компании. А там, где есть большое количество контрагентов, заявителей и т.д. - не обойтись без баз данных, необходимых для обработки информации. Естественно, что времена гроссбухов и карточек, памятных многим по библиотекам, давно прошли, сегодня используются персональные компьютеры и электронные базы данных.
Сегодня невозможно представить работу крупнейших компаний, банков или государственных организаций без использования баз данных и средств Business Intelligence. Базы данных позволяют нам хранить и получать доступ к большим объемам информации, а система управления базами данных (СУБД) — осуществлять менеджмент доступных хранилищ информации.
В Учебном центре « Интерфейс» Вы научитесь эффективно использовать системы управления базами данных: быстро находить нужную информацию, ориентироваться в схеме базы данных, создавать запросы, осуществлять разработку и создание баз данных.
Обучение позволит Вам не только получить знания и навыки, но и подтвердить их, сдав соответствующие экзамены на статус сертифицированного специалиста . Опытные специалисты по СУБД Microsoft SQL Server или Oracle могут быть заинтересованы в изучении систем бизнес-аналитики. Это задачи достаточно сложные, использующие громоздкий математический аппарат, но они позволяют не только анализировать происходящие процессы, но и делать прогнозы на будущее, что востребовано крупными компаниями. Именно поэтому специалисты по бизнес-аналитике востребованы на рынке, а уровень оплаты их труда весьма и весьма достойный, хотя и квалифицированным специалистам по базам данных, администраторам и разработчикам, жаловаться на низкий уровень дохода тоже не приходится. Приходите к нам на курсы и получайте востребованную и высокооплачиваемую профессию. Мы ждем Вас!
В конце обучения на курсах проводится итоговая аттестация в виде теста или путём выставления оценки преподавателем за весь курс обучения на основании оценок, полученных обучающимся при проверке усвоения изучаемого материала на основании оценок за практические работы, выполненные в процессе обучения.
Учебный центр "Интерфейс" оказывает консалтинговые услуги по построению моделей бизнес-процессов, проектированию информационных систем, разработке структуры баз данных и т.д.
Нужна помощь в поиске курса? Наша цель заключается в обеспечении подготовки специалистов, когда и где им это необходимо. Возможна корректировка программ курсов по желанию заказчиков! Мы расскажем Вам о том, что интересует именно Вас, а не только о том, что жестко зафиксировано в программе курса. Если вам нужен курс, который вы не видите на графике или у нас на сайте, или если Вы хотите пройти курс в другое время и в другом месте, пожалуйста, сообщите нам, по адресу mail@interface.ru или shopadmin@itshop.ru
Поговорите со своим личным тренинг-менеджером! Мы предоставляет Вам индивидуальное обслуживание. Если у вас есть потребность обсудить, все вопросы касательно обучения, свяжитесь, пожалуйста c нами по телефонам: +7 (495) 925-0049, + 7 (495) 229-0436. Или любым другим удобным для Вас средствами связи, которые Вы можете найти на сайтах www.interface.ru или www.itshop.ru
