Data Engineer. Часть 1 [OTUS] [Егор Матещук, Артемий Козырь и другие]
Что даст вам этот курс
После обучения Data Engineering вы станете востребованным специалистом, который:
Что даст вам этот курс
- понимание ключевых способов интеграции, обработки, хранения больших данных
- умение работать с компонентами экосистемы Hadoop, распределенными хранилищами и платформами
- практические навыки разработки дата-сервисов, витрин и приложений
- знание принципов организации мониторинга, оркестрации, тестирования
После обучения Data Engineering вы станете востребованным специалистом, который:
- разворачивает, налаживает и оптимизирует инструменты обработки данных
- адаптирует датасеты для дальнейшей работы и аналитики
- создает сервисы, которые используют результаты обработки больших объемов данных
- отвечает за архитектуру данных в компании
- Прежде чем попасть на стол CEO в виде квартального отчета или индивидуальной подборкой книг в email-рассылке, данные проделывают длительный и сложный, полный преобразований и трансформаций, путь, требующий непрерывного мониторинга и оркестрации.
- В этом ключе команда инженеров, которая готова обеспечить непрерывную поставку достоверной информации для всех бизнес-потребителей и функций играет важнейшую роль в принятии тактических и стратегических решений всей компании.
- Работа инженеров данных, внешне незаметная, удивительно сложна и интересна по своей специфике. Невероятное количество закономерностей и связей, инструментов и подходов, параметров и настроек не оставят равнодушным ни один пытливый ум в поисках оптимальных и элегантных решений.
Темы первого модуля:
- Инженер данных - задачи, навыки, инструменты, потребности на рынке
- Эволюция подходов работы с данными. Базовые принципы и понятия
- Облачные платформы. GCP, AWS, Azure
- Дистрибутивы Cloudera и Hortonworks
- Распределенные файловые системы
- Инструменты выгрузки данных из сторонних систем
- Форматы данных и их особенности