• Главная
  • О компании
  • Каталог курсов
  • Расписание
  • Контакты
Мы на связи:
+7 (7172)79 30 99 Астана
+7 (727) 344 30 99 Алматы
+7 (701) 757 83 23
info@dtu.kz
university@dtu.kz
Digital Transformation University
  • Главная
  • О компании
  • Каталог курсов
  • Расписание
  • Контакты

Big Data

  • Главная
  • Все курсы
  • Big Data
  • Администрирование кластера Kafka

Администрирование кластера Kafka

Digital Transformation University
Big Data
Бесплатно
Big Data
  • Обзор
Бесплатно
  • Обзор

Kafka Cluster Administration

(Big Data курсы для администраторов Data Flow)

Продолжительность: 3 дня, 24 академических часа.

Где используется Apache Kafka

На практике Apache Кафка широко применяется в следующих задачах:

  • интерактивный обмен данными между распределенными приложениями и микросервисами;
  • считывание информации из распределенных файловых систем (HDFS, Amazon S3);
  • организация конвейеров обработки данных (data pipeline);
  • прием технологической информации из интеллектуальных устройств Internet of Things (IoT), в т.ч. промышленного интернета вещей (Industrial IoT, IIoT);
  • обработка событий из журналов корпоративных информационных систем;
  • анализ логов пользовательского поведения на сайтах и в соцсетях.

Apache Kafka активно используется во множестве отечественных и зарубежных Big Data проектов, от высоконагруженных веб-платформ обработки больших данных до корпоративных систем управления промышленным производством. Специалисты по Kafka (инженеры данных, администраторы кластера, разработчики Data Flow) востребованы в различных отраслях деятельности: банковский сектор, медицина, промышленные предприятия, страхование, автомобильное производство и т.д.

Соотношение теории к практике 40/60.

3—дневный курс обучения по Kafka позволит вам получить и систематизировать знания по использованию Кафка для организации распределенной обработки событий (Event Stream Processing) на практических примерах с потоковыми данными в реальном времени. Курс содержит расширенные сведения по установке распределенного кластера Apache Kafka (Confluent), настройке безопасности Kerberos и интеграции с другими продуктами, мониторинга и оптимизации Kafka в соответствии с лучшими практиками (best practices).

Вы изучите необходимый теоретический минимум, чтобы понять основные концепции этого брокера сообщений и узнаете некоторые особенности управления кластером Кафка. Преподаватель курса администрирования Apache Kafka подробно объяснит все тонкости установки, конфигурирования, мониторинга и прикладного использования этой Big Data системы, чтобы вы могли самостоятельно работать с ней в реальности.
На практике вы развернете собственный кластер Apache Kafka, настроив его конфигурацию, средства обеспечения информационной безопасности (cybersecurity) и инструменты мониторинга.

Наши курсы обучения по Kafka ориентированы на системных администраторов, разработчиков Big Data систем и DevOps-инженеров, которые хотят получить следующие знания и навыки:

  • понять, что такое Apache Kafka;
  • научиться устанавливать, настраивать и поддерживать кластера Кафка и Zookeeper;
  • освоить методы администрирования кластера Kafka (Confluent);
  • изучить настройки безопасности для Apache Kafka с использованием SSL, SASL, Kerberos;
  • настраивать мониторинг и оптимизацию очереди сообщений Kafka с использованием практических примеров реализации;
  • интегрировать Apache Кафка с другими Big Data фреймворками (Hadoop, Spark, NiFi, Flume) и внешними системами.

Предварительный уровень подготовки: Начальный опыт работы в Unix.

Программа 

Введение в Kafka
Что такое Apache Kafka?
Сценарии использования Kafka
Компоненты Kafka и Kafka экосистемы
Архитектура Kafka
Кластер Zookeeper
Потоковая Обработка Событий(Event Stream Processing): Терминология и основные концепции.

Основные концепции Kafka
Как работает Kafka: Топики (Topics) и партиций (Partitions). Репликация данных.
Брокеры (Brokers): Развертывание. Конфигурация Multibroker
Поставщики данных (Producers): Типы партиций. Синхронные и асинхронные Producers. Параметры конфигурации. Java API
Потребители данных (Consumers): Очереди Consumers. Широковещание (Broadcasting).
Установка кластера Apache Kafka

Требования по установке кластера Kafka
Установка и настройка кластера Zookeeper: Настройка кворума. Конфигурация сервисов и файловой системы. Оптимизация и отказоустойчивость Zookeeper.
Установка и настройка кластера Kafka: Планирование установки и sizing кластера Kafka. Типовые проблемы при установке. Запуск и первоначальное конфигурирование Kafka. Конфигурация Listeners. Отказоустойчивость кластера Kafka. Kafka менеджер.
Установка кластера Kafka на AWS
Репликация кластера с использованием Mirror Maker (Confluent Replicator)
Базовые операции в Apache Kafka

Операции с Топиками (Topic)
Публикация данных с консольного Producer
Получение данных с консольного Consumer
Пользовательские интерфейсы топика Kafka (Topics UI)
Разбор примеров кода producer
Разбор примеров кода consumer
Оптимизация кластера Apache Kafka

Оптимизация производительности компонент кластера
Масштабирование кластера
Балансировка разделов(partition) и использование Partition Reassignment Tools
Балансировка с использованием ADB (Auto Data Balancing)
Best Practices Kafka/Confluent
Мониторинг кластера Kafka
Настройка мониторинга кластера Kafka (Confluent) с использованием Prometheus + Grafana ( Telegraf/Influx + Grafana)

Интеграция с Apache Kafka
Использование Apache NiFi
Интеграция Apache Flume с Kafka
Сценарии интеграции с Apache Kafka

Расширенная конфигурация кластера Kafka
Расширенная конфигурация топиков (Topic): Изменение конфигурации топиков. Sizing(количество партиций и фактор репликации). Сегменты и индексы. Политика очистки логов (Log Cleanup Policy). Сжатие и консолидация данных в логах.
Confluent REST Proxy
Настройка Confluent Schema Registry
Архитектура Kafka Connect

Безопасность в Kafka
Шифрование SSL: Установка центра сертификатов (CA), настройка SSL для Kafka кластера и клиентов
Аутентификация SSL/SASL
Аутентификация Kerberos: Настройка Kerberos. Keytabs и principals. Настройка кластера Kafka и клиентов для поддержки Kerberos
Авторизация в Kafka
Управление списками управления доступом (ACL)

  • Лекции 0
  • Тесты 0
  • Учебное время 50 hours
  • Навык Все уровни
  • Язык English
  • Студенты 0
  • Оценки Да
  • Поделиться:

Вам Может Понравиться

MB-910T00: Microsoft Dynamics 365 Fundamentals (CRM)Подробнее
Digital Transformation University

MB-910T00: Microsoft Dynamics 365 Fundamentals (CRM)

Хотите подробнее изучить Dynamics 365? Этот курс даст вам общее представление о возможностях Dynamics 365 по взаимодействию с клиентами. Вы познакомитесь с понятием взаимодействия с клиентами, приложениями для взаимодействия с клиентами, включая Dynamics 365 Marketing, Dynamics 365 Sales, Dynamics 365 Customer Service и Dynamics 365 Field Service, а также их основными...

Digital Transformation University
0
student
₸1.00
MB-210T01: Microsoft Dynamics 365 SalesПодробнее
Digital Transformation University

MB-210T01: Microsoft Dynamics 365 Sales

Microsoft Dynamics 365 Sales — это комплексное приложение для управления взаимоотношениями с существующими и потенциальными клиентами. С помощью Dynamics 365 Sales организации могут отслеживать данные о целях продаж, автоматизировать рекомендации, учиться на основе данных и многое другое. Присоединяйтесь к нашей команде всемирно признанных экспертов, так как...

Digital Transformation University
0
student
Бесплатно
MB-920T00: Microsoft Dynamics 365 Fundamentals (ERP)Подробнее
Digital Transformation University

MB-920T00: Microsoft Dynamics 365 Fundamentals (ERP)

Хотите подробнее изучить Dynamics 365? Курс MB-920T00: Microsoft Dynamics 365 Fundamentals (ERP) даст вам общее представление о возможностях Dynamics 365, касающихся финансов и операций. Вы познакомитесь с понятием управления ресурсами предприятия (ERP), а также изучите основные возможности приложений для управления финансами и операциями. Затем мы рассмотрим...

Digital Transformation University
0
student
Бесплатно
CompTIA PenTest+Подробнее
Digital Transformation University

CompTIA PenTest+

Курс CompTIA PenTest+  предназначен для ИТ-специалистов, которые хотят развить навыки тестирования на проникновение, чтобы они могли выявлять уязвимости информационных систем и эффективные методы устранения этих уязвимостей. В частности, студенты, которым также нужны практические рекомендации по надлежащей защите информационных систем и их содержимого. Этот курс также...

Digital Transformation University
0
student
Бесплатно
CompTIA Cybersecurity Analyst (CySA+)Подробнее
Digital Transformation University

CompTIA Cybersecurity Analyst (CySA+)

Курс CompTIA Cybersecurity Analyst (CySA+) подготовит вас к успешному получению этой востребованной сертификации с помощью практического обучения на основе сценариев, чтобы вы были готовы к передовым постоянным угрозам (APT). В этом сертификационном учебном курсе вы получите базовые знания для полной подготовки к экзамену CySA+. Это...

Digital Transformation University
0
student
Бесплатно

+7 (7172) 79 30 99, +7 (727) 344 30 99

info@dtu.kz

© 2023 | Digital Transformation University

Записаться на курс