(Big Data курсы для администраторов Data Flow)
Продолжительность: 3 дня, 24 академических часа.
Где используется Apache Kafka
На практике Apache Кафка широко применяется в следующих задачах:
Apache Kafka активно используется во множестве отечественных и зарубежных Big Data проектов, от высоконагруженных веб-платформ обработки больших данных до корпоративных систем управления промышленным производством. Специалисты по Kafka (инженеры данных, администраторы кластера, разработчики Data Flow) востребованы в различных отраслях деятельности: банковский сектор, медицина, промышленные предприятия, страхование, автомобильное производство и т.д.
Соотношение теории к практике 40/60.
3—дневный курс обучения по Kafka позволит вам получить и систематизировать знания по использованию Кафка для организации распределенной обработки событий (Event Stream Processing) на практических примерах с потоковыми данными в реальном времени. Курс содержит расширенные сведения по установке распределенного кластера Apache Kafka (Confluent), настройке безопасности Kerberos и интеграции с другими продуктами, мониторинга и оптимизации Kafka в соответствии с лучшими практиками (best practices).
Вы изучите необходимый теоретический минимум, чтобы понять основные концепции этого брокера сообщений и узнаете некоторые особенности управления кластером Кафка. Преподаватель курса администрирования Apache Kafka подробно объяснит все тонкости установки, конфигурирования, мониторинга и прикладного использования этой Big Data системы, чтобы вы могли самостоятельно работать с ней в реальности.
На практике вы развернете собственный кластер Apache Kafka, настроив его конфигурацию, средства обеспечения информационной безопасности (cybersecurity) и инструменты мониторинга.
Наши курсы обучения по Kafka ориентированы на системных администраторов, разработчиков Big Data систем и DevOps-инженеров, которые хотят получить следующие знания и навыки:
Предварительный уровень подготовки: Начальный опыт работы в Unix.
Введение в Kafka
Что такое Apache Kafka?
Сценарии использования Kafka
Компоненты Kafka и Kafka экосистемы
Архитектура Kafka
Кластер Zookeeper
Потоковая Обработка Событий(Event Stream Processing): Терминология и основные концепции.
Основные концепции Kafka
Как работает Kafka: Топики (Topics) и партиций (Partitions). Репликация данных.
Брокеры (Brokers): Развертывание. Конфигурация Multibroker
Поставщики данных (Producers): Типы партиций. Синхронные и асинхронные Producers. Параметры конфигурации. Java API
Потребители данных (Consumers): Очереди Consumers. Широковещание (Broadcasting).
Установка кластера Apache Kafka
Требования по установке кластера Kafka
Установка и настройка кластера Zookeeper: Настройка кворума. Конфигурация сервисов и файловой системы. Оптимизация и отказоустойчивость Zookeeper.
Установка и настройка кластера Kafka: Планирование установки и sizing кластера Kafka. Типовые проблемы при установке. Запуск и первоначальное конфигурирование Kafka. Конфигурация Listeners. Отказоустойчивость кластера Kafka. Kafka менеджер.
Установка кластера Kafka на AWS
Репликация кластера с использованием Mirror Maker (Confluent Replicator)
Базовые операции в Apache Kafka
Операции с Топиками (Topic)
Публикация данных с консольного Producer
Получение данных с консольного Consumer
Пользовательские интерфейсы топика Kafka (Topics UI)
Разбор примеров кода producer
Разбор примеров кода consumer
Оптимизация кластера Apache Kafka
Оптимизация производительности компонент кластера
Масштабирование кластера
Балансировка разделов(partition) и использование Partition Reassignment Tools
Балансировка с использованием ADB (Auto Data Balancing)
Best Practices Kafka/Confluent
Мониторинг кластера Kafka
Настройка мониторинга кластера Kafka (Confluent) с использованием Prometheus + Grafana ( Telegraf/Influx + Grafana)
Интеграция с Apache Kafka
Использование Apache NiFi
Интеграция Apache Flume с Kafka
Сценарии интеграции с Apache Kafka
Расширенная конфигурация кластера Kafka
Расширенная конфигурация топиков (Topic): Изменение конфигурации топиков. Sizing(количество партиций и фактор репликации). Сегменты и индексы. Политика очистки логов (Log Cleanup Policy). Сжатие и консолидация данных в логах.
Confluent REST Proxy
Настройка Confluent Schema Registry
Архитектура Kafka Connect
Безопасность в Kafka
Шифрование SSL: Установка центра сертификатов (CA), настройка SSL для Kafka кластера и клиентов
Аутентификация SSL/SASL
Аутентификация Kerberos: Настройка Kerberos. Keytabs и principals. Настройка кластера Kafka и клиентов для поддержки Kerberos
Авторизация в Kafka
Управление списками управления доступом (ACL)
Администрирование кластера Kafka
Продолжительность - 24 часа
Закажите консультацию и мы будем рады ответить на все ваши вопросы!
Подпишитесь на последние обновления и узнавайте о новинках и специальных предложениях первыми!
Copyright © 2023 Dtu.kz. Все права защищены
Заполните простую анкету ниже и мы обязательно с вами свяжемся!