Репликация топиков Kafka: опыт и подводные камни использования MirrorMaker 2.0 в каршеринге

Моя цель - предложение широкого ассортимента товаров и услуг на постоянно высоком качестве обслуживания по самым выгодным ценам.

При масштабировании инфраструктуры Kafka неизбежно встаёт вопрос репликации данных между кластерами. Будь то разделение потоков данных между командами, обеспечение резервирования между ЦОДами или даже плавная миграция на новую платформу — все эти задачи требуют надёжного инструмента для передачи сообщений.

Для организации репликации топиков между кластерами в команде автоматизации информационных систем каршеринга Ситидрайв мы используем MirrorMaker 2.0. Этот инструмент входит в стандартный стек Kafka и позволяет гибко управлять потоками данных, но при этом имеет свои нюансы и ограничения.

В этой статье я расскажу, как мы на практике внедрили MirrorMaker 2.0, с какими подводными камнями столкнулись, как настроили мониторинг и автоматизацию, а также какие альтернативные решения существуют на рынке. Гоу!

Источник: https://habr.com/ru/companies/citydrive/articles/886694/


Интересные статьи

Интересные статьи

В этой статье я расскажу об интеграции с Keycloak — популярным опенсорсным продуктом для управления доступом (IAM). Многие компании используют его для организации единого входа (Single Sign-On, SSO) в...
Проведение нагрузочного тестирования стало необходимостью в связи с резким ростом онлайн-аудитории интернет-магазина в периоды маркетинговых рассылок. Если в обычное время количество пользователей сос...
В процессе разработки почти любого приложения необходим удобный механизм по работе с данными из БД. В данной статье речь пойдет о таком расширении для СMS Bitrix, как alexpr94/bitrix-models, устанавли...
Всем привет, снова на связи СЕО CRM-интегратора Пуск, Сергей Михнов. Хочу поделиться опытом команды о доработках коробочного Битрикс24.Сразу скажу, это не реклама коробочной версии или Битрикс24 в при...
Как в 80-х предки Microsoft Office и Google Docs обеспечили популярность ПК, привели к массовым сокращениям штата бухгалтеров и на долгие годы завоевали сердца некоторых писателей. ...