RedLab разработала ИТ-инфраструктуру для продуктового ритейлера

Аутстаффинг ИТ-специалисты приняли участие в реализации проекта по автоматизации развертывания инфраструктуры. В этой статье делимся кейсом.

О клиенте

Розничная торговая компания управляет сетью магазинов, предлагая широкий ассортимент продуктов питания и товаров повседневного спроса. Организация активно развивает цифровые сервисы для покупателей, внедряет ИТ-решения в свои бизнес-процессы и использует инновационные технологии, например: ИИ, компьютерное зрение, Bluetooth-маячки, IoT (интернет вещей), аудиобейджи и роботизированные дарксторы.

О проекте

Клиент постоянно модернизирует внутренние системы и приложения. Поэтому пришел в RedLab с запросом на создание отказоустойчивой инфраструктуры для обработки больших объемов данных (10+ ТБ ежедневно) в реальном времени и пакетном режиме. Также требовалось обеспечить автоматизацию ETL-процессов, централизованный мониторинг и гибкое масштабирование в условиях переменной нагрузки.

Описание задачи

DevOps-инженерам RedLab предстояло создать надежную, автоматизированную и гибкую систему. Были определены следующие задачи:

1. Спроектировать и развернуть облачную ИТ-инфраструктуру на базе Kubernetes.
2. Организовать изолированные среды для аналитических команд.
3. Обеспечить интеграцию с хранилищами данных, безопасное управление секретами и высокую наблюдаемость процессов.

Реализация

ИТ-специалисты провели следующие работы:

1. Составили четкую структуру системы и продумали, какие компоненты повысят устойчивость ИТ-продукта и обеспечат стабильные результаты компании.
2. Развернули высокодоступный кластер Kubernetes с autoscaling и поддержкой large-memory нод. Удалось обеспечить бесперебойную работу критичных сервисов и легко адаптировать ресурсы под изменяющуюся нагрузку.
3. Реализовали пайплайны данных через Apache Airflow с KubernetesExecutor для динамического запуска DAG’ов в изолированных контейнерах, что привело к быстрому и безопасному анализу сведений.
4. Установили и настроили Apache Spark для распределенной обработки данных (batch и streaming). В итоге производительность аналитики повысилась.
5. Автоматизировали CI/CD пайплайн для Airflow DAG’ов и Spark job’ов. Это минимизировало ручной труд, ускорило вывод новых функций и снизило количество ошибок при деплое.
6. Встроили логирование (Loki Stack) и мониторинг (Prometheus + Grafana). Нововведение дает полную картину работы ПО и помогает оперативно реагировать на инциденты.
7. Настроили разграничение доступа и управление секретами через Vault и RBAC, тем самым обеспечили надежную защиту информации и гибкое управление правами пользователей.
8. Сформировали техническую документацию по взаимодействию с построенной инфраструктурой для инхаус-сотрудников.

Результат

Команда RedLab смогла разработать отказоустойчивую ИТ-инфраструктуру, компоненты которой легко масштабируется под нагрузку без увеличения постоянных затрат. Новая система позволила повысить управляемость бизнес-процессов и увеличить прозрачность данных для аналитиков и инженеров. Время обработки информации увеличилось в 6 раз — с 6 часов до 1 часа. Вывод новых ETL-пайплайнов сократился с нескольких дней до нескольких часов.

Источник.