Максим У. Data инженер, Senior

ID 29764
МУ
Максим У.
Мужчина, 32 года
Россия, Казань, UTC+3
Ставка
3 012,98 Р/час
НДС не облагается
Специалист доступен с 16 августа 2025 г.

Добавьте подходящих специалистов в список и оформите заявку для предварительного бронирования времени специалистов. После оформления заявки ваш персональный менеджер организует прохождение всех необходимых проверок с вами и каждым кандидатом из заявки. Специалист привлекается к проекту только после окончательного подтверждения его выхода с вашей стороны.

Подробнее
О специалисте
Специализация
Data инженер
Грейд
Senior
Навыки
Agile
Apache AirFlow
Apache NiFi
Bash
CatBoost
ClickHouse
DataLens
DBT
Docker
Flask
Grafana
GreenPlum
Hadoop
hitman
Informatica Power Center
Kafka
Kubernetes
langchain
llm
Looper
Microsoft
Oracle
PostgreSQL
Power BI
Python
Scrum
Snowflake
SQL
SQL Server Agent
Superset
Teradata
ytsaurus
Отрасли
FinTech & Banking
LifeStyle
Знание языков
Английский — C1
Главное о специалисте
Data Engineer с более чем 7 годами опыта в разработке ETL-процессов, аналитических витрин и интеграций данных. Специализируется на автоматизации пайплайнов данных с использованием Apache Airflow, Apache NiFi, dbt и других инструментов. Имеет опыт работы с MPP-базами (Greenplum, Snowflake, Teradata), большими данными (Hadoop, Kafka) и BI-инструментами (Datalens, Power BI, Looker). Разрабатывал решения для классификации контента с использованием ML-моделей (CatBoost) и LLM, а также интеграции с 1С, Salesforce и Zendesk. Руководил командами, оптимизировал процессы миграции данных и обеспечивал контроль качества данных. Обладает навыками построения дашбордов, оптимизации производительности баз данных и разработки методологий валидации данных.
Проекты   (7 лет 4 месяца)
Миграция ETL-процессов и разработка аналитических решений для интеграции инструментов Дзен Платформы в контур ВК
Роль
Аналитик-разработчик данных
Обязанности
- Осуществил миграцию ETL-процессов из Nirvana в Airflow для интеграции инструментов Дзен Платформы. - Разработал и реализовал методику расчета затрат на разметку крауд-платформ против разметки с помощью LLM. - Разработал промпты для определения категории видео, постов и рекламы на основе текста, изображения, аудио и раскадровки. - Доработал узкие места ETL-процессов, влияющих на результаты разметки. - Обучил несколько ML-моделей на CatBoost для классификации контента по категориям. - Собрал дашборды в Datalens для анализа качества, скорости и стоимости разметки.
Достижения
- Успешно мигрировал ETL-процессы, обеспечив интеграцию в контур ВК. - Улучшил качество разметки контента на 15% за счет ML-моделей. - Сократил затраты на разметку на 20% благодаря методологии сравнения крауд-платформ и LLM.
Стек специалиста на проекте
Hadoop, Apache AirFlow, CatBoost, DataLens, hitman, llm, ytsaurus
Отрасль проекта
LifeStyle
Период работы
Октябрь 2024 - Август 2025  (11 месяцев)
Разработка фичей для витрин данных корпоративного блока и доработка бэкенда продукта "Мост Данных" для интеграции данных в DWH
Роль
Аналитик-разработчик данных
Обязанности
- Разработка фичей для расчета клиентских метрик в витринах данных. - Разработка интеграций с внешними источниками для обогащения витрин. - Разработка инструментов для автоматизации миграции данных: сбор метаинформации, удаление мусора, создание объектов по подобию, создание тестовых слоев данных, оптимизация объектов. - Написание временного шедулера для запуска SQL-скриптов взамен Airflow. - Разработка методологии валидации клиентских атрибутов для улучшения конверсии. - Доработка бэкенда приложения "Мост Данных" для интеграции данных из API, веб-сайтов, облачных хранилищ и 1С. - Написание интеграции с Apache NiFi для базовых ETL-процессов. - Написание интеграции с 1С для миграции данных в PostgreSQL: получение списка объектов, атрибутов и слияние данных.
Достижения
- Ускорил миграцию данных на 30% за счет автоматизации. - Улучшил конверсию на 10% благодаря методологии валидации атрибутов. - Обеспечил интеграцию данных из 1С в PostgreSQL с точностью 100%.
Стек специалиста на проекте
PostgreSQL, Kubernetes, Hadoop, GreenPlum, 1С, Apache AirFlow, Apache NiFi, Superset
Отрасль проекта
FinTech & Banking
Период работы
Август 2022 - Октябрь 2024  (2 года 3 месяца)
Разработка аналитических витрин и систем контроля качества данных для бизнес-пользователей
Роль
Data Engineer
Обязанности
- Руководство командой из двух дата-инженеров. - Разработка аналитических витрин по заказу бизнес-пользователей. - Построение системы контроля качества данных с оповещением в BI об ошибках. - Проектирование специфических операторов для Airflow (Salesforce, Zendesk, ActivityRecords). - Переписка моделей источников в Looker для самостоятельного создания дашбордов пользователями. - Выполнение технических работ для масштабируемости баз данных, отказоустойчивости ETL и ускорения работы аналитиков.
Достижения
- Сократил время создания дашбордов на 25% за счет переписки моделей в Looker. - Повысил отказоустойчивость ETL-процессов на 20%. - Внедрил систему контроля качества данных, снизив ошибки на 15%.
Стек специалиста на проекте
Zendesk, Apache AirFlow, Salesforce, Snowflake, Looper, DBT
Отрасль проекта
LifeStyle
Период работы
Ноябрь 2021 - Декабрь 2022  (1 год 2 месяца)
Формат работы
Тип занятости
Фулл-тайм
Формат работы
Удаленно
Командировки
Не готов
Релокация
Не готов
Готов работать на зарубежных проектах
Нет
Образование
Высшее
Учебное заведение
Национальный исследовательский университет "Высшая школа экономики"
Специальность
татистический анализ в экономике (Магистр)
Завершение учебы
2018 г.

Похожие специалисты

E-commerce & Retail • FinTech & Banking
ДЧ
Даниил Ч.
Сочи
Data инженер
Senior
4 007,57 Р/час
Apache AirFlow
Apache NiFi
Apache Spark
Bash
Big Data
CI/CD
ClickHouse
clickstream
Data
DBT
+38

Даниил — Data инженер уровня Senior из Сочи, Россия. Специализируется на работе с большими данными, имеет опыт работы в отраслях FinTech & Banking и E-commerce & Retail. Ключевые навыки включают Apache AirFlow, Apache NiFi, Apache Spark, Bash, Big Data, CI/CD, ClickHouse, DBT, Docker, DWH, ETL, Git, GitLab CI, Hadoop, Hive, Kafka, Kubernetes, Linux, PostgreSQL, PySpark, Python, RabbitMQ, Redis, SQL, Trino и другие. Имеет высшее образование по специальности «Информатика и вычислительная техника» и среднее профессиональное образование по направлению «Информационная безопасность телекоммуникационных систем» Сибирского Государственного Университета Телекоммуникаций и Информатики. Опыт работы на проектах: - В роли Data Engineer Team Lead участвовал в нескольких проектах банка (с августа 2020 года), где занимался разработкой архитектурных решений, управлением командой, планированием задач, ревью кода, разработкой ETL процессов поставки данных в DWH, оптимизацией производительности и другими задачами. - В роли Data Engineer работал над проектом по хранению данных и технической поддержке пользователей в компании из сферы E-commerce & Retail (апрель — август 2019 года), где выполнял задачи по технической поддержке пользователей, обслуживанию вычислительной техники, обучению сотрудников и ревью.

Подробнее
E-commerce & Retail • FinTech & Banking • Government & Public Sector
КН
Кирилл Н.
Ростов-на-Дону
Data инженер
Middle+
3 896,1 Р/час
Ansible
Apache AirFlow
Astra Linux
Atlassian
Bash
Bitbucket
Cassandra
Celery
CI/CD
Docker
+66

Кирилл — data-инженер из Ростова-на-Дону. Обладает опытом работы на проектах в сферах FinTech & Banking, Government & Public Sector и E-commerce & Retail. На проекте для компании из сферы FinTech & Banking занимался обработкой больших объёмов информации, анализом данных, разработкой дата-пайплайнов и организацией data quality. Использовал Python, bash, Hadoop, Greenplum, PL/pgSQL, Atlassian, Jupyter, Hue, Hive, Airflow, Superset, Power Bi, PySpark, Pandas, PyArrow. Для государственной компании разрабатывал детальный слой и строил витрины, писал пайплайны по доставке и обработке данных. Использовал Python, Apache Airflow, Git, Posgresql. В качестве python-разработчика для госструктуры создавал скрипты для автоматизации бизнес-процессов и администрирования оборудования, а также писал процедуры для баз данных. В работе использовал Python, Bash, FastAPI, Sqlalchemy, ansible, postman, Git, pgsql, Linux, Docker, Prometheus, Grafana и др. Опыт работы на позиции python-разработчика включал аналитику данных и контроль data quality, разработку скриптов по автоматизации и эксплуатацию измерительной техники. Использовал Python, bash, MySQL, Postgresql, Astra Linux, SecretNet. На последнем месте работы в сфере E-commerce & Retail занимался интеграцией реляционных и нереляционных источников, настройкой мониторинга и алертинга, нормализацией и очисткой данных. Работал со стеком из MongoDB, Postgres, S3, YandexCloud, Greenplum, Python, SQL, Ni-Fi, Airflow, Kafka, k8s, Jenkins, Github, ELK, Grafana, Vault.

Подробнее
E-commerce & Retail • FinTech & Banking
АМ
Артем М.
Москва
Data инженер
Middle+
5 844,15 Р/час
Basics
Java
Pl/SQL
Python
R
SAS
Scala
SQL
Docker
GitLab CI/CD
+49

Артём — опытный Data-инженер, специализирующийся на разработке платформ данных и интеграции различных источников информации. Обладает навыками работы с такими инструментами, как PostgreSQL, Clickhouse, Kafka, Elasticsearch, Airflow, Spring, а также имеет опыт использования технологий Apache Ignite, Hadoop, Hive, Spark, PySpark. Артём участвовал в нескольких проектах, где проявил себя как специалист по разработке сложных архитектур данных. В одном из проектов он разработал платформу данных с нуля, организовал процесс миграции из различных источников и оптимизировал существующие таблицы Clickhouse. В другом проекте Артём разработал продукт для расчёта активов с весом риска для отдела рисков. Он также реализовал конвейеры данных, создал платформу для модульного тестирования и разработал индивидуальную интеграцию с различными внутренними API.

Подробнее
E-commerce & Retail • FinTech & Banking
КЯ
Кирилл Я.
Минск
Data инженер
Middle+
3 545,15 Р/час
aks
Analytics
Apache AirFlow
Apache Kafka
Apache NiFi
Apache Spark
Apache Superset
AWS
Azure
Azure SQL
+50

Data Engineer с опытом работы на проектах в сфере E-commerce & Retail и FinTech & Banking. На проектах занимался разработкой аналитических платформ, DWH и систем аналитики. Обязанности: - разработка ETL-пайплайнов в Apache Airflow и Apache NiFi; - обработка больших объёмов данных с использованием PySpark, Pandas, NumPy; - оптимизация интеграции Hadoop (HDFS); - агрегация данных в ClickHouse для BI-отчётов; - визуализация данных в Power BI и Superset; - мониторинг и оптимизация производительности запросов в Snowflake; - интеграция PostgreSQL и MS SQL; - использование Docker и Kubernetes для контейнеризации ETL-компонентов; - создание детальных технических проектных документов; - сотрудничество с командой аналитиков; - проведение тестирования системы; - настройка CI/CD-конвейеров с помощью GitLab CI/CD.

Подробнее

Недавно просмотренные специалисты

BioTech, Pharma, Health care & Sports • E-commerce & Retail • Government & Public Sector • Manufacturing • Marketing, Advertising & Design • Media • Telecom
СХ
Сергей Х.
Москва
Ruby разработчик
Senior
3 596,53 Р/час
messaging
metrics
ELK
Grafana
language
Kanban
rswag
rubocop
stimulus
MS Windows
+66

Занимаюсь разработкой на Ruby on Rails около 14 лет. Умение писать оптимизированный и безопасный код, покрытый тестами, понимание принципов ООП и паттернов проектирования. Опыт разработки REST API по спецификации JSONAPI и написанием контрактов для Swagger. Знание паттернов проектирования в ООП, принципы проектирования архитектуры (12-factor app, solid, dry, yagni, kiss, inversion of control, dependency injection, DI-Container, sqrs, event-sourcing) Опыт разработки мультитенантной архитектуры и api для мобильных приложений. Опыт работы в команде (gitlab, jira, confluence, kanban, ci/cd) Опыт full-stack разработки новостного портала с посещаемостью >9млн/мес. Умение самостоятельно решать задачи, самообучаемость, стремление к наилучшему решению.

Подробнее
E-commerce & Retail
ФА
Фарит А.
Москва
Python разработчик
Senior
3 236,88 Р/час
Compose
Grafana
GitLab
MS Windows
asyncpg
SOLID
SQLAlchemy
Numpy
XML
Git
+49

Фарит — Senior Python разработчик из Москвы с опытом работы 13 лет 2 месяца. Специализируется на разработке в области E-commerce & Retail. Имеет квалификацию кандидата технических наук по специальности «Системный анализ» и инженера по специальности «Промышленная электроника». Ключевые навыки: Apache AirFlow, Asyncio, asyncpg, Django, Docker, FastAPI, Flask, Git, Google Docs, Hadoop, htmlxml, Kafka, Kubernetes, Linux, Machine learning, MS Windows, Numpy, Pandas, PostgreSQL, Pydantic, Pytest, Python, PyTorch, SQL, SQLAlchemy, API, Celery, CI/CD, code-review, Compose, Confluence, Django ORM, ELK Stack, GitLab, Grafana, Jira, MongoDB, MyPy, Poetry, Prometheus, Redis, Requests, ruff, Sentry, SOLID, Unit testing, нереляционные БД (NoSQL). Владеет английским языком на уровне C1. Принимал участие в следующих проектах: - RUSH Agency: роль — Python developer/Team Lead. Проектирование архитектуры сервисов и их взаимной связи, алгоритмов работы сервисов, внутренних и внешних интерфейсов. Управление командой разработки. - Модуль парсинга сайтов фирм-производителей с выстраиванием дерева зависимостей дополнений и апдейтов программного обеспечения: роль — Python developer. Парсинг сайтов, работа с Pytest, реляционными и nosql БД (Mongo), Sqlalchemy. - ASDI Programming: роль — Python and JAVA developer. Проектирование архитектуры, выбор и адаптация алгоритмов работы, проектирование внутренних и внешних интерфейсов, кодирование, установка и сопровождение программных модулей.

Подробнее