Игорь И. Data инженер, Lead

ID 16917
ИИ
Игорь И.
Мужчина
Россия, Санкт-Петербург, UTC+3
Ставка
5 194,8 Р/час
НДС не облагается
Специалист доступен с 2 января 2026 г.

Добавьте подходящих специалистов в список и оформите заявку для предварительного бронирования времени специалистов. После оформления заявки ваш персональный менеджер организует прохождение всех необходимых проверок с вами и каждым кандидатом из заявки. Специалист привлекается к проекту только после окончательного подтверждения его выхода с вашей стороны.

Подробнее
О специалисте
Специализация
Data инженер
Грейд
Lead
Навыки
Agile
AWS
Azure
Big Data
Cassandra
ClickHouse
cloud
Git
Hadoop
Hive
Java
Jedis
Kafka
Kubernetes
Scala
Software
Spark
Streams
lead
Apache AirFlow
green
plum
atlas
HDFS
Kafka Streams
MongoDB
NiFi
PostgreSQL
PySpark
Python
Java 11
Spring
Azure Blob Storage
Jenkins
Jupyter
Maven
Yarn
hdinsight
Java 8
Oracle Database
osgi
TestNG
Power BI
Отрасли
Cloud Services
E-commerce & Retail
LifeStyle
Знание языков
Русский — C2
Английский — B2
Главное о специалисте
Игорь — опытный data-инженер с семилетним опытом работы в крупных проектах. Он обладает глубокими знаниями и навыками в области Big Data, Hadoop, Spark, Kafka, Cassandra, Clickhouse, Kubernetes, Java, Scala, Python и других технологий. Игорь участвовал в разработке корпоративного хранилища данных для крупного ритейлера, где отвечал за архитектуру системы. Также он руководил сервисной группой дата-инженеров в проекте Detego, занимался поиском специалистов, созданием архитектуры СХД, управлением данными и определением приоритетности задач команды. В качестве ведущего инженера Игорь разрабатывал и поддерживал микросервисное приложение публикации-подписки, а также участвовал в создании платформы данных с нуля для всемирной розничной компании. Кроме того, он работал над проектом по разработке системы Identity Management.
Проекты   (9 лет 9 месяцев)
Разработка архитектуры корпоративного хранилища данных для крупного ритейла.
Роль
Solution architect
Обязанности
Разработка архитектуры корпоративного хранилища данных для крупного ритейла.
Стек специалиста на проекте
Spark, ClickHouse, Hadoop, Apache AirFlow, green, plum
Отрасль проекта
E-commerce & Retail
Период работы
Октябрь 2023 - По настоящее время  (1 год 9 месяцев)
Detego
Роль
Head of data department
Обязанности
Руководитель сервисной группы дата-инженеров. Отвечали за платформу данных, используемую отделами BI, ML, финансов, маркетинга и логистики. Поиск нужных специалистов с нужным набором навыков, создание архитектуры СХД, добавление управления данными, определение приоритетности задач команды, проведение тендеров.
Стек специалиста на проекте
Jedis, NiFi, atlas, Spark, Hive, Power BI, MongoDB, Scala, Hadoop, HDFS, Kafka Streams, PySpark, Python, Apache AirFlow, PostgreSQL
Отрасль проекта
LifeStyle
Период работы
Апрель 2022 - Октябрь 2023  (1 год 7 месяцев)
Разработка и поддержка микросервисного приложения публикации-подписки, широко используемого рядом команд заказчика.
Роль
Lead data engineer
Обязанности
Обязанности: Выполнение POC Тестирование и настройка производительности. Документация. Ведущая оффшорная команда. Создание кластера Spark Kubernetes. Достижения: Разработанный и интегрированный модуль проверки работоспособности. Создана команда морских инженеров для независимой работы. Выполнены контрольные проверки по сбору и обработке метрик времени выполнения из заданий Spark. Создал форк Spark из исходных кодов с поддержкой Kubernetes и развернул его в Kubernetes вместе с Airflow.
Стек специалиста на проекте
Scala, Kubernetes, Spark, Cassandra, Kafka, Java 11, Spring, HDFS
Отрасль проекта
E-commerce & Retail
Период работы
Сентябрь 2020 - Апрель 2022  (1 год 8 месяцев)
Формат работы
Тип занятости
Фулл-тайм
Формат работы
Удаленно
Командировки
Не готов
Релокация
Не готов
Готов работать на зарубежных проектах
Нет
Образование
Высшее
Учебное заведение
Санкт-Петербургский государственный университет
Специальность
Факультет прикладной математики - процессов управления, Теория управления
Завершение учебы
2015 г.

Похожие специалисты

E-commerce & Retail • EdTech • RnD
АК
Алексей К.
Белград
Data инженер
Senior
4 110,32 Р/час
Python
Hadoop
Apache AirFlow
AWS
AWS RDS
Bash
beams
Big Data
BigQuery
C++
+106

Алексей — опытный Data инженер с более чем шестилетним опытом работы в проектах RnD, E-commerce & Retail и EdTech. В портфолио Алексея есть несколько успешных проектов: Customer360, разработка программного обеспечения для бухгалтерского учёта для одного из крупнейших розничных продавцов товаров для дома, Apache Superset по визуализации данных для целей BI, внутренний проект, направленный на решение проблем повторного развёртывания групп DAG Airflow на учётных записях Kohls и IAS, IAS Python Upgrade, настройка и поддержка кластера Hadoop/Spark, разработка приложений на Hadoop/Spark для научных целей. Алексей участвовал в разработке и поддержке групп DAG Airflow для преобразования данных, включая сшивание данных; разработал и спроектировал Metadag Airflow DAG, которая автоматизирует и повышает уровень понимания процессов в команде C360; выполнил общую миграцию из локальных в облачные сервисы; получил большой опыт в разработке приложений Flask, выполнении миграций БД с использованием SQLAlchemy и Alembic; разработал внутреннюю систему контроля доступа для приложения Superset; разработал пакет Python3 airflow-redeploy, который упрощает процесс повторного развёртывания групп DAG через официальный REST API и плагин REST API.

Подробнее
E-commerce & Retail • FinTech & Banking
АМ
Артем М.
Москва
Data инженер
Middle+
5 844,15 Р/час
Basics
Java
Pl/SQL
Python
R
SAS
Scala
SQL
Docker
GitLab CI/CD
+49

Артём — опытный Data-инженер, специализирующийся на разработке платформ данных и интеграции различных источников информации. Обладает навыками работы с такими инструментами, как PostgreSQL, Clickhouse, Kafka, Elasticsearch, Airflow, Spring, а также имеет опыт использования технологий Apache Ignite, Hadoop, Hive, Spark, PySpark. Артём участвовал в нескольких проектах, где проявил себя как специалист по разработке сложных архитектур данных. В одном из проектов он разработал платформу данных с нуля, организовал процесс миграции из различных источников и оптимизировал существующие таблицы Clickhouse. В другом проекте Артём разработал продукт для расчёта активов с весом риска для отдела рисков. Он также реализовал конвейеры данных, создал платформу для модульного тестирования и разработал индивидуальную интеграцию с различными внутренними API.

Подробнее
E-commerce & Retail • FinTech & Banking
КЯ
Кирилл Я.
Минск
Data инженер
Middle+
3 545,15 Р/час
aks
Analytics
Apache AirFlow
Apache Kafka
Apache NiFi
Apache Spark
Apache Superset
AWS
Azure
Azure SQL
+50

Data Engineer с опытом работы на проектах в сфере E-commerce & Retail и FinTech & Banking. На проектах занимался разработкой аналитических платформ, DWH и систем аналитики. Обязанности: - разработка ETL-пайплайнов в Apache Airflow и Apache NiFi; - обработка больших объёмов данных с использованием PySpark, Pandas, NumPy; - оптимизация интеграции Hadoop (HDFS); - агрегация данных в ClickHouse для BI-отчётов; - визуализация данных в Power BI и Superset; - мониторинг и оптимизация производительности запросов в Snowflake; - интеграция PostgreSQL и MS SQL; - использование Docker и Kubernetes для контейнеризации ETL-компонентов; - создание детальных технических проектных документов; - сотрудничество с командой аналитиков; - проведение тестирования системы; - настройка CI/CD-конвейеров с помощью GitLab CI/CD.

Подробнее
AI & Robotics • FinTech & Banking • Travel, Hospitality & Restaurant business
МК
Матвей К.
Минск
Data инженер
Senior
4 155,84 Р/час
Apache AirFlow
Apache Hadoop
apache hive
Apache Spark
Bash scripting
Bitbucket
boot
ClickHouse
cloud
Cloud Functions
+43

Дата-Инженер с опытом работы более 6 лет. Моя цель в работе - стремление добиваться результатов, превосходящих чьи либо ожидания. Я понимаю важность соответствия моей работы конкретным требованиям каждого клиента и умею создавать эффективные стратегии, соответствующие потребностям. Я всегда ищу идеальное решение для всех задач каждого клиента. Языки программирования Python, SQL, Java. Инженерия данных Apache Hadoop, HDFS, Apache Hive, Apache Spark, PySpark, Apache Airflow, dbt, Snowflake. Облачные сервисы Yandex Cloud(DataLens, Object Storage, Compute Cloud, Data Proc, Cloud Functions, Managed Service for PostgreSQL). Базы данных ClickHouse, MS SQL, PostgreSQL, MongoDB, Redis. Брокеры сообщений Kafka. Data Science Pandas, NumPy. Визуализация данных Power BI, Tableau. Бэкенд Spring (MVC, Boot, Security, Data), FastAPI. Моделирование данных Многомерное Моделирование (Схема «Звезда», Схема «Снежинка»), Моделирование Сущность-Связь (ER), Нормализация / Денормализация, Data Vault 2.0. DevOps Docker, Docker Compose, Bash scripting, Kubernetes. Системы контроля версий Git, Bitbucket, GitHub.

Подробнее

Недавно просмотренные специалисты

Cloud Services • E-commerce & Retail • LifeStyle
ИИ
Игорь И.
Санкт-Петербург
Data инженер
Lead
5 194,8 Р/час
Jedis
NiFi
green
atlas
AWS
Yarn
Azure Blob Storage
osgi
ClickHouse
Spark
+43

Игорь — опытный data-инженер с семилетним опытом работы в крупных проектах. Он обладает глубокими знаниями и навыками в области Big Data, Hadoop, Spark, Kafka, Cassandra, Clickhouse, Kubernetes, Java, Scala, Python и других технологий. Игорь участвовал в разработке корпоративного хранилища данных для крупного ритейлера, где отвечал за архитектуру системы. Также он руководил сервисной группой дата-инженеров в проекте Detego, занимался поиском специалистов, созданием архитектуры СХД, управлением данными и определением приоритетности задач команды. В качестве ведущего инженера Игорь разрабатывал и поддерживал микросервисное приложение публикации-подписки, а также участвовал в создании платформы данных с нуля для всемирной розничной компании. Кроме того, он работал над проектом по разработке системы Identity Management.

Подробнее