Data Warehouse Calculator v1.0

Калькулятор Data Warehouse

Рассчитайте размер хранилища, оцените производительность запросов, выберите схему данных, стратегию партиционирования и сравните стоимость облачных DWH-платформ.

Загрузка калькулятора Data Warehouse...
6
Модулей расчёта
Star
vs Snowflake
SCD
Type 1/2/3
5
Облачных провайдеров

Зачем планировать Data Warehouse?

Хранилище данных (DWH) — центральный элемент аналитической инфраструктуры компании. Ошибки в проектировании схемы, выборе партиционирования или облачного провайдера ведут к медленным запросам, раздутым счетам и потере данных. Правильное планирование экономит миллионы рублей ежегодно.

Размер и рост хранилища

Объём DWH складывается из факт-таблиц (транзакции, события) и таблиц измерений (справочники, каталоги). Колоночное сжатие (LZ4, ZSTD) уменьшает размер в 3-5 раз. Важно прогнозировать рост на 1-3 года вперёд для планирования бюджета.

Size = (Fact_rows × row_size + Dim_tables × dim_rows × dim_row_size) × compression

Производительность запросов

Время аналитических запросов зависит от объёма данных, количества JOIN-ов, типа агрегаций, наличия индексов и партиционирования. Правильная архитектура позволяет выполнять запросы к терабайтам данных за секунды.

T_query = (Data / Scan_rate) × JOIN_factor × AGG_factor × INDEX × PARTITION

Data Warehouse в России

Российские компании активно строят собственные хранилища данных после ухода зарубежных вендоров. Основные тренды: импортозамещение на отечественные СУБД, переход на открытые решения и локальные облачные платформы.

Требования ФЗ-152 о хранении данных в РФ делают выбор Yandex Cloud, VK Cloud и Selectel приоритетным. ClickHouse, Greenplum (Arenadata) и PostgreSQL стали основой аналитических платформ крупнейших компаний.

CH

ClickHouse

Российская OLAP-СУБД от Яндекса. Колоночное хранение, миллиарды строк/с.
GP

Greenplum / Arenadata

MPP-DWH для enterprise. Популярен в банках, телекоме, ритейле.
YC

Yandex Cloud

Managed ClickHouse, Data Proc, DataSphere. Инфраструктура в России.

Возможности калькулятора

S

Размер хранилища

Оценка объёма факт-таблиц и измерений, выбор сжатия (LZ4, ZSTD, GZIP), прогноз роста на месяцы и годы.

Q

Производительность

Оценка времени запроса с учётом JOIN-ов, агрегаций, индексов, партиций и размера кластера. P50/P95/P99.

D

Схема данных

Сравнение Star, Snowflake и денормализации. Оценка JOIN-ов, размера строк, коэффициента хранения.

P

Партиционирование

Расчёт оптимального размера партиций, экономии от pruning, сравнение time-based и hash-based стратегий.

$

Стоимость

Расчёт стоимости хранения и вычислений для BigQuery, Redshift, Snowflake, ClickHouse Cloud и Yandex.

M

Data Modeling

Оценка SCD Type 1/2/3: overhead хранения, рост версий, сравнение подходов к медленно меняющимся измерениям.

ЧАСТЫЕ ВОПРОСЫ

Часто задаваемые вопросы

Data Warehouse (DWH) — это структурированное хранилище данных, оптимизированное для аналитических запросов (OLAP). Данные организованы в схемы Star/Snowflake с факт-таблицами и измерениями. Data Lake хранит данные в сыром виде (Parquet, JSON, CSV) без жёсткой схемы. Современный тренд — Data Lakehouse, объединяющий оба подхода.
Star Schema (Кимболл) — плоские измерения, меньше JOIN-ов, быстрые запросы. Подходит для большинства случаев. Snowflake (Инмон) — нормализованные измерения, меньше избыточности, но больше JOIN-ов. Используется при ограниченном хранилище или строгих требованиях к консистентности.
Стоимость зависит от провайдера: BigQuery — $20/ТБ/мес хранение + $5/ТБ запросы. Redshift — $24/ТБ/мес + ноды. Snowflake — $23/ТБ/мес + кредиты. ClickHouse Cloud — $15/ТБ/мес. Yandex Managed CH — от $10/ТБ/мес. Для 10 ТБ рассчитывайте на $100–$500/мес только за хранение.
SCD — методы управления изменениями в таблицах измерений. Type 1 просто перезаписывает данные (без истории). Type 2 создаёт новую строку для каждого изменения (полная история, но рост хранилища). Type 3 добавляет столбцы prev_ для предыдущих значений. Выбор зависит от требований к аудиту и бюджета хранилища.
Партиционирование разбивает таблицу на части по ключу (дата, хеш). Partition pruning позволяет сканировать только нужные партиции. Например, запрос за последние 7 дней к таблице с годовыми данными прочитает только 2% данных, ускорив выполнение в 50 раз. Оптимальный размер партиции: 64 МБ – 2 ГБ.
ClickHouse — #1 для аналитики, разработан Яндексом. Greenplum/Arenadata — MPP-DWH для enterprise (банки, телеком). Yandex Managed ClickHouse — managed-сервис с автомасштабированием. PostgreSQL + Citus — для средних нагрузок. Также используются Apache Druid, Apache Doris и StarRocks.
Размер DWH = (строки факт-таблицы × размер строки + сумма измерений) × коэф. сжатия. Типичное сжатие для колоночных OLAP (ZSTD): 3–5x. Добавьте 30% на индексы, метаданные и временные таблицы. Учтите рост данных: 10–20% в год для большинства компаний.

Полезные ресурсы

CH

ClickHouse

Российская колоночная OLAP-СУБД. Обработка миллиардов строк в секунду, идеальна для DWH и аналитики.

BQ

Google BigQuery

Serverless DWH от Google. Автомасштабирование, оплата по запросам, встроенный ML (BigQuery ML).

SF

Snowflake

Мультиоблачный DWH. Разделение хранения и вычислений, Time Travel, Zero-Copy Cloning.

RS

Amazon Redshift

MPP-DWH от AWS. Columnar storage, RA3 ноды с управляемым хранилищем, интеграция с экосистемой AWS.

dbt

dbt (data build tool)

Трансформация данных в DWH через SQL. Версионирование моделей, тесты, документация, lineage.

GP

Greenplum / Arenadata

MPP-DWH на базе PostgreSQL. Enterprise-решение для российских банков и телекома. Импортозамещённый.

Лиана Арифметова
АВТОРverifiedред. calcal.ru

Лиана Арифметова

Создатель и главный редактор

Миссия: демократизировать сложные расчёты. Превратить страх перед числами в ясность и контроль. Девиз: «Любая повторяющаяся задача заслуживает своего калькулятора».

Mathematical Engineering · МФТИ · редактирует каталог с 2012 года

Был ли этот калькулятор полезен?

ОТКАЗ ОТ ОТВЕТСТВЕННОСТИ

Инструмент справочный — не заменяет эксперта

Только для информационных целей. Все расчёты, результаты и данные, предоставляемые инструментом, носят исключительно ознакомительный и справочный характер. Они не являются профессиональной консультацией — медицинской, юридической, финансовой, инженерной или иной.

Точность результатов. Калькулятор основан на общепринятых формулах и методиках, однако фактические результаты могут отличаться в зависимости от индивидуальных условий, исходных данных и применяемых стандартов. Мы не гарантируем полноту, точность или актуальность приведённых расчётов.

Профессиональные решения — медицинские, финансовые, инженерные — должны приниматься только после консультации с квалифицированным специалистом. Не используйте автоматический расчёт как единственное основание для важных решений.

Ограничение ответственности. Авторы и разработчики сервиса не несут ответственности за прямой или косвенный ущерб, возникший из-за использования данных расчётов. Пользователь принимает на себя всю ответственность за интерпретацию результатов.

СМЕЖНЫЕ ИНСТРУМЕНТЫ

Похожие калькуляторы

15

ETL Калькулятор: тайминг, ресурсы, Incremental vs Full, SLA, ошибки

Комплексный калькулятор ETL (Extract-Transform-Load). Оценка времени извлечения, трансформации и загрузки, подбор CPU/RAM/диска, сравнение Incremental и Full Load, расчёт SLA, анализ ошибок и Dead Letter Queue.

/etl-calculator

Калькулятор Data Pipeline: throughput, хранилище, партиции, стоимость

Комплексный калькулятор дата-пайплайна. Расчёт пропускной способности (throughput), объёма хранилища (Parquet/ORC/Avro), партиционирования Kafka/Spark, сравнение Batch vs Streaming, метрики качества данных (DQ) и стоимость AWS/GCP/Yandex Cloud.

/data-pipeline-calculator

Калькулятор машинного обучения: метрики, обучение, гиперпараметры

Расчёты ML: метрики модели (F1, Precision, Recall, MCC), стоимость обучения на GPU, поиск гиперпараметров, анализ датасета, сложность модели (FLOPs) и кросс-валидация.

/machine-learning-calculator

Калькулятор нейронных сетей: архитектура, градиенты, активации

Проектирование архитектуры нейросети (Dense, Conv2D, LSTM, Attention), анализ обратного распространения и градиентов, сравнение функций активации, Learning Rate scheduler, Batch Normalization и регуляризация (L1/L2, Dropout, Weight Decay).

/neural-network-calculator

NLP Калькулятор: токенизация, TF-IDF, BLEU, перплексия

Комплексный калькулятор обработки естественного языка (NLP). Токенизация текста (GPT, BERT, T5), сходство текстов (Jaccard, косинусное, Левенштейн), TF-IDF, оценки BLEU/ROUGE, параметры эмбеддингов, перплексия и энтропия.

/nlp-calculator

Калькулятор компьютерного зрения: CNN, детекция, аугментация

Комплексный калькулятор компьютерного зрения. Архитектура CNN (выходной размер, параметры, рецептивное поле), метрики детекции (mAP, IoU, NMS), предобработка изображений, аугментация данных, сравнение моделей (ResNet, YOLO, ViT) и видеообработка.

/computer-vision-calculator

Калькулятор BI Dashboard: производительность, лицензии, KPI, adoption

Комплексный калькулятор BI-дашбордов. Производительность (виджеты, время загрузки, concurrent users), расписание обновления данных, сравнение стоимости Power BI/Tableau/DataLens/Metabase/Superset, подбор виджетов, KPI framework, метрики внедрения DAU/MAU.

/bi-dashboard-calculator

Объединить PDF онлайн — без загрузки на сервер

Склейка PDF в браузере через pdf-lib. До 20 файлов, до 50 МБ каждый. Локально, без отправки на сервер (152-ФЗ).

/obyedinit-pdf-onlajn-besplatno

Сжать PDF онлайн — уменьшить размер локально

Сжатие PDF в браузере без потери качества. 3 уровня (object streams, удаление метаданных). До 50 МБ. Через pdf-lib, локально.

/szhat-pdf-onlajn-umenshit-razmer

Разделить PDF на страницы — извлечь нужные онлайн

Разделение PDF на страницы локально: каждая страница отдельным файлом, диапазон или группами. Через pdf-lib, без отправки на сервер.

/razdelit-pdf-na-stranicy-onlajn

JPG в PDF — конвертер с объединением

Конвертация JPG/PNG в PDF в браузере: до 30 картинок в один документ. Форматы A4/A3/Letter или подгонка под изображение.

/jpg-v-pdf-konverter

Повернуть страницы PDF онлайн

Поворот всех или указанных страниц PDF на 90/180/270° за миллисекунды. Lossless. Через pdf-lib, без отправки на сервер.

/povernut-pdf-stranitsy-onlajn

Водяной знак на PDF онлайн (кириллица)

Нанесение текстового знака («КОНФИДЕНЦИАЛЬНО», «ЧЕРНОВИК») на все страницы PDF. Поддержка русского текста через Canvas. 4 положения, регулировка прозрачности.

/dobavit-vodyanoj-znak-na-pdf

Нумерация страниц PDF онлайн

Проставьте номера страниц PDF в браузере: 4 формата, 6 положений, пропуск титульной, кастомный старт. Поддержка кириллицы. Через pdf-lib + Canvas.

/numerovat-stranitsy-pdf-onlajn

PDF в JPG / PNG — конвертер страниц

Рендеринг каждой страницы PDF в картинку через pdfjs-dist (Mozilla). 4 уровня качества: 96 / 150 / 300 DPI и lossless PNG. До 50 МБ.

/pdf-v-jpg-konverter-onlajn