Лучше пост сделаю
Лучше пост сделаю
В целом вот правильный ответ -
https://t.me/data_penguin/229?comment=4524
Точнее так - это проблема была в моем dwh. Но там еще интересные варианты написали
👍
Просто это вроде как очевидно, но я об это не задумывался пока не столкнулся с замедлением.
Рассказываю историю..
Во многих таблицах делали ежемесячные партиции. Все работало нормально. Годы шли, хранилище росло и теперь к концу месяца многие потоки стали долго работать.
Например, по одной таблице раньше за один день прилетало
50к
строк. И за месяц было ~1,5 млн строк (это нормальный размер для партиции). А теперь прилетает
~1млн
строк в день. Партиции к концу месяца уже десятки миллионов строк.
Конечно выбор данных из них всё медленнее и медленнее. Хотя по классике в скриптах чаще всего фильтр стоит по дню и нам не нужно просматривать целый месяц.
В общем, решение:
Там где это можно и не поломает запросы -
аккуратно переходим на недельные партиции
. Запросы стали бегать быстрее
✅
Откликнуться в Telegram →
⚠️ Никогда не платите «за оформление» или «гарантию трудоустройства» — это признак мошенников. Работа ТРУ не несёт ответственности за содержание вакансии.