Режимы сжатия
Протокол ClickHouse поддерживает сжатие блоков данных с контрольными суммами. Используйте LZ4, если не уверены, какой режим выбрать.
подсказка
Узнайте больше о кодеках сжатия колонок, доступных и укажите их при создании ваших таблиц или позже.
Режимы
| value | name | description |
|---|---|---|
0x02 | None | Без сжатия, только контрольные суммы |
0x82 | LZ4 | Экстремально быстрый, хорошее сжатие |
0x90 | ZSTD | Zstandard, довольно быстрый, лучшее сжатие |
Оба LZ4 и ZSTD созданы одним автором, но с разными компромиссами. Согласно бенчмаркам Facebook:
| name | ratio | encoding | decoding |
|---|---|---|---|
| zstd 1.4.5 -1 | 2.8 | 500 MB/s | 1660 MB/s |
| lz4 1.9.2 | 2.1 | 740 MB/s | 4530 MB/s |
Блок
| field | type | description |
|---|---|---|
| checksum | uint128 | Хэш (заголовок + сжатые данные) |
| raw_size | uint32 | Исходный размер без заголовка |
| data_size | uint32 | Размер несжатых данных |
| mode | byte | Режим сжатия |
| compressed_data | binary | Блок сжатых данных |
Заголовок состоит из (raw_size + data_size + mode), исходный размер включает len(header + compressed_data).
Контрольная сумма — это hash(header + compressed_data), используя ClickHouse CityHash.
Режим None
Если используется режим None, compressed_data равен исходным данным. Режим без сжатия полезен для обеспечения дополнительной целостности данных с контрольными суммами, поскольку накладные расходы на хеширование незначительны.
