Tsm file真正持久化存储数据

---

Tsm file （.tsm）真正用于数据持久化存储。文件格式主要由为4 部分组成： Header、Blocks、Index、Footer。

1. Header由两部分组成MagicNumber和Version，MagicNumber用于描述文件存储引擎，Version记录引擎版本。

2. Blocks内部是一些连续的 Block，Block是 influxdb中的最小读取对象，每次读取操作都会读取一个 Block。每一个 Block分为 CRC32值和 Data两部分，CRC32 值用于校验 Data 的内容是否有问题。

3. Index存放的是Blocks里内容的索引。influxdb在做查询操作时，可以根据 Index的信息快速定位到Tsm file 中需要查询的 block 的位置。

4. Footer位于Tsm file 的最后8字节，存放了 Index的起始位置在 Tsm file 中的偏移量，方便将索引信息加载到内存中。

Compactor 合并压缩线程

---

Compactor组件在后台持续运行，每隔 1 秒会检查一次是否有需要压缩合并的数据。其主要有两种操作：

1. cache中的数据大小达到阀值后，进行快照，之后转存到一个新的 Tsm文件中。

2. 合并 Tsm文件。将多个小的 Tsm文件合并成一个，使每一个文件尽量达到单个文件的最大值，减少Tsm文件的数量，并且一些数据的删除操作也是在这个时候完成。

shard group 分片逻辑分组

=====================================================================================

Shard groups are logical containers for shards. Shard groups are organized by time and retention policy.

Every retention policy that contains data has at least one associated shard group.

A given shard group contains all shards with data for the interval covered by the shard group.

The interval spanned by each shard group is the shard duration.

每一个retention policy至少有一个shard group，每一个shard group至少有一个shard。数据都会带一个time时间戳，当写入数据时，先通过时间判断（Range Sharding）应该写入哪个shard group，然后根据series进行hash计算（Hash Sharding），决定写入当前shard group下的哪个shard。其如此设计的目的主要有3个：

1. 一定程度上缓解数据写入热点问题。

2. 批量清理过期数据变得简单高效。Compactor通过判断每一个shard group是否过期，过期的就按shard group批量删除数据。

3. 提高数据按时间维度查找的性能。一般情况查询都会带一个时间范围条件，但是如果这个时间范围很大，跨度了几个shard group ，查询性能也会有所下降。

shard duration

=================================================================================

shard duration和shardGroupDuration基本是一致的。shardGroupDuration是根据retention policy的duration计算得来，不过也可以在创建retention policy指定。

The shard duration determines how much time each shard group spans.

The specific interval is determined by the SHARD DURATION of the retention policy.

See Retention Policy management for more information.

For example, given a retention policy with SHARD DURATION set to 1w, each shard group will span a single week and contain all points with timestamps in that week.

retention policy's duration和shardGroupDuration的计算关系如下：

| retention policy’s duration | shardGroupDuration |

| — | — |

| < 2 days | 1 h |

| >= 2 days and <= 6 months | 1 day |

| > 6 months | 7 days |

influxdb客户端查看shard和shard group

=================================================================================================

show shards

---

show shards 可查看所有database的shards分布情况：

show shard groups

---

show shard groups 查看所有database的shard group。

shard物理目录结构

==============================================================================

默认情况下，influxdb数据存储在/var/lib/influxdb/下：

• /var/lib/influxdb/data存储tsm文件。

• /var/lib/influxdb/wal存储wal文件。

• /var/lib/influxdb/meta存放元数据（meta.db），包含系统状态的内部信息，用户信息、数据库/分片元数据、CQs、RPs和订阅等。

/var/lib/influxdb/data目录结构

---

第一层是database目录，第二层是retention policy目录以及_series，rp目录下shard group id目录，shard group id目录下是.tsm文件和fields.idx。

[root@xfyLinux ~]# tree /var/lib/influxdb/data

/var/lib/influxdb/data

├── _internal

│ ├── monitor

│ │ ├── 11

│ │ │ ├── 000000003-000000002.tsm

│ │ │ └── fields.idx

│ │ ├── 12

│ │ │ ├── 000000004-000000002.tsm

│ │ │ └── fields.idx

│ └── _series

│ ├── 00

│ │ └── 0000

│ ├── 01

│ │ └── 0000

│ ├── 02

│ │ └── 0000

│ ├── 03

│ │ └── 0000

│ ├── 04

│ │ └── 0000

│ ├── 05

│ │ └── 0000

│ ├── 06

│ │ └── 0000

│ └── 07

│ └── 0000

└── mytest

├── 30d

│ ├── 15

│ │ ├── 000000003-000000001.tsm

│ │ └── fields.idx

│ ├── 17

│ │ ├── 000000003-000000002.tsm

│ │ └── fields.idx

│ └── 19

│ ├── 000000004-000000004.tsm

│ └── fields.idx

├── autogen

│ └── 3

└── _series

├── 00

│ └── 0000

├── 01

│ └── 0000

├── 02

│ └── 0000

├── 03

│ └── 0000

├── 04

│ └── 0000

├── 05

│ └── 0000

├── 06

│ └── 0000

└── 07

└── 0000

/var/lib/influxdb/wal目录结构

---

第一层是database目录，第二层是retention policy目录，rp目录下是shard group id目录，shard group id目录下是.wal文件。

[root@xfyLinux 00]# tree /var/lib/influxdb/wal

/var/lib/influxdb/wal

├── _internal

│ └── monitor

│ ├── 11

│ ├── 12

│ │ └── _00013.wal

│ ├── 14

│ │ └── _00014.wal

│ ├── 16

│ │ └── _00015.wal

│ ├── 18

│ │ └── _00016.wal

│ ├── 20

│ │ └── _00016.wal

│ ├── 22

│ │ └── _00016.wal

│ └── 24

│ ├── _00005.wal

│ └── _00006.wal

└── mytest

├── 30d

│ ├── 15

│ │ └── _00004.wal

│ ├── 17

│ │ └── _00004.wal

│ └── 19

│ └── _00005.wal

└── autogen

└── 3

shard相关配置

============================================================================

influxdb中数据存储位置、文件大小等一些配置可在/etc/influxdb/influxdb.conf中配置。如下摘取部分配置：

[meta]

存储meta数据

Where the metadata/raft database is stored

dir = “/var/lib/influxdb/meta”

Automatically create a default retention policy when creating a database.

自我介绍一下，小编13年上海交大毕业，曾经在小公司待过，也去过华为、OPPO等大厂，18年进入阿里一直到现在。

深知大多数Java工程师，想要提升技能，往往是自己摸索成长或者是报班学习，但对于培训机构动则几千的学费，着实压力不小。自己不成体系的自学效果低效又漫长，而且极易碰到天花板技术停滞不前！

因此收集整理了一份《2024年Java开发全套学习资料》，初衷也很简单，就是希望能够帮助到想自学提升又不知道该从何学起的朋友，同时减轻大家的负担。

既有适合小白学习的零基础资料，也有适合3年以上经验的小伙伴深入学习提升的进阶课程，基本涵盖了95%以上Java开发知识点，真正体系化！

由于文件比较大，这里只是将部分目录大纲截图出来，每个节点里面都包含大厂面经、学习笔记、源码讲义、实战项目、讲解视频，并且后续会持续更新

如果你觉得这些内容对你有帮助，可以添加V获取：vip1024b （备注Java）

写在最后

为了这次面试，也收集了很多的面试题！

以下是部分面试题截图

一个人可以走的很快，但一群人才能走的更远。不论你是正从事IT行业的老鸟或是对IT行业感兴趣的新人，都欢迎扫码加入我们的的圈子（技术交流、学习资源、职场吐槽、大厂内推、面试辅导），让我们一起学习成长！

点，真正体系化！**

由于文件比较大，这里只是将部分目录大纲截图出来，每个节点里面都包含大厂面经、学习笔记、源码讲义、实战项目、讲解视频，并且后续会持续更新

如果你觉得这些内容对你有帮助，可以添加V获取：vip1024b （备注Java）
[外链图片转存中…(img-3C32gnUt-1712788928802)]

写在最后

为了这次面试，也收集了很多的面试题！

以下是部分面试题截图

[外链图片转存中…(img-QAzsyo6n-1712788928802)]

一个人可以走的很快，但一群人才能走的更远。不论你是正从事IT行业的老鸟或是对IT行业感兴趣的新人，都欢迎扫码加入我们的的圈子（技术交流、学习资源、职场吐槽、大厂内推、面试辅导），让我们一起学习成长！
[外链图片转存中…(img-iRRoFVtd-1712788928802)]