57 lines
3.9 KiB
Markdown
57 lines
3.9 KiB
Markdown
---
|
||
title: 多级存储
|
||
---
|
||
|
||
## 多级存储
|
||
|
||
说明：多级存储功能仅企业版支持。
|
||
|
||
在默认配置下，TDengine 会将所有数据保存在 /var/lib/taos 目录下，而且每个 vnode 的数据文件保存在该目录下的不同目录。为扩大存储空间，尽量减少文件读取的瓶颈，提高数据吞吐率 TDengine 可通过配置系统参数 dataDir 让多个挂载的硬盘被系统同时使用。
|
||
|
||
除此之外，TDengine 也提供了数据分级存储的功能，将不同时间段的数据存储在挂载的不同介质上的目录里，从而实现不同“热度”的数据存储在不同的存储介质上，充分利用存储，节约成本。比如，最新采集的数据需要经常访问，对硬盘的读取性能要求高，那么用户可以配置将这些数据存储在 SSD 盘上。超过一定期限的数据，查询需求量没有那么高，那么可以存储在相对便宜的 HDD 盘上。
|
||
|
||
多级存储支持 3 级，每级最多可配置 16 个挂载点。
|
||
|
||
TDengine 多级存储配置方式如下（在配置文件/etc/taos/taos.cfg 中）：
|
||
|
||
```
|
||
dataDir [path] <level> <primary>
|
||
```
|
||
|
||
- path: 挂载点的文件夹路径
|
||
- level: 介质存储等级，取值为 0，1，2。
|
||
0 级存储最新的数据，1 级存储次新的数据，2 级存储最老的数据，省略默认为 0。
|
||
各级存储之间的数据流向：0 级存储 -> 1 级存储 -> 2 级存储。
|
||
同一存储等级可挂载多个硬盘，同一存储等级上的数据文件分布在该存储等级的所有硬盘上。
|
||
需要说明的是，数据在不同级别的存储介质上的移动，是由系统自动完成的，用户无需干预。
|
||
- primary: 是否为主挂载点，0（否）或 1（是），省略默认为 1。
|
||
|
||
在配置中，只允许一个主挂载点的存在（level=0，primary=1），例如采用如下的配置方式：
|
||
|
||
```
|
||
dataDir /mnt/data1 0 1
|
||
dataDir /mnt/data2 0 0
|
||
dataDir /mnt/data3 1 0
|
||
dataDir /mnt/data4 1 0
|
||
dataDir /mnt/data5 2 0
|
||
dataDir /mnt/data6 2 0
|
||
```
|
||
|
||
:::note
|
||
|
||
1. 多级存储不允许跨级配置，合法的配置方案有：仅 0 级，仅 0 级+ 1 级，以及 0 级+ 1 级+ 2 级。而不允许只配置 level=0 和 level=2，而不配置 level=1。
|
||
2. 禁止手动移除使用中的挂载盘，挂载盘目前不支持非本地的网络盘。
|
||
3. 多级存储目前不支持删除已经挂载的硬盘的功能。
|
||
|
||
:::
|
||
|
||
## 0 级负载均衡
|
||
|
||
在多级存储中，有且只有一个主挂载点，主挂载点承担了系统中最重要的元数据在座，同时各个 vnode 的主目录均存在于当前 dnode 主挂载点上，从而导致该 dnode 的写入性能受限于单个磁盘的 IO 吞吐能力。
|
||
|
||
从 TDengine 3.1.0.0 开始，如果一个 dnode 配置了多个 0 级挂载点，我们将该 dnode 上所有 vnode 的主目录均衡分布在所有的 0 级挂载点上，由这些 0 级挂载点共同承担写入负荷。在网络 I/O 及其它处理资源不成为瓶颈的情况下，通过优化集群配置，测试结果证明整个系统的写入能力和 0 级挂载点的数量呈现线性关系，即随着 0 级挂载点数量的增加，整个系统的写入能力也成倍增加。
|
||
|
||
## 同级挂载点选择策略
|
||
|
||
一般情况下，当 TDengine 要从同级挂载点中选择一个用于生成新的数据文件时，采用 round robin 策略进行选择。但现实中有可能每个磁盘的容量不相同，或者容量相同但写入的数据量不相同，这就导致会出现每个磁盘上的可用空间不均衡，在实际进行选择时有可能会选择到一个剩余空间已经很小的磁盘。为了解决这个问题，从 3.1.1.0 开始引入了一个新的配置 `minDiskFreeSize`，当某块磁盘上的可用空间小于等于这个阈值时，该磁盘将不再被选择用于生成新的数据文件。该配置项的单位为字节，其值应该大于 2GB，即会跳过可用空间小于 2GB 的挂载点。
|