IoTDB 必备工具:数据目录、TsFile 及资源文件查看方法

# IoTDB 必备工具:数据目录、TsFile 及资源文件查看方法


在IoTDB的日常运维和开发中,了解数据存储的物理结构、掌握查看工具的使用方法,是高效管理时序数据库的关键能力。无论是排查数据异常、验证写入结果,还是进行数据迁移,都需要与数据目录、TsFile文件及其资源文件打交道。本文系统梳理IoTDB的核心文件分布及查看工具,帮助读者快速定位和理解数据存储细节。


## 一、IoTDB数据目录结构解析


IoTDB的数据存储遵循清晰的层级结构,所有数据文件均位于安装目录的`data`文件夹下。理解这一目录结构,是后续查看文件的基础。


### 1. 核心目录概览


| 目录路径 | 存储内容 | 关键文件说明 |

|---------|---------|---------|

| `data/data/` | 时序数据文件 | 按存储组、分区组织,存放TsFile数据文件和对应的资源索引文件 |

| `data/system/` | 系统元数据 | 包含`mlog.txt`(元数据操作日志)、`system.properties`(系统属性)等 |

| `data/wal/` | 写前日志 | 数据写入时先记录WAL,保障数据可靠性,内存刷盘后自动清理 |


### 2. 数据目录深度解读


`data/data`目录的组织方式为:**顺序/乱序数据 → 存储组 → 分区号 → 数据文件**。具体路径如:`data/data/sequence/root.ln/0/1672531200000-101-0.tsfile`。


- **sequence/unsequence**:分别存放顺序写入和乱序写入的数据

- **存储组名称**:如`root.ln`,作为数据隔离的容器

- **分区号**:按时间分区(默认7天一个分区),提升查询效率

- **TsFile文件**:命名格式为`{时间戳}-{版本号}-{合并次数}.tsfile`


### 3. 系统目录关键文件


`data/system`目录下有几个重要文件需要关注:


- **mlog.txt**:元数据日志,记录所有存储组、时间序列的创建/删除操作。重启时系统会重放此日志重建元数据。

- **system.properties**:记录启动后不可变更的系统参数,如时间精度、分区粒度等。

- **tlog.txt**:存储时间序列的标签和属性信息。


## 二、TsFile文件查看方法


TsFile是IoTDB的原生列式存储格式,直接查看其内容有助于数据校验和问题排查。IoTDB提供了多种查看工具。


### 1. TsFile Viewer图形化工具


Apache IoTDB官方提供了TsFile Viewer,这是一个专门用于浏览TsFile文件的图形化工具,允许用户在不启动数据库的情况下直接查看文件中的数据结构和内容。


**安装方式**:


```bash

# 克隆源码

git clone https://github.com/apache/iotdb-tsfile-viewer.git


# 编译打包

cd tsfile-viewer/

mvn clean package -Dmaven.test.skip=true

```


编译后在`target`目录生成可执行JAR包,可通过命令行启动图形界面,直观查看TsFile中的时间序列数据、时间戳和数值。


### 2. 命令行打印工具


IoTDB提供了`print-iotdb-data-dir.sh`脚本,可以打印数据目录的整体概览信息:


```bash

# 进入IoTDB安装目录下的tools/tsfile目录

cd $IOTDB_HOME/tools/tsfile


# 执行数据目录查看脚本

./print-iotdb-data-dir.sh -d /path/to/iotdb/data/data

```


该脚本会递归扫描数据目录,输出每个TsFile的基本信息,包括文件路径、时间范围、序列数量等,适合快速了解数据分布。


### 3. Java API读取TsFile


对于需要编程方式读取TsFile的场景,可以使用TsFile提供的Java API:


```java

import org.apache.iotdb.tsfile.read.ReadOnlyTsFile;

import org.apache.iotdb.tsfile.read.TsFileSequenceReader;

import org.apache.iotdb.tsfile.read.common.Path;

import org.apache.iotdb.tsfile.read.expression.QueryExpression;

<"eve.a8k1.org.cn"><"wef.a8k1.org.cn"><"sgv.a8k1.org.cn">

public class TsFileReaderExample {

    public static void main(String[] args) throws IOException {

        // 创建TsFile序列读取器

        try (TsFileSequenceReader reader = 

             new TsFileSequenceReader("path/to/file.tsfile")) {

            

            // 构建查询表达式

            QueryExpression expression = QueryExpression.create()

                .addSelectedPath(new Path("root.ln.wf01.wt01.temperature"));

            

            // 读取数据

            ReadOnlyTsFile roTsFile = reader.asReadOnlyTsFile();

            roTsFile.open(expression);

            

            while (roTsFile.hasNext()) {

                System.out.println(roTsFile.next());

            }

            roTsFile.close();

        }

    }

}

```


## 三、资源文件的作用与查看


每个TsFile文件都伴随一个同名的`.resource`资源文件,如`1672531200000-101-0.tsfile.resource`。这个文件存储了TsFile的概要信息和索引数据,包括:


- 时间序列的统计信息(最小值、最大值)

- 数据块的偏移量位置

- 时间索引范围


资源文件的存在使得查询时可以快速定位数据所在位置,无需扫描整个TsFile。查看资源文件内容,可以使用IoTDB提供的工具类:


```bash

# 使用print-tsfile-resource-files.sh脚本

./print-tsfile-resource-files.sh -f /path/to/1672531200000-101-0.tsfile.resource

```


## 四、跨平台集成工具


### 1. Spark集成读取TsFile


对于大数据分析场景,IoTDB提供了TsFile-Spark-Connector,允许Spark直接读取TsFile作为数据源:


```scala

import org.apache.iotdb.tsfile._


// 读取单个TsFile(宽格式)

val wideDF = spark.read.tsfile("hdfs://localhost:9000/data/1672531200000-101-0.tsfile")

wideDF.show()

<"hxd.a8k1.org.cn"><"dve.a8k1.org.cn"><"awx.a8k1.org.cn">

// 读取目录下所有TsFile

val df = spark.read.tsfile("hdfs://localhost:9000/data/sequence/root.ln")

```


### 2. HetuEngine跨源查询


在华为云等企业环境中,可以通过HetuEngine将IoTDB作为数据源,实现与其他数据源的联合查询。配置IoTDB数据源后,即可用SQL直接查询IoTDB中的数据。


## 五、常见运维操作


### 1. 强制刷盘


正常情况下,数据先写入WAL和内存,内存达到阈值后才写入TsFile。如果需要强制将内存数据落盘,可以在CLI中执行:


```sql

flush

```


执行后,内存中的数据会立即写入TsFile,同时清除对应的WAL日志。


### 2. 手动清理残留数据


在某些异常场景(如删除存储组失败),可能需要手动清理数据目录中的残留文件。操作时需格外谨慎:


```bash

# 先查找需要清理的路径

find ./ -type d -name 'root.test.storage*'


# 确认后删除

rm -rf ./data/data/sequence/root.test.storage

rm -rf ./data/system/schema/root.test.storage

```


## 六、总结


掌握IoTDB的数据目录结构及文件查看工具,是高效运维的基础。通过`print-iotdb-data-dir.sh`可以快速了解数据分布,TsFile Viewer提供图形化查看体验,Java API和Spark Connector则满足程序化访问需求。结合资源文件的索引信息,用户可以深入理解数据存储细节,为性能调优和问题排查提供有力支撑。


请使用浏览器的分享功能分享到微信等