homework-jianmu/documentation20/webdocs/markdowndocs/Documentation-ch.md

7.5 KiB
Raw Blame History

#TDengine文档

TDengine是一个高效的存储、查询、分析时序大数据的平台专为物联网、车联网、工业互联网、运维监测等优化而设计。您可以像使用关系型数据库MySQL一样来使用它但建议您在使用前仔细阅读一遍下面的文档特别是数据模型与数据建模一节。除本文档之外,欢迎下载产品白皮书

##TDengine 介绍

  • TDengine 简介及特色
  • TDengine 适用场景
  • TDengine 性能指标介绍和验证方法

##立即开始

  • 快捷安装可通过源码、安装包或docker安装三秒钟搞定
  • 轻松启动使用systemctl 启停TDengine
  • 命令行程序TAOS访问TDengine的简便方式
  • 极速体验:运行示例程序,快速体验高效的数据插入、查询

##数据模型和整体架构

  • 数据模型:关系型数据库模型,但要求每个采集点单独建表
  • 集群与基本逻辑单元吸取NoSQL优点支持水平扩展支持高可靠
  • 存储模型与数据分区标签数据与时序数据完全分离按vnode和时间两个维度对数据切分
  • 数据写入与复制流程先写入WAL、之后写入缓存再给应用确认支持多副本
  • 缓存与持久化:最新数据缓存在内存中,但落盘时采用列式存储、超高压缩比
  • 高效查询:支持各种函数、时间轴聚合、插值、多表聚合

##数据建模

  • 创建库:为具有相似数据特征的数据采集点创建一个库
  • 创建超级表:为同一类型的数据采集点创建一个超级表
  • 创建表:使用超级表做模板,为每一个具体的数据采集点单独建表

##高效写入数据

  • SQL写入使用SQL insert命令向一张或多张表写入单条或多条记录
  • Telegraf 写入配置Telegraf, 不用任何代码,将采集数据直接写入
  • Prometheus写入配置Prometheus, 不用任何代码,将数据直接写入
  • EMQ X Broker配置EMQ X不用任何代码就可将MQTT数据直接写入

##高效查询数据

  • 主要查询功能:支持各种标准函数,设置过滤条件,时间段查询
  • 多表聚合查询:使用超级表,设置标签过滤条件,进行高效聚合查询
  • 降采样查询:按时间段分段聚合,支持插值

##高级功能

  • 连续查询(Continuous Query):基于滑动窗口,定时自动的对数据流进行查询计算
  • 数据订阅(Publisher/Subscriber):象典型的消息队列,应用可订阅接收到的最新数据
  • 缓存 (Cache):每个设备最新的数据都会缓存在内存中,可快速获取
  • 报警监测(Alarm monitoring):根据配置规则,自动监测超限行为数据,并主动推送

##连接器

  • C/C++ Connector通过libtaos客户端的库连接TDengine服务器的主要方法
  • Java Connector(JDBC)通过标准的JDBC API给Java应用提供到TDengine的连接
  • Python Connector给Python应用提供一个连接TDengine服务器的驱动
  • RESTful Connector提供一最简单的连接TDengine服务器的方式
  • Go Connector给Go应用提供一个连接TDengine服务器的驱动
  • Node.js Connector给node应用提供一个链接TDengine服务器的驱动

##与其他工具的连接

  • Grafana获取并可视化保存在TDengine的数据
  • Matlab通过配置Matlab的JDBC数据源访问保存在TDengine的数据
  • R通过配置R的JDBC数据源访问保存在TDengine的数据

TDengine集群的安装、管理

  • 安装与单节点的安装一样但要设好配置文件里的参数first
  • 节点管理:增加、删除、查看集群的节点
  • mnode的管理系统自动创建、无需任何人工干预
  • 负载均衡:一旦节点个数或负载有变化,自动进行
  • 节点离线处理:节点离线超过一定时长,将从集群中剔除
  • Arbitrator对于偶数个副本的情形使用它可以防止split brain。

##TDengine的运营和维护

  • 容量规划:根据场景,估算硬件资源
  • 容错和灾备设置正确的WAL和数据副本数
  • 系统配置:端口,缓存大小,文件块大小和其他系统配置
  • 用户管理添加、删除TDengine用户修改用户密码
  • 数据导入:可按脚本文件导入,也可按数据文件导入
  • 数据导出从shell按表导出也可用taosdump工具做各种导出
  • 系统监控:检查系统现有的连接、查询、流式计算,日志和事件等
  • 文件目录结构TDengine数据文件、配置文件等所在目录 Hui Li

##TAOS SQL

  • 支持的数据类型:支持时间戳、整型、浮点型、布尔型、字符型等多种数据类型
  • 数据库管理:添加、删除、查看数据库
  • 表管理:添加、删除、查看、修改表
  • 超级表管理:添加、删除、查看、修改超级表
  • 标签管理:增加、删除、修改标签
  • 数据写入:支持单表单条、多条、多表多条写入,支持历史数据写入
  • 数据查询:支持时间段、值过滤、排序、查询结果手动分页等
  • SQL函数支持各种聚合函数、选择函数、计算函数如avg, min, diff等
  • 时间维度聚合:将表中数据按照时间段进行切割后聚合,降维处理

##TDengine的技术设计

  • 系统模块taosd的功能和模块划分
  • 技术博客:更多的技术分析和架构设计文章

常用工具

##TDengine与其他数据库的对比测试

##物联网大数据

##培训和FAQ

  • FAQ:常见问题与答案
  • 应用案列一些使用实例来解释如何使用TDengine