tsm

tsm

关注
发信
关注(28)粉丝(399)

InfluxDB的安装和简介

InfluxDB简介

InfluxDB是一个时间序列数据库，旨在处理高写入和查询负载。它是TICK堆栈的组成部分 。InfluxDB旨在用作涉及大量带时间戳数据的任何用例的后备存储，包括DevOps监控，应用程序指标，物联网传感器数据和实时分析。

功能特点

  1. 基于时间序列，支持与时间有关的相关函数（如最大，最小，求和等）
  2. 可度量性：你可以实时对大量数据进行计算
  3. 基于事件：它支持任意的事件数据基于事件：它支持任意的事件数据

主要特点

无结构（无模式）：可以是任意数量的列

可拓展的

支持min, max, sum, count, mean, median 等一系列函数，方便统计支持min, max, sum, count, mean, median 等一系列函数，方便统计

原生的HTTP支持，内置HTTP API原生的HTTP支持，内置HTTP API

强大的类SQL语法强大的类SQL语法

自带管理界面，方便使用自带管理界面，方便使用

InfluxDB与传统数据库的比较

database数据库
measurement数据库的表
points表里的一行数据

InfluxDB的独特的特性
point
Point相当于传统数据库里的一行数据，如下表所示：

time（时间戳）每个数据记录时间，是数据库中的主索引(会自动生成)
fields（字段、数据）各种记录值（没有索引的属性）也就是记录的值：温度， 湿度
tags（标签）各种有索引的属性：地区，海拔

注意

在influxdb中，字段必须存在。因为字段是没有索引的。如果使用字段作为查询条件，会扫描符合查询条件的所有字段值，性能不及tag。类比一下，fields相当于SQL的没有索引的列。
tags是可选的，但是强烈建议你用上它，因为tag是有索引的，tags相当于SQL中的有索引的列。tag value只能是string类型。
series
相当于是 InfluxDB 中一些数据的集合，在同一个 database 中，retention policy、measurement、tag sets 完全相同的数据同属于一个 series，同一个 series 的数据在物理上会按照时间顺序排列存储在一起。

> select * from students

name: students

time                score stuid value

----                ----- ----- -----

     s123

     s123

     s123

     s123

     s123

       s124

       s125

> show series from students

key

---

students,stuid=s123

students,stuid=s124

students,stuid=s125

shard
shard 和 retention policy 相关联。每一个存储策略下会存在许多 shard，每一个 shard 存储一个指定时间段内的数据，并且不重复；
例如 7点-8点 的数据落入 shard0 中，8点-9点的数据则落入 shard1 中。
每一个 shard 都对应一个底层的 tsm 存储引擎，有独立的 cache、wal、tsm file。

组件
TSM 存储引擎主要由几个部分组成： cache、wal、tsm file、compactor。

Cache：cache 相当于是 LSM Tree 中的 memtabl。插入数据时，实际上是同时往 cache 与 wal 中写入数据，可以认为 cache 是 wal 文件中的数据在内存中的缓存。当 InfluxDB 启动时，会遍历所有的 wal 文件，重新构造 cache，这样即使系统出现故障，也不会导致数据的丢失。
cache 中的数据并不是无限增长的，有一个 maxSize 参数用于控制当 cache 中的数据占用多少内存后就会将数据写入 tsm 文件。如果不配置的话，默认上限为 25MB，每当 cache 中的数据达到阀值后，会将当前的 cache 进行一次快照，之后清空当前 cache 中的内容，再创建一个新的 wal 文件用于写入，剩下的 wal 文件最后会被删除，快照中的数据会经过排序写入一个新的 tsm 文件中。
InfluxDB的安装和简介-LMLPHP

WAL：wal 文件的内容与内存中的 cache 相同，其作用就是为了持久化数据，当系统崩溃后可以通过 wal 文件恢复还没有写入到 tsm 文件中的数据。
TSM File：单个 tsm file 大小最大为 2GB，用于存放数据。
Compactor：compactor 组件在后台持续运行，每隔 1 秒会检查一次是否有需要压缩合并的数据。
主要进行两种操作
一种是 cache 中的数据大小达到阀值后，进行快照，之后转存到一个新的 tsm 文件中。
另外一种就是合并当前的 tsm 文件，将多个小的 tsm 文件合并成一个，使每一个文件尽量达到单个文件的最大大小，减少文件的数量，并且一些数据的删除操作也是在这个时候完成。

InfluxDB的安装和简介-LMLPHP

安装

环境： CentOS7.0_x64
InfluxDB版本：1.7.0

基础环境

yum install go

InfluxDB的安装

wget  https://dl.influxdata.com/influxdb/releases/influxdb-1.7.0.x86_64.rpm

rpm -ivh influxdb-1.2..x86_64.rpm

安装后产生的InfluxDB相关文件讲解
/usr/bin下文件

文件名  文件解析
influxdinfluxdb服务器
influxinfluxdb 命令行客户端
influx_inspect  查看工具
influx_stress  压力测试工具
influx_tsm  数据库转换工具（将数据库从b1或bz1格式转换为tsm1格式）

/var/lib/influxdb下文件夹（建完表和库的时候才会有）
data存放最终存储的数据，文件以**.tsm**结尾
meta存放数据库元数据
wal存放预写日志文件
/etc/influxdb下文件
influxdb.confinfluxdb数据库配置文件

启动服务
操作服务的相关命令

服务式启动命令

service influxdb start

服务式的其他命令

停止服务

service influxdb stop

重启服务

service influxdb restart

尝试重启服务

service influxdb try-restart

重新加载服务

service influxdb reload

强制重新加载服务

service influxdb force-reload

查看服务状态

service influxdb status

　以非服务方式启动

　cd /usr/bin;./influxd

服务启动查看是否正常

  • 通过查看服务对应进程

InfluxDB的安装和简介-LMLPHP

InfluxDB默认使用以下网络端口：

  • TCP端口8086用于通过InfluxDB的HTTP API进行客户端 - 服务器通信
  • TCP端口8088用于RPC服务以进行备份和还原

除了上面的端口，InfluxDB还提供了多个可能需要自定义端口的插件。可以通过配置文件修改所有端口映射，配置文件位于/etc/influxdb/influxdb.conf默认安装位置。

InfluxDB 客户端命令行方式操作

  • InfluxDB数据库操作

客户端命令行方式操作

[root@localhost influxdb]# influx

Connected to http://localhost:8086 version 1.7.0

InfluxDB shell version: 1.7.

Enter an InfluxQL query

>

显示数据库

> show databases

name: databases

name

----

_internal

新建数据库

> create database testdb

> show databases

name: databases

name

----

_internal

testdb

删除数据库

> drop database testdb

> show databases

name: databases

name

----

_internal

使用数据库

> create database testdb

> use testdb

Using database testdb

InfluxDB 数据表操作
在InfluxDB当中，并没有表（table）这个概念，取而代之的是measurement，measurement的功能与传统数据库中的表一致，因此我们也可以将measurement称为InfluxDB中的表。

显示所有表

show measurement

新建表
InfluxDB中没有显示的创建表的语句，只能通过insert数据的房还是来建立新表。
其中 disk_free 就是表名，hostname 是索引（tag），value=xx 是记录值（field），记录值可以有多个，系统自带追加时间戳。

> insert disk_free,hostname=server01 value=442221834240i

> select * from disk_free

name: disk_free

time                hostname value

----                -------- -----

 server01

或者添加数据时，自己写入时间戳（写入相同时间戳、相同tags，对原有数据进行update操作）

> insert disk_free,hostname=server01 value=442221834240i

> select * from disk_free

name: disk_free

time                hostname value

----                -------- -----

 server01

 server01

删除表

> drop measurement disk_free

数据保存策略（Retention Policies）
InfluxDB 是没有提供直接删除数据记录的方法，但是提供数据保存策略，主要用于指定数据保留时间，超过指定时间，就删除这部分数据。

查看当前数据库Retention Policies

name：名称，此示例名称为 default。
duration：持续时间，0代表无限制。
shardGroupDuration：shardGroup的存储时间，shardGroup是InfluxDB的一个基本储存结构，应该大于这个时间的数据在查询效率上应该有所降低。
replicaN：全称是replication，副本个数。
default：是否是默认策略。

> show retention policies on testdb

name    duration shardGroupDuration replicaN default

----    -------- ------------------ -------- -------

autogen 0s       168h0m0s                   true

创建新的Retention Policies

rp_name：策略名。
db_name：具体的数据库名。
3w：保存3周，3周之前的数据将被删除，influxdb 具备各种事件参数，持续时间必须至少为1小时；比如：h（小时）、d（天）、w（星期）。
replication 1：副本个数，一般为1即可。
default：设置为默认策略。

create retention policy "rp_name" on "db_name" duration 3w replication  default
修改Retention Policies

alter retention policy "rp_name" on "db_name" duration 30d default

删除Retention Policies

drop retention policy "rp_name" on "db_name"

连续查询（Continuous Queries）
InfluxDB 的连续查询是在数据库中自动定时启动的一组语句，语句中必须包含 select 关键字 和 group by time() 关键字。
InfluxDB 会将查询结果放在指定的数据表中。
目的：使用连续查询是最优的降低采样率的方式，连续查询和存储策略搭配使用将会大大降低 InfluxDB 的系统占用量。而且使用连续查询后，数据会存放到指定的数据表中，这样就为以后统计不同精度的数据提供了方便。

新建连续查询

CREATE CONTINUOUS QUERY <cq_name> ON <database_name>

[RESAMPLE [EVERY <interval>] [FOR <interval>]]

BEGIN SELECT <function>(<stuff>)[,<function>(<stuff>)] INTO <different_measurement>

FROM <current_measurement> [WHERE <stuff>] GROUP BY time(<interval>)[,<stuff>]

END

样例

CREATE CONTINUOUS QUERY wj_30m ON testdb BEGIN SELECT mean(connected_clients), MEDIAN(connected_clients), MAX(connected_clients), MIN(connected_clients) INTO redis_clients_30m FROM redis_clients GROUP BY ip,port,time(30m) END

在 testdb 库中新建了一个名为 wj_30m 的连续查询，每三十分钟取一个 connected_clients 字段的平均值、中位值、最大值、最小值 redis_clients_30m 表中。使用的数据保留策略都是default。
不同 database 样例：

CREATE CONTINUOUS QUERY wj_30m ON testdb_30 BEGIN SELECT mean(connected_clients), MEDIAN(connected_clients), MAX(connected_clients), MIN(connected_clients) INTO testdb_30.autogen.redis_clients_30m FROM testdb.autogen.redis_clients GROUP BY ip,port,time(30m) END
显示所有已存在的连续查询

show continuous queries

删除Continuous Queries

drop continuous query <cq_name> on <database_name>
04-26 06:24
Powered by LMLPHP ©2024 tsm 0.074935