MySQL的数据目录

数据库和文件系统的关系

像 InnoDB 、 MyISAM 这样的存储引擎都是把表存储在文件系统上的。当我们想读取数据的时候,这些存储引擎会从文件系统中把数据读出来返回给我们,当我们想写入数据的时候,这些存储引擎会把这些数据又写回文件系统。

本章就是要唠叨一下 InnoDB 和 MyISAM 这两个存储引擎的数据如何在文件系统中存储的。

MySQL数据目录

MySQL服务器程序在启动时会到文件系统的某个目录下加载一些文件,之后在运行过程中产生的数据也都会存储到这个目录下的某些文件中,这个目录就称为 数据目录

数据目录和安装目录的区别

我们之前只接触过 MySQL 的安装目录(在安装 MySQL 的时候我们可以自己指定),我们重点强调过这个 安装目录 下非常重要的 bin 目录,它里边存储了许多关于控制客户端程序和服务器程序的命令(许多可执行文件,比如 mysql , mysqld , mysqld_safe 等等等等好几十个)。

数据目录 是用来存储 MySQL 在运行过程中产生的数据,一定要和本章要讨论的 安装目录 区别开

如何确定MySQL中的数据目录

到底 MySQL 把数据都存到哪个路径下呢?其实 数据目录 对应着一个系统变量 datadir ,我们在使用客户端与服务器建立连接之后查看这个系统变量的值就可以了:

mysql> show variables like 'datadir';
+---------------+---------------------------------------------+
| Variable_name | Value |
+---------------+---------------------------------------------+
| datadir | C:\ProgramData\MySQL\MySQL Server 8.0\Data\ |
+---------------+---------------------------------------------+
1 row in set, 1 warning (0.01 sec)

数据目录的结构

数据库在文件系统中的表示

每当我们使用 CREATE DATABASE 数据库名 语句创建一个数据库的时候,在文件系统上实际发生了什么呢?其实很简单,每个数据库都对应数据目录下的一个子目录,或者说对应一个文件夹,我们每当我们新建一个数据库时, MySQL 会帮我们做这两件事儿:

  • 在 数据目录 下创建一个和数据库名同名的子目录(或者说是文件夹)。
  • 在该与数据库名同名的子目录下创建一个名为 db.opt 的文件,这个文件中包含了该数据库的各种属性,比方说该数据库的字符集和比较规则是个啥。

查看一下在我的计算机上当前有哪些数据库:

mysql> show databases;
+---------------------+
| Database |
+---------------------+
| big_market |
| big_market_01 |
| big_market_02 |
| information_schema |
| mysql |
| performance_schema |
| sys |
| xfg_frame_archetype |
+---------------------+
8 rows in set (0.01 sec)

再看一下我的计算机上的 数据目录 下的内容:

bash-4.4# ls -al
total 97152
-rw-r----- 1 mysql mysql 196608 Aug 8 15:57 '#ib_16384_0.dblwr'
-rw-r----- 1 mysql mysql 8585216 Jun 27 11:48 '#ib_16384_1.dblwr'
drwxr-x--- 2 mysql mysql 4096 Aug 8 15:55 '#innodb_redo'
drwxr-x--- 2 mysql mysql 4096 Aug 8 15:55 '#innodb_temp'
drwxr-xr-x 11 mysql root 4096 Aug 8 15:55 .
drwxr-xr-x 1 root root 4096 Apr 7 2023 ..
-rw-r----- 1 mysql mysql 56 Jun 27 11:48 auto.cnf
drwxr-x--- 2 mysql mysql 4096 Aug 6 21:32 big_market
drwxr-x--- 2 mysql mysql 4096 Aug 6 21:32 big_market_01
drwxr-x--- 2 mysql mysql 4096 Aug 6 21:32 big_market_02
-rw-r----- 1 mysql mysql 157 Jul 10 15:17 binlog.000023
-rw-r----- 1 mysql mysql 157 Jul 11 10:08 binlog.000024
-rw-r----- 1 mysql mysql 157 Jul 12 16:44 binlog.000025
-rw-r----- 1 mysql mysql 157 Jul 14 10:08 binlog.000026
-rw-r----- 1 mysql mysql 3210 Jul 15 21:06 binlog.000027
-rw-r----- 1 mysql mysql 157 Jul 16 22:51 binlog.000028
-rw-r----- 1 mysql mysql 157 Jul 23 11:22 binlog.000029
-rw-r----- 1 mysql mysql 157 Jul 24 10:15 binlog.000030
-rw-r----- 1 mysql mysql 157 Jul 25 10:35 binlog.000031
-rw-r----- 1 mysql mysql 157 Jul 26 09:58 binlog.000032
-rw-r----- 1 mysql mysql 157 Jul 27 15:47 binlog.000033
-rw-r----- 1 mysql mysql 13059 Jul 28 17:27 binlog.000034
-rw-r----- 1 mysql mysql 157 Jul 28 21:30 binlog.000035
-rw-r----- 1 mysql mysql 157 Jul 29 13:30 binlog.000036
-rw-r----- 1 mysql mysql 180 Jul 29 15:59 binlog.000037
-rw-r----- 1 mysql mysql 180 Jul 29 16:01 binlog.000038
-rw-r----- 1 mysql mysql 157 Jul 29 21:47 binlog.000039
-rw-r----- 1 mysql mysql 20077 Jul 30 10:45 binlog.000040
-rw-r----- 1 mysql mysql 157 Jul 31 09:55 binlog.000041
-rw-r----- 1 mysql mysql 157 Aug 2 09:56 binlog.000042
-rw-r----- 1 mysql mysql 157 Aug 3 21:41 binlog.000043
-rw-r----- 1 mysql mysql 20104 Aug 4 10:19 binlog.000044
-rw-r----- 1 mysql mysql 20129 Aug 4 12:05 binlog.000045
-rw-r----- 1 mysql mysql 1594 Aug 5 09:34 binlog.000046
-rw-r----- 1 mysql mysql 157 Aug 5 20:26 binlog.000047
-rw-r----- 1 mysql mysql 197881 Aug 6 09:45 binlog.000048
-rw-r----- 1 mysql mysql 157 Aug 6 20:53 binlog.000049
-rw-r----- 1 mysql mysql 44292 Aug 7 09:36 binlog.000050
-rw-r----- 1 mysql mysql 157 Aug 8 15:55 binlog.000051
-rw-r----- 1 mysql mysql 157 Aug 8 15:55 binlog.000052
-rw-r----- 1 mysql mysql 480 Aug 8 15:55 binlog.index
-rw------- 1 mysql mysql 1680 Jun 27 11:48 ca-key.pem
-rw-r--r-- 1 mysql mysql 1112 Jun 27 11:48 ca.pem
-rw-r--r-- 1 mysql mysql 1112 Jun 27 11:48 client-cert.pem
-rw------- 1 mysql mysql 1676 Jun 27 11:48 client-key.pem
-rw-r----- 1 mysql mysql 3829 Aug 4 12:05 ib_buffer_pool
-rw-r----- 1 mysql mysql 12582912 Aug 8 15:55 ibdata1
-rw-r----- 1 mysql mysql 12582912 Aug 8 15:55 ibtmp1
drwxr-x--- 2 mysql mysql 4096 Jun 27 11:48 mysql
-rw-r----- 1 mysql mysql 31457280 Aug 8 15:55 mysql.ibd
lrwxrwxrwx 1 mysql mysql 27 Aug 8 15:55 mysql.sock -> /var/run/mysqld/mysqld.sock
drwxr-x--- 2 mysql mysql 4096 Jun 27 11:48 performance_schema
-rw------- 1 mysql mysql 1680 Jun 27 11:48 private_key.pem
-rw-r--r-- 1 mysql mysql 452 Jun 27 11:48 public_key.pem
-rw-r--r-- 1 mysql mysql 1112 Jun 27 11:48 server-cert.pem
-rw------- 1 mysql mysql 1676 Jun 27 11:48 server-key.pem
drwxr-x--- 2 mysql mysql 4096 Jun 27 11:48 sys
-rw-r----- 1 mysql mysql 16777216 Aug 8 15:57 undo_001
-rw-r----- 1 mysql mysql 16777216 Aug 8 15:57 undo_002
drwxr-x--- 2 mysql mysql 4096 Jun 27 11:48 xfg_frame_archetype

仔细看的话,除了 information_schema 这个系统数据库外,其他的数据库在 数据目录 下都有对应的子目录。

这个 information_schema 比较特殊,设计MySQL的大叔们对它的实现进行了特殊对待,没有使用相应的数据库目录,我们忽略它的存在就好了哈。

表在文件系统中的表示

我们的数据其实都是以记录的形式插入到表中的,每个表的信息其实可以分为两种:

  • 表结构的定义
  • 表中的数据

表结构 就是该表的名称是啥,表里边有多少列,每个列的数据类型是啥,有啥约束条件和索引,用的是啥字符集和比较规则吧啦吧啦的各种信息

mysql5.0+:

InnoDB 和 MyISAM 这两种存储引擎都在 数据目录 下对应的数据库子目录下创建了一个专门用于描述表结构的文件,文件名是这样:

表名.frm

mysql8.0+:

MySQL 8.0 使用了 InnoDB 数据字典存储所有数据库和表的元数据。你可以在 MySQL 数据目录下找到以下两个主要文件,这些文件中包含了所有表的元数据:

  1. **mysql.ibd**:这个文件存放了系统表空间,包含了数据字典的信息。
  2. mysql 目录:这个目录下存放了很多 MySQL 自己使用的系统表,比如 mysql.tables, mysql.columns,这些表保存了数据库、表和列的详细信息。

InnoDB是如何存储表数据的

  • InnoDB 其实是使用 页 为基本单位来管理存储空间的,默认的 页 大小为 16KB 。
  • 对于 InnoDB 存储引擎来说,每个索引都对应着一棵 B+ 树,该 B+ 树的每个节点都是一个数据页,数据页之间不必要是物理连续的,因为数据页之间有 双向链表 来维护着这些页的顺序.
  • InnoDB 的聚簇索引的叶子节点存储了完整的用户记录,也就是所谓的索引即数据,数据即索引。

为了更好的管理这些页,设计 InnoDB 的大叔们提出了一个 表空间 或者 文件空间 (英文名: table space 或者 file space )的概念,这个表空间是一个抽象的概念,它可以对应文件系统上一个或多个真实文件(不同表空间对应的文件数量可能不同)。每一个 表空间 可以被划分为很多很多很多个 页 ,我们的表数据就存放在某个 表空间 下的某些页里。设计 InnoDB 的大叔将表空间划分为几种不同的类型,我们一个一个看一下。

系统表空间(system tablespace)

系统表空间 可以对应文件系统上一个或多个实际的文件,默认情况下, InnoDB 会在 数据目录 下创建一个名为 ibdata1 、大小为 12M 的文件,这个文件就是对应的 系统表空间 在文件系统上的表示。怎么才 12M ?这么点儿还没插多少数据就用完了,哈哈,那是因为这个文件是所谓的自扩展文件 ,也就是当不够用的时候它会自己增加文件大小~

如果你想让系统表空间对应文件系统上多个实际文件,或者仅仅觉得原来的 ibdata1 这个文件名难听,那可以在 MySQL 启动时配置对应的文件路径以及它们的大小,比如我们这样修改一下配置文件:

[server]
innodb_data_file_path=data1:512M;data2:512M:autoextend

这样在 MySQL 启动之后就会创建这两个512M大小的文件作为 系统表空间 ,其中的 autoextend 表明这两个文件如果不够用会自动扩展 data2 文件的大小。

也可以把 系统表空间 对应的文件路径不配置到 数据目录 下,甚至可以配置到单独的磁盘分区上,涉及到的启动参数就是 innodb_data_file_pathinnodb_data_home_dir

mysql> show variables like 'innodb_data_file_path';
+-----------------------+------------------------+
| Variable_name | Value |
+-----------------------+------------------------+
| innodb_data_file_path | ibdata1:12M:autoextend |
+-----------------------+------------------------+
1 row in set (0.09 sec)

mysql> show variables like 'innodb_data_home_dir';
+----------------------+-------+
| Variable_name | Value |
+----------------------+-------+
| innodb_data_home_dir | |
+----------------------+-------+
1 row in set (0.00 sec)

在一个MySQL服务器中,系统表空间只有一份。从MySQL5.5.7到MySQL5.6.6之间的各个版本中,我们表中的数据都会被默认存储到这个 系统表空间

独立表空间(file-per-table tablespace)

在MySQL5.6.6以及之后的版本中, InnoDB 并不会默认的把各个表的数据存储到系统表空间中,而是为每一个表建立一个独立表空间,也就是说我们创建了多少个表,就有多少个独立表空间。使用 独立表空间 来存储表数据的话,会在该表所属数据库对应的子目录下创建一个表示该 独立表空间 的文件,文件名和表名相同,只不过添加了一个 .ibd 的扩展名而已,所以完整的文件名称长这样:

表名.ibd

当然我们也可以自己指定使用 系统表空间 还是 独立表空间 来存储数据,这个功能由启动参数 innodb_file_per_table 控制,比如说我们想刻意将表数据都存储到系统表空间 时,可以在启动 MySQL 服务器的时候这样配置:

[server]
innodb_file_per_table=0

当 innodb_file_per_table 的值为 0 时,代表使用系统表空间;当 innodb_file_per_table 的值为 1 时,代表使用独立表空间。不过 innodb_file_per_table 参数只对新建的表起作用,对于已经分配了表空间的表并不起作用。如果我们想把已经存在系统表空间中的表转移到独立表空间,可以使用下边的语法:

ALTER TABLE 表名 TABLESPACE [=] innodb_file_per_table;

或者把已经存在独立表空间的表转移到系统表空间,可以使用下边的语法:

ALTER TABLE 表名 TABLESPACE [=] innodb_system;

其中中括号扩起来的 = 可有可无,比方说我们想把 test 表从独立表空间移动到系统表空间,可以这么写:

ALTER TABLE test TABLESPACE innodb_system;

其他类型的表空间

随着MySQL的发展,除了上述两种老牌表空间之外,现在还新提出了一些不同类型的表空间,比如通用表空间(general tablespace)、undo表空间(undo tablespace)、临时表空间(temporary tablespace)…

MyISAM是如何存储表数据的

在 MyISAM 中的索引全部都是 二级索引 ,该存储引擎的数据和索引是分开存放的。所以在文件系统中也是使用不同的文件来存储数据文件和索引文件。而且和 InnoDB 不同的是, MyISAM 并没有什么所谓的 表空间 一说,表数据都存放到对应的数据库子目录下。假如 test 表使用 MyISAM 存储引擎的话,那么在它所在数据库对应的 xiaohaizi 目录下会为 test 表创建这三个文件:

test.frm
test.MYD
test.MYI

其中 test.MYD 代表表的数据文件,也就是我们插入的用户记录; test.MYI 代表表的索引文件,我们为该表创建的索引都会放到这个文件中。

视图在文件系统中的表示

MySQL 中的视图其实是虚拟的表,也就是某个查询语句的一个别名而已,所以在存储 视图 的时候是不需要存储真实的数据的,只需要把它的结构存储起来就行了。和 表 一样,描述视图结构的文件也会被存储到所属数据库对应的子目录下边,只会存储一个 视图名.frm 的文件

其他的文件

除了我们上边说的这些用户自己存储的数据以外, 数据目录 下还包括为了更好运行程序的一些额外文件,主要包括这几种类型的文件:

  • 服务器进程文件

    我们知道每运行一个 MySQL 服务器程序,都意味着启动一个进程。 MySQL 服务器会把自己的进程ID写入到一个文件中。

  • 服务器日志文件。

    在服务器运行过程中,会产生各种各样的日志,比如常规的查询日志、错误日志、二进制日志、redo日志吧啦吧啦各种日志,这些日志各有各的用途

  • 默认/自动生成的SSL和RSA证书和密钥文件

    主要是为了客户端和服务器安全通信而创建的一些文件

文件系统对数据库的影响

因为 MySQL 的数据都是存在文件系统中的,就不得不受到文件系统的一些制约,这在数据库和表的命名、表的大小和性能方面体现的比较明显,比如下边这些方面:

  • 数据库名称和表名称不得超过文件系统所允许的最大长度。

  • 特殊字符的问题

    为了避免因为数据库名和表名出现某些特殊字符而造成文件系统不支持的情况, MySQL 会把数据库名和表名中所有除数字和拉丁字母以外的所有字符在文件名里都映射成 @+编码值 的形式作为文件名。比方说我们创建的表的名称为 ‘test?’ ,由于 ? 不属于数字或者拉丁字母,所以会被映射成编码值,所以这个表对应的 .frm 文件的名称就变成了 test@003f.frm

  • 文件长度受文件系统最大长度限制
    对于 InnoDB 的独立表空间来说,每个表的数据都会被存储到一个与表名同名的 .ibd 文件中;对于 MyISAM存储引擎来说,数据和索引会分别存放到与表同名的 .MYD 和 .MYI 文件中。这些文件会随着表中记录的增加而增大,它们的大小受限于文件系统支持的最大文件大小。

MySQL系统数据库简介

前边提到了MySQL的几个系统数据库,这几个数据库包含了MySQL服务器运行过程中所需的一些信息以及一些运行状态信息,我们现在稍微了解一下。

  • mysql

    这个数据库贼核心,它存储了MySQL的用户账户和权限信息,一些存储过程、事件的定义信息,一些运行过程中产生的日志信息,一些帮助信息以及时区信息等。

  • information_schema

    这个数据库保存着MySQL服务器维护的所有其他数据库的信息,比如有哪些表、哪些视图、哪些触发器、哪些列、哪些索引吧啦吧啦。这些信息并不是真实的用户数据,而是一些描述性信息,有时候也称之为元数据。

  • performance_schema

    这个数据库里主要保存MySQL服务器运行过程中的一些状态信息,算是对MySQL服务器的一个性能监控。包括统计最近执行了哪些语句,在执行过程的每个阶段都花费了多长时间,内存的使用情况等等信息。

  • sys

    这个数据库主要是通过视图的形式把 information_schema 和 performance_schema 结合起来,让程序员可以更方便的了解MySQL服务器的一些性能信息。