暂无图片
暂无图片
暂无图片
暂无图片
暂无图片
首页 / 深度解析MySQL 5.7之中文全文检索

深度解析MySQL 5.7之中文全文检索

道听真说 2017-08-10
296


前言

其实全文检索在MySQL里面很早就支持了，只不过一直以来只支持英文。缘由是他从来都使用空格来作为分词的分隔符，而对于中文来讲，显然用空格就不合适，需要针对中文语义进行分词。这不，从MySQL 5.7开始，MySQL内置了ngram全文检索插件，用来支持中文分词，并且对MyISAM和InnoDB引擎有效。

在使用中文检索分词插件ngram之前，先得在MySQL配置文件里面设置他的分词大小，比如，

?

1
2
[mysqld]
ngram_token_size=2

这里把分词大小设置为2。要记住，分词的SIZE越大，索引的体积就越大，所以要根据自身情况来设置合适的大小。

示例表结构：

?

1
2
3
4
5
6
CREATE
TABLE
articles (
   
id INTUNSIGNED AUTO_INCREMENT
NOT
NULL
PRIMARY
KEY
,
   
titleVARCHAR(200),
   
body TEXT,
   
FULLTEXT (title,body)
WITH
PARSER ngram
  
) ENGINE=InnoDBCHARACTER
SET
utf8mb4;

示例数据，有6行记录。

?

1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
mysql>
select
*
from
articles\G
***************************1. row ***************************
  
id: 1
title: 数据库管理
 
body: 在本教程中我将向你展示如何管理数据库
***************************2. row ***************************
  
id: 2
title: 数据库应用开发
 
body: 学习开发数据库应用程序
***************************3. row ***************************
  
id: 3
title: MySQL完全手册
 
body: 学习MySQL的一切
***************************4. row ***************************
  
id: 4
title: 数据库与事务处理
 
body: 系统的学习数据库的事务概论
***************************5. row ***************************
  
id: 5
title: NoSQL精髓
 
body: 学习了解各种非结构化数据库
***************************6. row ***************************
  
id: 6
title: SQL 语言详解
 
body: 详细了解如果使用各种SQL
6
rows
inset (0.00 sec)

显式指定全文检索表源

?

1
2
mysql> SETGLOBAL innodb_ft_aux_table=
"new_feature/articles"
;
Query OK, 0
rows
affected (0.00 sec)

通过系统表，就可以查看到底是怎么划分articles里的数据。

?

1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
mysql>
SELECT
*
FROM
information_schema.INNODB_FT_INDEX_CACHE LIMIT 20,10;
+
------+--------------+-------------+-----------+--------+----------+
| WORD | FIRST_DOC_ID | LAST_DOC_ID | DOC_COUNT | DOC_ID| POSITION |
+
------+--------------+-------------+-----------+--------+----------+
| 中我 |   2 |   2 |   1 |  2 |  28 |
| 习m |   4 |   4 |   1 |  4 |  21 |
| 习了 |   6 |   6 |   1 |  6 |  16 |
| 习开 |   3 |   3 |   1 |  3 |  25 |
| 习数 |   5 |   5 |   1 |  5 |  37 |
| 了解 |   6 |   7 |   2 |  6 |  19 |
| 了解 |   6 |   7 |   2 |  7 |  23 |
| 事务 |   5 |   5 |   1 |  5 |  12 |
| 事务 |   5 |   5 |   1 |  5 |  40 |
| 何管 |   2 |   2 |   1 |  2 |  52 |
+
------+--------------+-------------+-----------+--------+----------+
10
rows
in
set
(0.00 sec)

这里可以看到，把分词长度设置为2，所有的数据都只有两个一组。上面数据还包含了行的位置，ID等等信息。

接下来，我来进行一系列检索示范，使用方法和原来英文检索一致。

一、自然语言模式下检索：

1、得到符合条件的个数，

?

1
2
3
4
5
6
7
8
mysql>
SELECT
COUNT
(*)
FROM
articles
->
WHERE
MATCH (title,body) AGAINST (
'数据库'
IN
NATURALLANGUAGE MODE);
+
----------+
|
COUNT
(*) |
+
----------+
|  4 |
+
----------+
1 row
in
set
(0.05 sec)

2、得到匹配的比率，

?

1
2
3
4
5
6
7
8
9
10
11
12
13
mysql>
SELECT
id, MATCH (title,body) AGAINST (
'数据库'
IN
NATURAL LANGUAGE MODE)
 
AS
score
FROM
articles;
+
----+----------------------+
| id| score    |
+
----+----------------------+
| 1 | 0.12403252720832825 |
| 2 | 0.12403252720832825 |
| 3 |     0 |
| 4 | 0.12403252720832825 |
| 5 | 0.062016263604164124|
| 6 |     0 |
+
----+----------------------+
6rows
in
set
(0.00 sec)

二、布尔模式下搜索，这个就相对于自然模式搜索来的复杂些：

1、匹配既有管理又有数据库的记录，

?

1
2
3
4
5
6
7
8
mysql>
SELECT
*
FROM
articles
WHERE
MATCH (title,body)
  
->  AGAINST (
'+数据库 +管理'
IN
BOOLEAN MODE);
+
----+------------+--------------------------------------+
| id| title  | body         |
+
----+------------+--------------------------------------+
| 1 | 数据库管理 | 在本教程中我将向你展示如何管理数据库  |
+
----+------------+--------------------------------------+
1 rowin
set
(0.00 sec)

2、匹配有数据库，但是没有管理的记录，

?

1
2
3
4
5
6
7
8
9
10
mysql>
SELECT
*
FROM
articles
WHERE
MATCH (title,body)
  
->  AGAINST (
'+数据库 -管理'
IN
BOOLEAN MODE);
+
----+------------------+----------------------------+
| id| title    | body      |
+
----+------------------+----------------------------+
| 2 | 数据库应用开发  | 学习开发数据库应用程序   |
| 4 | 数据库与事务处理 | 系统的学习数据库的事务概论  |
| 5 | NoSQL 精髓  | 学习了解各种非结构化数据库  |
+
----+------------------+----------------------------+
3
rows
in
set
(0.00 sec)

3、匹配MySQL，但是把数据库的相关性降低，

?

1
2
3
4
5
6
7
8
mysql>
SELECT
*
FROM
articles
WHERE
MATCH (title,body)
  
->  AGAINST (
'>数据库 +MySQL'
INBOOLEAN MODE);
+
----+---------------+-----------------+
| id| title   | body   |
+
----+---------------+-----------------+
| 3 | MySQL完全手册 |学习MySQL的一切 |
+
----+---------------+-----------------+
1 rowin
set
(0.00 sec)

三、查询扩展模式，比如要搜索数据库，那么MySQL，oracle，DB2也都将会被搜索到，

?

1
2
3
4
5
6
7
8
9
10
11
12
13
14
mysql>
SELECT
*
FROM
articles
  
-> 
WHERE
MATCH (title,body)
  
->  AGAINST (
'数据库'
WITH
QUERY EXPANSION);
+
----+------------------+--------------------------------------+
| id| title   | body         |
+
----+------------------+--------------------------------------+
| 1 | 数据库管理  | 在本教程中我将向你展示如何管理数据库  |
| 4 | 数据库与事务处理 | 系统的学习数据库的事务概论    |
| 2 | 数据库应用开发  | 学习开发数据库应用程序     |
| 5 | NoSQL 精髓  | 学习了解各种非结构化数据库    |
| 6 | SQL 语言详解  | 详细了解如果使用各种SQL     |
| 3 | MySQL完全手册  | 学习MySQL的一切      |
+
----+------------------+--------------------------------------+
6
rows
in
set
(0.01 sec)

当然，我这里只是功能演示，更多的性能测试，大家有兴趣可以进行详细测试。由于N-grm是中文检索常用的分词算法，已经在互联网大量使用，这次集成到MySQL中，想必效果上不会有太大的问题。

总结

以上就是这篇文章的全部内容了，希望本文的内容对大家的学习或者工作能带来一定的帮助，如果有疑问大家可以留言交流。

原文链接：http://www.actionsky.com/docs/archives/163


mysql
文章转载自道听真说，如果涉嫌侵权，请发送邮件至：contact@modb.pro进行举报，并提供相关证据，一经查实，墨天轮将立刻删除相关内容。

评论

相关阅读

【专家有话说第五期】在不同年龄段，DBA应该怎样规划自己的职业发展？
墨天轮编辑部
1328次阅读
2025-03-13 11:40:53
MySQL8.0统计信息总结
闫建(Rock Yan)
501次阅读
2025-03-17 16:04:03
2月“墨力原创作者计划”获奖名单公布
墨天轮编辑部
470次阅读
2025-03-13 14:38:19
SQL优化 - explain查看SQL执行计划（一）
金同学
398次阅读
2025-03-13 16:04:22
MySQL突然崩溃？教你用gdb解剖core文件，快速锁定“元凶”!
szrsu
378次阅读
2025-03-13 00:29:43
MySQL生产实战优化（利用Index skip scan优化性能提升257倍）
chengang
331次阅读
2025-03-17 10:36:40
MySQL数据库当前和历史事务分析
听见风的声音
307次阅读
2025-04-01 08:47:17
MySQL 生产实践-Update 二级索引导致的性能问题排查
chengang
253次阅读
2025-03-28 16:28:31
墨天轮个人数说知识点合集
JiekeXu
244次阅读
2025-04-01 15:56:03
一键装库脚本3分钟极速部署，传统耗时砍掉95%！
IT邦德
243次阅读
2025-03-10 07:58:44