外部臨時表
通過CREATE TEMPORARY TABLE 創(chuàng)建的臨時表,這種臨時表稱為外部臨時表。這種臨時表只對當(dāng)前用戶可見,當(dāng)前會話結(jié)束的時候,該臨時表會自動關(guān)閉。這種臨時表的命名與非臨時表可以同名(同名后非臨時表將對當(dāng)前會話不可見,直到臨時表被刪除)。
內(nèi)部臨時表
內(nèi)部臨時表是一種特殊輕量級的臨時表,用來進行性能優(yōu)化。這種臨時表會被MySQL自動創(chuàng)建并用來存儲某些操作的中間結(jié)果。這些操作可能包括在優(yōu)化階段或者執(zhí)行階段。這種內(nèi)部表對用戶來說是不可見的,但是通過EXPLAIN或者SHOW STATUS可以查看MYSQL是否使用了內(nèi)部臨時表用來幫助完成某個操作。內(nèi)部臨時表在SQL語句的優(yōu)化過程中扮演著非常重要的角色, MySQL中的很多操作都要依賴于內(nèi)部臨時表來進行優(yōu)化。但是使用內(nèi)部臨時表需要創(chuàng)建表以及中間數(shù)據(jù)的存取代價,所以用戶在寫SQL語句的時候應(yīng)該盡量的去避免使用臨時表。
內(nèi)部臨時表有兩種類型:一種是HEAP臨時表,這種臨時表的所有數(shù)據(jù)都會存在內(nèi)存中,對于這種表的操作不需要IO操作。另一種是OnDisk臨時表,顧名思義,這種臨時表會將數(shù)據(jù)存儲在磁盤上。OnDisk臨時表用來處理中間結(jié)果比較大的操作。如果HEAP臨時表存儲的數(shù)據(jù)大于MAX_HEAP_TABLE_SIZE(詳情請參考MySQL手冊中系統(tǒng)變量部分),HEAP臨時表將會被自動轉(zhuǎn)換成OnDisk臨時表。OnDisk臨時表在5.7中可以通過INTERNAL_TMP_DISK_STORAGE_ENGINE系統(tǒng)變量選擇使用MyISAM引擎或者InnoDB引擎。
本篇文章主要介紹哪些操作可能會利用到內(nèi)部臨時表。如果用戶在書寫SQL語句的時候能夠盡量少的使用內(nèi)部臨時表進行查詢優(yōu)化,將有效的提高查詢執(zhí)行的效率。
首先我們定義一個表t1,
CREATE TABLE t1( a int, b int); INSERT INTO t1 VALUES(1,2),(3,4);
下面所有的操作都是基于表t1進行舉例的。
在SQL語句中使用SQL_BUFFER_RESULT hint
SQL_BUFFER_RESULT主要用來讓MySQL盡早的釋放表上的鎖。因為如果數(shù)據(jù)量很大的話,需要較長時間將數(shù)據(jù)發(fā)送到客戶端,通過將數(shù)據(jù)緩沖到臨時表中可以有效的減少讀鎖對表的占用時間。
例如:
mysql> explain format=json select SQL_BUFFER_RESULT * from t1;
EXPLAIN
{
"query_block": {
"select_id": 1,
"cost_info": {
"query_cost": "2.00"
},
"buffer_result": {
"using_temporary_table": true,
"table": {
"table_name": "t1",
"access_type": "ALL",
...
如果SQL語句中包含了DERIVED_TABLE。
在5.7中,由于采用了新的優(yōu)化方式,我們需要使用 set optimizer_switch='derived_merge=off'來禁止derived table合并到外層的Query中。
例如:
mysql> explain format=json select * from (select * from t1) as tt;
EXPLAIN
{
"query_block": {
"select_id": 1,
"cost_info": {
"query_cost": "2.40"
},
"table": {
"table_name": "tt",
"access_type": "ALL",
...
"materialized_from_subquery": {
"using_temporary_table": true,
...
如果我們查詢系統(tǒng)表的話,系統(tǒng)表的數(shù)據(jù)將被存儲到內(nèi)部臨時表中。
我們當(dāng)前不能使用EXPLAIN來查看是否讀取系統(tǒng)表數(shù)據(jù)需要利用到內(nèi)部臨時表,但是可以通過SHOW STATUS來查看是否利用到了內(nèi)部臨時表。
例如:
mysql> select * from information_schema.character_sets;
mysql> show status like 'CREATE%';
如果DISTINCT語句沒有被優(yōu)化掉,即DISTINCT語句被優(yōu)化轉(zhuǎn)換為GROUP BY操作或者利用UNIQUE INDEX消除DISTINCT, 內(nèi)部臨時表將會被使用。
mysql> explain format=json select distinct a from t1;
EXPLAIN
{
{
"query_block": {
"select_id": 1,
"cost_info": {
"query_cost": "1.60"
},
"duplicates_removal": {
"using_temporary_table": true,
...
如果查詢帶有ORDER BY語句,并且不能被優(yōu)化掉。下面幾種情況會利用到內(nèi)部臨時表緩存中間數(shù)據(jù),然后對中間數(shù)據(jù)進行排序。
1)如果連接表使用BNL(Batched Nestloop)/BKA(Batched Key Access)
例如:
1))BNL默認是打開的
mysql> explain format=json select * from t1, t1 as t2 order by t1.a;
EXPLAIN
{
"query_block": {
"select_id": 1,
"cost_info": {
"query_cost": "22.00"
},
"ordering_operation": {
"using_temporary_table": true,
...
2))關(guān)掉BNL后,ORDER BY將直接使用filesort。
mysql> set optimizer_switch='block_nested_loop=off';
Query OK, 0 rows affected (0.00 sec)
mysql> explain format=json select * from t1, t1 as t2 order by t1.a;
EXPLAIN
{
"query_block": {
"select_id": 1,
"cost_info": {
"query_cost": "25.00"
},
"ordering_operation": {
"using_filesort": true,
...
2)ORDER BY的列不屬于執(zhí)行計劃中第一個連接表的列。
例如:
mysql> explain format=json select * from t as t1, t as t2 order by t2.a;
EXPLAIN
{
"query_block": {
"select_id": 1,
"cost_info": {
"query_cost": "25.00"
},
"ordering_operation": {
"using_temporary_table": true,
...
3)如果ORDER BY的表達式是個復(fù)雜表達式。
那么什么樣的ORDER BY表達式,MySQL認為是復(fù)雜表達式呢?
1))如果排序表達式是SP或者UDF。
例如:
drop function if exists func1;
delimiter |
create function func1(x int)
returns int deterministic
begin
declare z1, z2 int;
set z1 = x;
set z2 = z1+2;
return z2;
end|
delimiter ;
explain format=json select * from t1 order by func1(a);
{
"query_block": {
"select_id": 1,
"cost_info": {
"query_cost": "2.20"
},
"ordering_operation": {
"using_temporary_table": true,
...
2))ORDER BY的列包含聚集函數(shù)
為了簡化執(zhí)行計劃,我們利用INDEX來優(yōu)化GROUP BY語句。
例如:
create index idx1 on t1(a);
explain format=json SELECt a FROM t1 group by a order by sum(a);
| {
"query_block": {
"select_id": 1,
"cost_info": {
"query_cost": "1.20"
},
"ordering_operation": {
"using_temporary_table": true,
"using_filesort": true,
"grouping_operation": {
"using_filesort": false,
...
drop index idx1 on t1;
3))ORDER BY的列中包含有SCALAR SUBQUERY,當(dāng)然該SCALAR SUBQUERY沒有被優(yōu)化掉。
例如:
explain format=json select (select rand() from t1 limit 1) as a from t1 order by a;
| {
"query_block": {
"select_id": 1,
"cost_info": {
"query_cost": "1.20"
},
"ordering_operation": {
"using_temporary_table": true,
"using_filesort": true,
...
4) 如果查詢既帶有ORDER BY同時也有GROUP BY語句,但是兩個語句使用的列不相同。
注意: 如果是5.7,我們需要將sql_mode設(shè)置為非only_full_group_by模式,否則會報錯。
同樣為了簡化執(zhí)行計劃,我們利用INDEX來優(yōu)化GROUP BY語句。
例如:
set sql_mode='';
create index idx1 on t1(b);
explain format=json select t1.a from t1 group by t1.b order by 1;
| {
"query_block": {
"select_id": 1,
"cost_info": {
"query_cost": "1.40"
},
"ordering_operation": {
"using_temporary_table": true,
"using_filesort": true,
"grouping_operation": {
"using_filesort": false,
...
drop index idx1 on t1;
如果查詢帶有GROUP BY語句,并且不能被優(yōu)化掉。下面幾種情況會利用到內(nèi)部臨時表緩存中間數(shù)據(jù),然后對中間數(shù)據(jù)進行GROUP BY。
1)如果連接表使用BNL(Batched Nestloop)/BKA(Batched Key Access)。
例如:
explain format=json select t2.a from t1, t1 as t2 group by t1.a;
| {
"query_block": {
"select_id": 1,
"cost_info": {
"query_cost": "8.20"
},
"grouping_operation": {
"using_temporary_table": true,
"using_filesort": true,
"cost_info": {
"sort_cost": "4.00"
...
2) 如果GROUP BY的列不屬于執(zhí)行計劃中的第一個連接表。
例如:
explain format=json select t2.a from t1, t1 as t2 group by t2.a;
| {
"query_block": {
"select_id": 1,
"cost_info": {
"query_cost": "8.20"
},
"grouping_operation": {
"using_temporary_table": true,
"using_filesort": true,
"nested_loop": [
...
3) 如果GROUP BY語句使用的列與ORDER BY語句使用的列不同。
例如:
set sql_mode='';
explain format=json select t1.a from t1 group by t1.b order by t1.a;
| {
"query_block": {
"select_id": 1,
"cost_info": {
"query_cost": "1.40"
},
"ordering_operation": {
"using_filesort": true,
"grouping_operation": {
"using_temporary_table": true,
"using_filesort": false,
...
4) 如果GROUP BY帶有ROLLUP并且是基于多表外連接。
例如:
explain format=json select sum(t1.a) from t1 left join t1 as t2 on true group by t1.a with rollup;
| {
"query_block": {
"select_id": 1,
"cost_info": {
"query_cost": "7.20"
},
"grouping_operation": {
"using_temporary_table": true,
"using_filesort": true,
"cost_info": {
"sort_cost": "4.00"
},
...
5) 如果GROUP BY語句使用的列來自于SCALAR SUBQUERY,并且沒有被優(yōu)化掉。
例如:
explain format=json select (select avg(a) from t1) as a from t1 group by a;
| {
"query_block": {
"select_id": 1,
"cost_info": {
"query_cost": "3.40"
},
"grouping_operation": {
"using_temporary_table": true,
"using_filesort": true,
"cost_info": {
"sort_cost": "2.00"
},
...
IN表達式轉(zhuǎn)換為semi-join進行優(yōu)化
1) 如果semi-join執(zhí)行方式為Materialization
例如:
set optimizer_switch='firstmatch=off,duplicateweedout=off';
explain format=json select * from t1 where a in (select b from t1);
| {
"query_block": {
"select_id": 1,
"cost_info": {
"query_cost": "5.60"
},
"nested_loop": [
{
"rows_examined_per_scan": 1,
"materialized_from_subquery": {
"using_temporary_table": true,
"query_block": {
"table": {
"table_name": "t1",
"access_type": "ALL",
...
2) 如果semi-join執(zhí)行方式為Duplicate Weedout
例如:
set optimizer_switch='firstmatch=off';
explain format=json select * from t1 where a in (select b from t1);
| {
"query_block": {
"select_id": 1,
"cost_info": {
"query_cost": "4.80"
},
"duplicates_removal": {
"using_temporary_table": true,
"nested_loop": [
{
...
如果查詢語句帶有UNION,MySQL將利用內(nèi)部臨時表幫助UNION操作消除重復(fù)。
例如:
explain format=json select * from t1 union select * from t1;
| {
"query_block": {
"union_result": {
"using_temporary_table": true,
"table_name": "",
...
如果查詢語句使用多表更新。
這里Explain不能看到內(nèi)部臨時表被利用,所以需要查看status。
例如:
update t1, t1 as t2 set t1.a=3;
show status like 'CREATE%';
如果聚集函數(shù)中包含如下函數(shù),內(nèi)部臨時表也會被利用。
1) count(distinct *)
例如:
explain format=json select count(distinct a) from t1;
2) group_concat
例如:
explain format=json select group_concat(b) from t1;
總之,上面列出了10種情況,MySQL將利用內(nèi)部臨時表進行中間結(jié)果緩存,如果數(shù)據(jù)量比較大的話,內(nèi)部臨時表將會把數(shù)據(jù)存儲在磁盤上,這樣顯然會對性能有所影響。為了盡可能的減少性能損失,我們需要盡量避免上述情況的出現(xiàn)。
總結(jié)
以上就是本文關(guān)于MySQL兩種臨時表的用法詳解的全部內(nèi)容,希望對大家有所幫助。感興趣的朋友可以參閱:幾個比較重要的MySQL變量、MySQL prepare原理詳解、MySQL刪除表數(shù)據(jù)的方法等,有什么問題請留言,歡迎大家交流討論。
您可能感興趣的文章:- Mysql臨時表及分區(qū)表區(qū)別詳解
- Mysql臨時表原理及創(chuàng)建方法解析
- mysql臨時表用法分析【查詢結(jié)果可存在臨時表中】
- MySQL 5.7臨時表空間如何玩才能不掉坑里詳解
- MySQL問答系列之什么情況下會用到臨時表
- 關(guān)于JDBC與MySQL臨時表空間的深入解析
- MySQL臨時表的簡單用法介紹
- MySQL中Update、select聯(lián)用操作單表、多表,及視圖與臨時表的區(qū)別
- 淺談MySQL臨時表與派生表
- MySQL中臨時表的基本創(chuàng)建與使用教程
- MySQL中關(guān)于臨時表的一些基本使用方法
- MySQL使用臨時表加速查詢的方法
- MySQL中臨時表的使用示例