阿里规定超过三张表禁止JOIN,为啥呢?

  • 2021-09-13
  • Admin

作者 | e71hao

来源 | http://blog.itpub.net/30393770/viewspace-2650450/

一、 问题提出

《阿里巴巴JAVA开发手册》里面写超过三张表禁止join,这是为什么?

二、问题分析

对这个结论,你是否有怀疑呢?也不知道是哪位先哲说的不要人云亦云,今天我设计sql,来验证这个结论。(实验没有从代码角度分析,目前达不到。可以把mysql当一个黑盒,使用角度来验证这个结论) 验证结论的时候,会有很多发现,各位往后看。

三、 实验环境

vmware10+centos7.4+mysql5.7.22 ,centos7内存4.5G,4核,50G硬盘。mysql配置为2G,特别说明硬盘是SSD。

四、概述下我的实验

有4张表,student学生表,teacher老师表,course课程表,sc中间关系表,记录了学生选修课程以及分数。具体sql脚本,看文章结尾,我附上。中间我自己写了造数据的脚本,也在结尾。

实验是为解决一个问题的:查询选修“tname553”老师所授课程的学生中,成绩最高的学生姓名及其成绩 。查询sql是:

  1. select Student.Sname,course.cname,score
  2.     from Student,SC,Course ,Teacher
  3.     where Student.s_id=SC.s_id and SC.c_id=Course.c_id  and sc.t_id=teacher.t_id
  4.     and Teacher.Tname='tname553'
  5.     and SC.score=(select max(score)from SC where sc.t_id=teacher.t_Id);

我来分析一下这个语句:4张表等值join,还有一个子查询。算是比较简单的sql语句了(相比ERP动就10张表的哦,已经很简单了)。我 还会分解这个语句成3个简单的sql:

  1.  select max(score)  from SC ,Teacher where sc.t_id=teacher.t_Id and Teacher.Tname='tname553';
  2.    select sc.t_id,sc.s_id,score   from SC ,Teacher
  3.    where sc.t_id=teacher.t_Id
  4.    and score=590
  5.    and Teacher.Tname='tname553';
  6.     select Student.Sname,course.cname,score
  7.     from Student,SC ,course
  8.     where Student.s_id=SC.s_id and  sc.s_id in (20769800,48525000,26280200) and course.c_id = sc.c_id;

我来分析下:第一句,就是查询最高分,得到最高分590分。第二句就是查询出最高分的学生id,得到

20769800,48525000,26280200

。第三句就是查询出学生名字和分数。这样这3个语句的就可以查询出来 成绩最高的学生姓名及其成绩 。

接下来我会分别造数据:1千万选课记录(一个学生选修2门课),造500万学生,100万老师(一个老师带5个学生,挺高端的吧),1000门课,。用上面查询语句查询。其中sc表我测试了下有索引和没有索引情况,具体见下表。再接下来,我会造1亿选课记录(一个学生选修2门课),5000万学生,1000万老师,1000门课。然后分别执行上述语句。最后我会在oracle数据库上执行上述语句。

五、下面两张表是测试结果

六、仔细看上表,可以发现?

  1. 步骤3.1没有在连接键上加索引,查询很慢,说明:“多表关联查询时,保证被关联的字段需要有索引”;

  2. 步骤6.1,6.2,6.3,换成简单sql,在数据量1亿以上, 查询时间还能勉强接受。此时说明mysql查询有些吃力了,但是仍然嫩查询出来。

  3. 步骤5.1,mysql查询不出来,4表连接,对我本机mysql来说,1.5亿数据超过极限了(我调优过这个SQL,执行计划和索引都走了,没有问题,show profile显示在sending data.这个问题另外文章详谈。)

4.对比1.1 和5.1 步骤sql查询,4表连接,对我本机mysql来说 ,1.5千万数据查询很流利,是一个mysql数据量流利分水岭。(这个只是现象,不太准确,需要同时计算表的容量)。

如果您正在学习Spring Boot,推荐一个连载多年还在继续更新的免费教程:http://blog.didispace.com/spring-boot-learning-2x/

5.步骤5.1对比6.1,6.2,6.3,多表join对mysql来说,处理有些吃力。

6.超过三张表禁止join,这个规则是针对mysql来说的。后续会看到我用同样机器,同样数据量,同样内存,可以完美计算 1.5亿数据量join。针对这样一个规则,对开发来说 ,需要把一些逻辑放到应用层去查询。

总结:这个规则 超过三张表禁止join ,由于数据量太大的时候,mysql根本查询不出来,导致阿里出了这样一个规定。(其实如果表数据量少,10张表也不成问题,你自己可以试试)而我们公司支付系统朝着大规模高并发目标设计的,所以,遵循这个规定。在业务层面来讲,写简单sql,把更多逻辑放到应用层,我的需求我会更了解,在应用层实现特定的join也容易得多。

七、让我们来看看oracle数据库的优秀表现

看步骤7.1,就是没有索引,join表很多的情况下,oracle仍然26秒查询出结果来。所以我会说mysql的join很弱。那么问题来了,为什么现在使用很多人使用mysql呢?这是另外一个问题,我会另外说下我的思考。

看完本篇文章,另外我还附加赠送,所谓搂草打兔子。就是快速造数据。你可以自己先写脚本造数据,看看我是怎么造数据的,就知道我的技巧了。

八、附上部分截图

八、附上sql语句和造数据脚本

  1. use stu;
  2. drop table if exists student;
  3. create table student
  4.   (  s_id int(11) not null auto_increment ,
  5.      sno    int(11),
  6.      sname varchar(50),
  7.      sage  int(11),
  8.      ssex  varchar(8) ,
  9.      father_id int(11),
  10.       mather_id int(11),
  11.       note varchar(500),
  12.      primary key (s_id),
  13.    unique key uk_sno (sno)
  14.   ) engine=innodb default charset=utf8mb4;
  15. truncate table student;
  16.   delimiter $$
  17. drop function if exists   insert_student_data $$
  18. create function insert_student_data()
  19.  returns  int deterministic
  20.     begin
  21.     declare  i int;
  22.       set i=1;
  23.       while  i<50000000 do
  24.       insert into student  values(i ,i, concat('name',i),i,case when floor(rand()*10)%2=0 then 'f' else 'm' end,floor(rand()*100000),floor(rand()*1000000),concat('note',i) );
  25.       set i=i+1;
  26.       end while;
  27.       return 1;
  28.     end$$
  29. delimiter ;
  30. select  insert_student_data();
  31. select count(*) from student;
  32. use stu;
  33. create table course
  34.   (
  35.      c_id int(11) not null auto_increment ,
  36.      cname varchar(50)
  37.      note varchar(500), primary key (c_id)
  38.   )  engine=innodb default charset=utf8mb4;
  39. truncate table course;
  40.   delimiter $$
  41. drop function if exists   insert_course_data $$
  42. create function insert_course_data()
  43.  returns  int deterministic
  44.     begin
  45.     declare  i int;
  46.       set i=1;
  47.       while  i<=1000 do
  48.       insert into course  values(i , concat('course',i),floor(rand()*1000),concat('note',i) );
  49.       set i=i+1;
  50.       end while;
  51.       return 1;
  52.     end$$
  53. delimiter ;
  54. select  insert_course_data();
  55. select count(*) from course;
  56. use stu;
  57. drop table if exists sc;
  58. create table sc
  59.   (
  60.      s_id    int(11),
  61.      c_id    int(11),
  62.      t_id    int(11),
  63.      score int(11)
  64.   )  engine=innodb default charset=utf8mb4;
  65. truncate table sc;
  66.   delimiter $$
  67. drop function if exists   insert_sc_data $$
  68. create function insert_sc_data()
  69.  returns  int deterministic
  70.     begin
  71.     declare  i int;
  72.       set i=1;
  73.       while  i<=50000000 do
  74.       insert into sc  values( i,floor(rand()*1000),floor(rand()*10000000),floor(rand()*750)) ;
  75.       set i=i+1;
  76.       end while;
  77.       return 1;
  78.     end$$
  79. delimiter ;
  80. select  insert_sc_data();
  81. commit;
  82. select  insert_sc_data();
  83. commit;
  84. create index idx_s_id  on sc(s_id)   ;
  85. create index idx_t_id  on sc(t_id)   ;
  86. create index idx_c_id  on sc(c_id)   ;
  87. select count(*) from sc;
  88. use stu;
  89. drop table if exists teacher;
  90. create table teacher
  91.   (
  92.     t_id  int(11) not null auto_increment ,
  93.      tname varchar(50) ,
  94.      note varchar(500),primary key (t_id)
  95.   )  engine=innodb default charset=utf8mb4;
  96.   truncate table teacher;
  97.   delimiter $$
  98. drop function if exists   insert_teacher_data $$
  99. create function insert_teacher_data()
  100.  returns  int deterministic
  101.     begin
  102.     declare  i int;
  103.       set i=1;
  104.       while  i<=10000000 do
  105.       insert into teacher  values(i , concat('tname',i),concat('note',i) );
  106.       set i=i+1;
  107.       end while;
  108.       return 1;
  109.     end$$
  110. delimiter ;
  111. select  insert_teacher_data();
  112. commit;
  113. select count(*) from teacher;

  1. 这个是oracle的测试和造数据脚本
  2. create tablespace scott_data  datafile  '/home/oracle/oracle_space/sitpay1/scott_data.dbf'  size 1024m autoextend on;
  3. create tablespace scott_index   datafile  '/home/oracle/oracle_space/sitpay1/scott_index.dbf'  size 64m  autoextend on;
  4. create temporary tablespace scott_temp  tempfile  '/home/oracle/oracle_space/sitpay1/scott_temp.dbf'  size 64m autoextend on;
  5. drop user  scott cascade;
  6. create user  scott  identified by  tiger  default tablespace scott_data  temporary tablespace scott_temp  ;
  7. grant resource,connect,dba to  scott;
  8. drop table student;
  9. create table student
  10.   (  s_id number(11) ,
  11.      sno    number(11) ,
  12.      sname varchar2(50),
  13.      sage  number(11),
  14.      ssex  varchar2(8) ,
  15.      father_id number(11),
  16.       mather_id number(11),
  17.       note varchar2(500)
  18.   ) nologging;
  19. truncate table student;
  20. create or replace procedure insert_student_data
  21.  is
  22.    q number(11);
  23.     begin
  24.      q:=0;
  25.       for i in  1..50 loop
  26.       insert /*+append*/ into student   select rownum+q as s_id,rownum+q  as sno, concat('sutdent',rownum+q ) as sname,floor(dbms_random.value(1,100)) as sage,'f' as ssex,rownum+q  as father_id,rownum+q  as mather_id,concat('note',rownum+q ) as note from dual connect by level<=1000000;
  27.       q:=q+1000000;
  28.       commit;
  29.       end loop;
  30. end insert_student_data;
  31. /
  32. call insert_student_data();
  33. alter table student  add constraint  pk_student primary key (s_id);
  34. commit;
  35. select count(*) from student;
  36. create table course
  37.   (
  38.      c_id number(11) primary key,
  39.      cname varchar2(50),
  40.      note varchar2(500)
  41.   )  ;
  42. truncate table course;
  43.  create or replace procedure insert_course_data
  44.  is
  45.    q number(11);
  46.     begin
  47.       for i in  1..1000 loop
  48.       insert /*+append*/ into course  values(i , concat('name',i),concat('note',i) );
  49.       end loop;
  50. end insert_course_data;
  51. /
  52. call insert_course_data();
  53. commit;
  54. select count(*) from course;
  55. create table sc
  56.   (
  57.      s_id    number(11),
  58.      c_id    number(11),
  59.      t_id    number(11),
  60.      score number(11)
  61.   ) nologging;
  62. truncate table sc;
  63.  create or replace procedure insert_sc_data
  64.  is
  65.    q number(11);
  66.     begin
  67.      q:=0;
  68.       for i in  1..50 loop
  69.       insert /*+append*/ into sc   select rownum+q as s_id, floor(dbms_random.value(0,1000))  as c_id,floor(dbms_random.value(0,10000000)) t_id,floor(dbms_random.value(0,750)) as score from dual connect by level<=1000000;
  70.       q:=q+1000000;
  71.       commit;
  72.       end loop;
  73. end insert_sc_data;
  74. /
  75. call insert_sc_data();
  76. create index idx_s_id  on sc(s_id)   ;
  77. create index idx_t_id  on sc(t_id)   ;
  78. create index idx_c_id  on sc(c_id)   ;
  79. select count(*) from sc;
  80. create table teacher
  81.   (
  82.     t_id  number(11) ,
  83.      tname varchar2(50) ,
  84.      note varchar2(500)
  85.   )nologging ;
  86.     truncate table teacher;
  87. create or replace procedure insert_teacher_data
  88.  is
  89.    q number(11);
  90.     begin
  91. &nb

    原文:https://blog.csdn.net/j3T9Z7H/article/details/120258675

联系站长

QQ:769220720

Copyright © SibooSoft All right reserved 津ICP备19011444号