博客
关于我
MySQL 异步查询提高查询速度
阅读量:432 次
发布时间:2019-03-05

本文共 1814 字,大约阅读时间需要 6 分钟。

本文解决什么问题

什么是 MySQL 异步查询

MySQL 异步查询的优缺点

一个例子

异步查询功能

MySQLi 扩展提供了异步查询功能,需要使用 mysqlnd ( MySQL Native Driver ) 作为数据库的驱动。

mysqlnd 是 Zend 公司开发的 MySQL 数据库驱动,采用 PHP 开源协议,用于代替旧版的有 MySQL AB 公司(现 oracle) 开发的 libmysql, PHP 5.3 版本之后提供, PHP 5.4 之后的版本 mysqlnd 为默认配置选项。

MySQL 异步查询的优缺点

异步查询会开启多条 MySQL 线程,会带来一定的 cpu占用和内存使用。但是换来的是更高的查询速度。

比如我们 100w 数据在 40 张表中,原先查 40 张表的 union all 视图需要 20 多秒,使用的异步查询基本 1秒不到就出结果了。

一个列子

背景: 查询 40 张分表的数据,性能换时间。

主要使用了 MySQLI 提供的 mysqli_poll、reap_async_query 扩展方法

$table_separate_cnt = 40;      $sqls               = [];      for ( $i = 0; $i < $table_separate_cnt; $i ++ ) {        $sql = 'select * from news' + $i;        array_push( $sqls, $sql );      }      $links = [];      // 链接数据库,并发起异步查询      foreach ( $sqls as $sql ) {        $link = mysqli_connect( $hostname, $username, $password, 'test', '3306' );        $link->query( $sql, MYSQLI_ASYNC ); // 发起异步查询,立即返回        $links[ $link->thread_id ] = $link;      }      $llen    = count( $links );      $process = 0;      $res     = [];      do {        $r_array = $e_array = $reject = $links;        // 多路复用轮询IO        if ( ! ( $ret = mysqli_poll( $r_array, $e_array, $reject, 2 ) ) ) {          continue;        }        // 读取有结果返回的查询,处理结果        foreach ( $r_array as $link ) {          if ( $result = $link->reap_async_query() ) {            $r = $result->fetch_array();            if($r)            {              $res[] = $r;            }            if ( is_object( $result ) ) {              mysqli_free_result( $result );            }          }          // 操作完后,把当前数据链接从待轮询集合中删除          unset( $links[ $link->thread_id ] );          $link->close();          $process ++;        }        foreach ( $e_array as $link ) {          die;        }        foreach ( $reject as $link ) {          die;        }      } while ( $process < $llen );

转载地址:http://enuzz.baihongyu.com/

你可能感兴趣的文章
NIFI大数据进阶_Kafka使用相关说明_实际操作Kafka消费者处理器_来消费kafka数据---大数据之Nifi工作笔记0037
查看>>
NIFI大数据进阶_Kafka使用相关说明_实际操作Kafka生产者---大数据之Nifi工作笔记0036
查看>>
NIFI大数据进阶_NIFI的模板和组的使用-介绍和实际操作_创建组_嵌套组_模板创建下载_导入---大数据之Nifi工作笔记0022
查看>>
NIFI大数据进阶_NIFI监控功能实际操作_Summary查看系统和处理器运行情况_viewDataProvenance查看_---大数据之Nifi工作笔记0026
查看>>
NIFI大数据进阶_NIFI监控的强大功能介绍_处理器面板_进程组面板_summary监控_data_provenance事件源---大数据之Nifi工作笔记0025
查看>>
NIFI大数据进阶_NIFI集群知识点_认识NIFI集群以及集群的组成部分---大数据之Nifi工作笔记0014
查看>>
NIFI大数据进阶_NIFI集群知识点_集群的断开_重连_退役_卸载_总结---大数据之Nifi工作笔记0018
查看>>
NIFI大数据进阶_使用NIFI表达式语言_来获取自定义属性中的数据_NIFI表达式使用体验---大数据之Nifi工作笔记0024
查看>>
NIFI大数据进阶_内嵌ZK模式集群1_搭建过程说明---大数据之Nifi工作笔记0015
查看>>
NIFI大数据进阶_内嵌ZK模式集群2_实际操作搭建NIFI内嵌模式集群---大数据之Nifi工作笔记0016
查看>>
NIFI大数据进阶_外部ZK模式集群1_实际操作搭建NIFI外部ZK模式集群---大数据之Nifi工作笔记0017
查看>>
NIFI大数据进阶_实时同步MySql的数据到Hive中去_可增量同步_实时监控MySql数据库变化_实际操作_03---大数据之Nifi工作笔记0035
查看>>
NIFI大数据进阶_实时同步MySql的数据到Hive中去_可增量同步_实时监控MySql数据库变化_操作方法说明_01---大数据之Nifi工作笔记0033
查看>>
NIFI大数据进阶_实时同步MySql的数据到Hive中去_可增量同步_实时监控MySql数据库变化_操作方法说明_02---大数据之Nifi工作笔记0034
查看>>
NIFI大数据进阶_离线同步MySql数据到HDFS_01_实际操作---大数据之Nifi工作笔记0029
查看>>
NIFI大数据进阶_离线同步MySql数据到HDFS_02_实际操作_splitjson处理器_puthdfs处理器_querydatabasetable处理器---大数据之Nifi工作笔记0030
查看>>
NIFI大数据进阶_离线同步MySql数据到HDFS_说明操作步骤---大数据之Nifi工作笔记0028
查看>>
NIFI大数据进阶_连接与关系_设置数据流负载均衡_设置背压_设置展现弯曲_介绍以及实际操作---大数据之Nifi工作笔记0027
查看>>
NIFI数据库同步_多表_特定表同时同步_实际操作_MySqlToMysql_可推广到其他数据库_Postgresql_Hbase_SqlServer等----大数据之Nifi工作笔记0053
查看>>
NIFI汉化_替换logo_二次开发_Idea编译NIFI最新源码_详细过程记录_全解析_Maven编译NIFI避坑指南001---大数据之Nifi工作笔记0068
查看>>