博客
关于我
MySQL 异步查询提高查询速度
阅读量:432 次
发布时间:2019-03-05

本文共 1814 字,大约阅读时间需要 6 分钟。

本文解决什么问题

什么是 MySQL 异步查询

MySQL 异步查询的优缺点

一个例子

异步查询功能

MySQLi 扩展提供了异步查询功能,需要使用 mysqlnd ( MySQL Native Driver ) 作为数据库的驱动。

mysqlnd 是 Zend 公司开发的 MySQL 数据库驱动,采用 PHP 开源协议,用于代替旧版的有 MySQL AB 公司(现 oracle) 开发的 libmysql, PHP 5.3 版本之后提供, PHP 5.4 之后的版本 mysqlnd 为默认配置选项。

MySQL 异步查询的优缺点

异步查询会开启多条 MySQL 线程,会带来一定的 cpu占用和内存使用。但是换来的是更高的查询速度。

比如我们 100w 数据在 40 张表中,原先查 40 张表的 union all 视图需要 20 多秒,使用的异步查询基本 1秒不到就出结果了。

一个列子

背景: 查询 40 张分表的数据,性能换时间。

主要使用了 MySQLI 提供的 mysqli_poll、reap_async_query 扩展方法

$table_separate_cnt = 40;      $sqls               = [];      for ( $i = 0; $i < $table_separate_cnt; $i ++ ) {        $sql = 'select * from news' + $i;        array_push( $sqls, $sql );      }      $links = [];      // 链接数据库,并发起异步查询      foreach ( $sqls as $sql ) {        $link = mysqli_connect( $hostname, $username, $password, 'test', '3306' );        $link->query( $sql, MYSQLI_ASYNC ); // 发起异步查询,立即返回        $links[ $link->thread_id ] = $link;      }      $llen    = count( $links );      $process = 0;      $res     = [];      do {        $r_array = $e_array = $reject = $links;        // 多路复用轮询IO        if ( ! ( $ret = mysqli_poll( $r_array, $e_array, $reject, 2 ) ) ) {          continue;        }        // 读取有结果返回的查询,处理结果        foreach ( $r_array as $link ) {          if ( $result = $link->reap_async_query() ) {            $r = $result->fetch_array();            if($r)            {              $res[] = $r;            }            if ( is_object( $result ) ) {              mysqli_free_result( $result );            }          }          // 操作完后,把当前数据链接从待轮询集合中删除          unset( $links[ $link->thread_id ] );          $link->close();          $process ++;        }        foreach ( $e_array as $link ) {          die;        }        foreach ( $reject as $link ) {          die;        }      } while ( $process < $llen );

转载地址:http://enuzz.baihongyu.com/

你可能感兴趣的文章
NLog类库使用探索——详解配置
查看>>
NLP 基于kashgari和BERT实现中文命名实体识别(NER)
查看>>
NLP 时事和见解【2023】
查看>>
NLP 模型中的偏差和公平性检测
查看>>
Vue3.0 性能提升主要是通过哪几方面体现的?
查看>>
NLP 项目:维基百科文章爬虫和分类【01】 - 语料库阅读器
查看>>
NLP_什么是统计语言模型_条件概率的链式法则_n元统计语言模型_马尔科夫链_数据稀疏(出现了词库中没有的词)_统计语言模型的平滑策略---人工智能工作笔记0035
查看>>
NLP、CV 很难入门?IBM 数据科学家带你梳理
查看>>
NLP三大特征抽取器:CNN、RNN与Transformer全面解析
查看>>
NLP入门(六)pyltp的介绍与使用
查看>>
NLP学习笔记:使用 Python 进行NLTK
查看>>
NLP度量指标BELU真的完美么?
查看>>
NLP的不同研究领域和最新发展的概述
查看>>
NLP的神经网络训练的新模式
查看>>
NLP采用Bert进行简单文本情感分类
查看>>
NLP问答系统:使用 Deepset SQUAD 和 SQuAD v2 度量评估
查看>>
NLP项目:维基百科文章爬虫和分类【02】 - 语料库转换管道
查看>>
NLP:从头开始的文本矢量化方法
查看>>
NLP:使用 SciKit Learn 的文本矢量化方法
查看>>
NLTK - 停用词下载
查看>>