php如何加快对百万级数据的导出
发布时间：2022-02-22 05:41:36 所属栏目：PHP教程 来源：互联网
导读：很多朋友想要知道PHP怎么样快速导出百万级数据到CSV或者EXCEL文件中，因此，这篇文章就给大家分享一下php百万级数据导出的操作，下面是导出思路，导出源码以及测试，有需要的朋友可以看一下，希望大家有收获。 很多时候，因为数据统计，我们需要将数据库的
|
很多朋友想要知道PHP怎么样快速导出百万级数据到CSV或者EXCEL文件中，因此，这篇文章就给大家分享一下php百万级数据导出的操作，下面是导出思路，导出源码以及测试，有需要的朋友可以看一下，希望大家有收获。 很多时候，因为数据统计，我们需要将数据库的数据导出到Excel等文件中，以供数据人员进行查看，如果数据集不大，其实很容易；但是如果对于大数集的导出，将要考虑各种性能的问题，这里以导出数据库一百万条数据为例，导出时间不过20秒，值的学习的一种大数据导出方式。 一、导出思路 需要考虑服务器内存 需要考虑程序运行的最大时间 缺少BOM头导致乱码的处理 如果导出数量过大，推荐使用循环导出，每次循环这里以导出一万条为例，循环100次即可全部导出 二、导出源码 下面源码将数据库信息修改成自己的即可使用 亲测导出一百万条数据，3个字段，不过20秒 如果服务器硬件不支持一次读取一万条数据，可将循环次数提高，导出数量降低 <?php //让程序一直运行 set_time_limit(0); //设置程序运行内存 ini_set('memory_limit', '128M'); $fileName = '测试导出数据'; header('Content-Encoding: UTF-8'); header("Content-type:application/vnd.ms-excel;charset=UTF-8"); header('Content-Disposition: attachment;filename="' . $fileName . '.csv"'); //打开php标准输出流 $fp = fopen('php://output', 'a'); //添加BOM头，以UTF8编码导出CSV文件，如果文件头未添加BOM头，打开会出现乱码。 fwrite($fp, chr(0xEF).chr(0xBB).chr(0xBF)); //添加导出标题 fputcsv($fp, ['姓名', '年龄', '地区']); //链接数据库 $dsn = "mysql:host=127.0.0.1;port=3306;dbname=db_www;charset=utf8"; $pdo = new PDO($dsn, 'root', ''); $step = 100; //循环次数 $nums = 10000; //每次导出数量 for($i = 0; $i < $step; $i++) { $start = $i * 10000; $sql = "SELECT uname,age,city FROM `hd_test` ORDER BY `id` LIMIT {$start},{$nums}"; $pdostatement = $pdo->query($sql); $result = $pdostatement->fetchAll(PDO::FETCH_ASSOC); foreach ($result as $item) { fputcsv($fp, $item); } //每1万条数据就刷新缓冲区 ob_flush(); flush(); } 三、快速生成百万条测试数据 这里推荐数据库的蠕虫复制命令 先建好表后，插2条测试数据后，执行几次下列命令，即可指数增长 INSERT INTO hd_test (uname,age,city) SELECT uname,age,city FROM hd_test; 以上就是关于php百万级数据导的思路以及操作，希望能帮助到大家，更多php百万级数据导出的内容大家可以继续关注其他文章。 出到此这篇关于PHP快速导出百万级数据到CSV或者EXCEL文件的文章就介绍到这了,更多相关PHP 导出百万级数据内容请搜索脚本之家以前的文章或继续浏览下面的相关文章希望大家以后多多支持脚本之家！ （编辑：PHP编程网 - 黄冈站长网） 【声明】本站内容均来自网络，其相关言论仅代表作者个人观点，不代表本站立场。若无意侵犯到您的权利，请及时与联系站长删除相关内容! |
浙公网安备 33038102330482号