為了實(shí)驗(yàn)大數(shù)據(jù)的導(dǎo)出，我們這里先自已創(chuàng)建一張大表，表結(jié)構(gòu)如下:

CREATE TABLE `tb_users` (`id` int(11) unsigned NOT NULL AUTO_INCREMENT COMMENT '用戶ID',`name` varchar(32) DEFAULT '' COMMENT '用戶名',`age` tinyint(3) DEFAULT '0' COMMENT '用戶年齡',`desc` varchar(255) DEFAULT '' COMMENT '用戶描述',`phone` varchar(11) DEFAULT '' COMMENT '用戶手機(jī)',`qq` varchar(16) DEFAULT '' COMMENT '用戶QQ',`email` varchar(64) DEFAULT '' COMMENT '用戶郵箱',`addr` varchar(255) DEFAULT '' COMMENT '用戶地址',PRIMARY KEY (`id`) ) ENGINE=InnoDB DEFAULT CHARSET=utf8;

?然后寫個(gè)php腳本往這個(gè)表插入數(shù)據(jù)，代碼如下:

<?php set_time_limit(0); ini_set('memory_limit', '128M');//使用TP3.2的String類，php7下會(huì)報(bào)錯(cuò)，注意把類名換一下 require './String.class.php'; use Org\Util\NewString;$begin = microtime(true);$db = new mysqli('127.0.0.1', 'root', '', 'test');if($db->connect_error) {die('connect error'); } //數(shù)據(jù)插入語句 $insSql = '';//一百萬數(shù)據(jù)，分200步，每步插入5000條 $step = 200; $nums = 5000;for($s = 0; $s < $step; ++$s) {$insSql = 'INSERT INTO tb_users VALUES';for($n = 0; $n < $nums; ++$n) {$name = NewString::randString(3, 4);$age = mt_rand(1, 120);$desc = NewString::randString(64, 4);$phone = NewString::randString(11, 1);$qq = NewString::randString(13, 1);$email = $qq . '@qq.com';$addr = NewString::randString(128, 4);$insSql .= "(NULL, '{$name}', $age, '{$desc}', '{$phone}', '{$qq}', '{$email}', '{$addr}'),";}$insSql = rtrim($insSql, ',');$db->query($insSql); } $end = microtime(true); echo '用時(shí):', $end - $begin;$db->close();

里面用到的TP3.2的String類大家自行上TP官網(wǎng)下載。整個(gè)用時(shí)2個(gè)多小時(shí)，最后數(shù)據(jù)大小662M。

現(xiàn)在我們用php提供的fputcsv來導(dǎo)出這一百萬的數(shù)據(jù)，原理就是打開一個(gè)標(biāo)準(zhǔn)輸出流，然后把數(shù)據(jù)按一萬條來分割，每一萬條就刷新緩沖區(qū)。

<?php set_time_limit(0); ini_set('memory_limit', '128M');$fileName = date('YmdHis', time()); header('Content-Type: application/vnd.ms-execl'); header('Content-Disposition: attachment;filename="' . $fileName . '.csv"');$begin = microtime(true);//打開php標(biāo)準(zhǔn)輸出流 //以寫入追加的方式打開 $fp = fopen('php://output', 'a');$db = new mysqli('127.0.0.1', 'root', '', 'test');if($db->connect_error) {die('connect error'); }//我們?cè)囍胒putcsv從數(shù)據(jù)庫中導(dǎo)出1百萬的數(shù)據(jù) //我們每次取1萬條數(shù)據(jù)，分100步來執(zhí)行 //如果線上環(huán)境無法支持一次性讀取1萬條數(shù)據(jù)，可把$nums調(diào)小，$step相應(yīng)增大。 $step = 100; $nums = 10000;//設(shè)置標(biāo)題 $title = array('ID', '用戶名', '用戶年齡', '用戶描述', '用戶手機(jī)', '用戶QQ', '用戶郵箱', '用戶地址'); foreach($title as $key => $item) {$title[$key] = iconv('UTF-8', 'GBK', $item); } //將標(biāo)題寫到標(biāo)準(zhǔn)輸出中 fputcsv($fp, $title);for($s = 1; $s <= $step; ++$s) {$start = ($s - 1) * $nums;$result = $db->query("SELECT * FROM tb_users ORDER BY id LIMIT {$start},{$nums}");if($result) {while($row = $result->fetch_assoc()) {foreach($row as $key => $item) {//這里必須轉(zhuǎn)碼，不然會(huì)亂碼$row[$key] = iconv('UTF-8', 'GBK', $item);}fputcsv($fp, $row);}$result->free();//每1萬條數(shù)據(jù)就刷新緩沖區(qū)ob_flush();flush();} }$end = microtime(true); echo '用時(shí)：', $end - $begin;

整個(gè)過程用時(shí)5分鐘，最終生成的csv文件大小420M。

?

對(duì)于如何用phpexcel導(dǎo)出大數(shù)據(jù)，并沒有什么比較好的方案，phpexcel提供的一些緩存方法，數(shù)據(jù)壓縮，雖然內(nèi)存使用小了，但所用時(shí)間則加長(zhǎng)了，時(shí)間換空間，顯然并不是最好的方案。比較靠譜的方法還是生成多個(gè)下載鏈接地址，把你要下載的數(shù)據(jù)，以get形式傳遞當(dāng)前頁數(shù)，后臺(tái)進(jìn)行數(shù)據(jù)分頁然后導(dǎo)出。

<a href="/downSearchData.php?參數(shù)1=值1&參數(shù)2=值2&page=1">下載匯總結(jié)果1</a> <a href="/downSearchData.php?參數(shù)1=值1&參數(shù)2=值2&page=2">下載匯總結(jié)果2</a> <a href="/downSearchData.php?參數(shù)1=值1&參數(shù)2=值2&page=3">下載匯總結(jié)果3</a>

?比如你有一個(gè)查詢數(shù)據(jù)表單，ID為searchFrm，然后你想把導(dǎo)出數(shù)據(jù)按1萬條分割(phpexcel一次導(dǎo)出1萬條是沒有問題的，效率還行)

<form id="searchFrm">姓名<input type="text" name="uname"><input type="button" id="searchDataBtn" value="導(dǎo)出匯總結(jié)果"> </form> <div id="searchDataList"></div><script type="script">$("#searchDataBtn").on("click", function() {var params = $("#searchFrm").serialize();//獲取查詢數(shù)據(jù)的條數(shù)$.get("/getSearchDataRows?" + params, function(data) {var downDataList = "";if(data["rows"]) {//rows是數(shù)據(jù)總條數(shù)，pageSize是一頁多少條var pageNum = Math.ceil(data["rows"] / data["pageSize"]);for(var i = 1; i <= pageNum; ++i) {downDataList += "<a href='/downSearchData.php?'" + params + "&page=" + i + ">下載匯總結(jié)果" + i + "</a>&nbsp;&nbsp;";}$("#searchDataList").html(downDataList);} else {$("#searchDataList").text("沒有數(shù)據(jù)");}}, "json");return false;}); </script>

總結(jié)

以上是生活随笔為你收集整理的php使用fputcsv进行大数据的导出的全部?jī)?nèi)容，希望文章能夠幫你解決所遇到的問題。

如果覺得生活随笔網(wǎng)站內(nèi)容還不錯(cuò)，歡迎將生活随笔推薦給好友。