如何用box/spout解析大型Excel表格

PHP解析Excel有个比较有名的库是phpoffice/phpexcel。在实际使用的过程中,遇到上万行的Excel时,phpexcel的内存使用量会飙升。今天我来介绍另一个高效解析Excel的PHP库box/spout。

看官方介绍是:Read and write spreadsheet files in a fast and scalable way,可见这个库在解析Excel时,Excel文件的大小不会太影响内存的使用量。可以说是PHPExcel一种替代方案。

由于box/spout库的Github主页上的文档链接已经挂了,这里简单写了一个XLSX文件转化成CSV的例子:

include 'vendor/autoload.php';
use BoxSpoutReaderReaderFactory;
use BoxSpoutCommonType;

$t = time();
$reader = ReaderFactory::create(Type::XLSX);
//如果注释掉,单元格内的日期类型将会是DateTime,不注释的话Spout自动帮你将日期转化成string
//$reader->setShouldFormatDates(true);
$reader->open('./test.xlsx');
$iterator = $reader->getSheetIterator();
$iterator->rewind();
$sheet1 = $iterator->current();
$rowIter = $sheet1->getRowIterator();
foreach ($rowIter as $row) {
    $d = '';
    foreach ($row as $col) {
        echo $d;
        if ($col instanceof DateTime) {
            echo $col->format('Y-m-d');
        } else {
            echo $col;
        }
        $d = "	";
    }
    echo PHP_EOL;
}
$reader->close();

使用方法还是很简洁明了的。

使用内存缓存String字典

前面说到box/spout在解析时消耗的内存大小,不受Excel文件大小的影响,这是如何做到的呢?

这里简单科普一下:XLSX文件格式是符合一项标准的,这项标准叫做OOXML(https://zh.wikipedia.org/zh-cn/Office_Open_XML)。XLSX实际上就是一个Zip包,可以解压缩出来看看其中的内容。

XLSX表格中,如果单元格的内容是一串字符串时,实际保存的时候只保存一个stringId,字符串真正的内容保存在一个String字典中。

在读取XLSX文件时,如果单元格是字符串,Spout就要去查询String字典。Spout有两种查询方法,一是每次从文件里读取字典的一部分查询,二是把整个字典加载到内存里查询。

显然把String字典整个加载到内存里,查询速度最快。但Spout过于保守,很多情况下都是采用第一种查询方式。所以稍微修改下Spout的代码,让Spout尽量把字典全部加载到内存:

# Spout/Reader/XLSX/Helper/SharedStringsCaching/CachingStrategyFactory.php
class CachingStrategyFactory {
  ....
  const MAX_NUM_STRINGS_PER_TEMP_FILE = 10000; // 改成50000
  ....
}

试验一个1.3w行、28列、2.8MB大小的EXCEL转化成CSV,做个对比:

方式 耗时 占用内存
字典不加载到内存 185 s 1.3 MB
字典加载到内存 43 s 9.4 MB

可见处理时间相差还是挺大的。

推荐学习:php视频教程

hmoban主题是根据ripro二开的主题,极致后台体验,无插件,集成会员系统
自学咖网 » 如何用box/spout解析大型Excel表格