如何用box/spout解析大型Excel表格
PHP解析Excel有个比较有名的库是phpoffice/phpexcel。在实际使用的过程中,遇到上万行的Excel时,phpexcel的内存使用量会飙升。今天我来介绍另一个高效解析Excel的PHP库box/spout。
看官方介绍是:Read and write spreadsheet files in a fast and scalable way,可见这个库在解析Excel时,Excel文件的大小不会太影响内存的使用量。可以说是PHPExcel一种替代方案。
由于box/spout库的Github主页上的文档链接已经挂了,这里简单写了一个XLSX文件转化成CSV的例子:
include 'vendor/autoload.php'; use BoxSpoutReaderReaderFactory; use BoxSpoutCommonType; $t = time(); $reader = ReaderFactory::create(Type::XLSX); //如果注释掉,单元格内的日期类型将会是DateTime,不注释的话Spout自动帮你将日期转化成string //$reader->setShouldFormatDates(true); $reader->open('./test.xlsx'); $iterator = $reader->getSheetIterator(); $iterator->rewind(); $sheet1 = $iterator->current(); $rowIter = $sheet1->getRowIterator(); foreach ($rowIter as $row) { $d = ''; foreach ($row as $col) { echo $d; if ($col instanceof DateTime) { echo $col->format('Y-m-d'); } else { echo $col; } $d = " "; } echo PHP_EOL; } $reader->close();
使用方法还是很简洁明了的。
使用内存缓存String字典
前面说到box/spout在解析时消耗的内存大小,不受Excel文件大小的影响,这是如何做到的呢?
这里简单科普一下:XLSX文件格式是符合一项标准的,这项标准叫做OOXML(https://zh.wikipedia.org/zh-cn/Office_Open_XML)。XLSX实际上就是一个Zip包,可以解压缩出来看看其中的内容。
XLSX表格中,如果单元格的内容是一串字符串时,实际保存的时候只保存一个stringId,字符串真正的内容保存在一个String字典中。
在读取XLSX文件时,如果单元格是字符串,Spout就要去查询String字典。Spout有两种查询方法,一是每次从文件里读取字典的一部分查询,二是把整个字典加载到内存里查询。
显然把String字典整个加载到内存里,查询速度最快。但Spout过于保守,很多情况下都是采用第一种查询方式。所以稍微修改下Spout的代码,让Spout尽量把字典全部加载到内存:
# Spout/Reader/XLSX/Helper/SharedStringsCaching/CachingStrategyFactory.php class CachingStrategyFactory { .... const MAX_NUM_STRINGS_PER_TEMP_FILE = 10000; // 改成50000 .... }
试验一个1.3w行、28列、2.8MB大小的EXCEL转化成CSV,做个对比:
方式 | 耗时 | 占用内存 |
---|---|---|
字典不加载到内存 | 185 s | 1.3 MB |
字典加载到内存 | 43 s | 9.4 MB |
可见处理时间相差还是挺大的。
推荐学习:php视频教程