发布时间:2015-12-19 10:10:23编辑:丝画阁阅读(1061)
要用php代码来处理一个580M的日志文件,总共有219万多行记录,因为是.log的文件,在windows下面很难将文件按照条数来分割,于
是在linux下用split -l 10000 filename 前缀名
将整个文件按10000行一个分割成了200多个小文件,之后用php来循环处理这200多个文件,可是执行到后来就出现了题目上面的错误:
Fatal
error: Allowed memory size of 134217728 bytes exhausted (tried to
allocate 2611816
bytes),去百度了一下,原来是php.ini中的内存分配的问题,默认php代码能够申请到的最大内存字节数就是134217728
bytes,如果代码执行的时候再需要更多的内存,就会报错了,于是就将php.ini文件中的配置改了一下:
memory_limit = 128M;将128M改成了256M
但是之后一想,一个php脚本一次请求的内存空间就要超过128M,那不管你以后将memory_limit设置成多大,以后肯定有出问题的时候。
究其原因,是我在在编码时,仅仅对变量赋值,却从来没有 unset ($var) 过。导致了内存占用越来越多,所以以后一个变量不再使用之后,一定要记得unset掉它。
下面附上我今天处理这个日志文件的代码:
<?php
set_time_limit(1800) ;
/**
* 获取日志中发送失败的邮箱地址
* @param $directory log日志的目录
* @param $name 失败邮箱保存的文件名
*/
function getmail($directory,$name){
//遍历目录下的.log文件
$files=scandir("$directory");
foreach($files as $v){
if(preg_match_all("|mail\.log\D+|",$v,$log)){
$logs[]=$log[0][0];
}
}
//将所有.log文件中发送失败邮箱提取出来
foreach($logs as $v){
$row=file("$v");
echo "读取".$v."文件<br />";
foreach($row as $key => $value)
{
if(eregi("host name lookup failure|Connection timed out with|Connection refused by|cannot find your reverse hostname", $value)){
if(preg_match("|\w+([-+.]\w+)*@\w+([-.]\w+)*.\w+([-.]\w+)*|", $row[$key],$matches)){
$mail[] = trim($matches[0]);
echo "获取发送失败的邮箱地址".$matches[0]."<br />";
}else{
echo "无法获取日志中发送失败的邮箱,请检查";
}
}
}
unset($row);
}
//将提取出来的发送失败邮箱写入到mail.txt文件中
$mailurl=fopen("$name","a");
foreach($mail as $line)
{
fwrite($mailurl,$line."\r\n");
}
echo "将所有发送失败的邮箱地址写入".$name."<br />";
fclose($mailurl);
}
getmail(".","mail.txt");
?>
关键字:
上一篇:中文姓名、手机号、身份证和地址
下一篇: linux split命令参数及用法详解
本站部分内容来源网络及网友上传,本站未必能一一鉴别其是否为公共版权或其版权归属,如果您认为侵犯您的权利,本站将表示非常抱歉!
请您速联系本站,本站一经核实,立即删除。删文删帖联系【2789291421@qq.com】