Я хочу читать файл построчно, но без полной загрузки в память.
Мой файл слишком велик, чтобы открывать его в памяти, и если я пытаюсь это сделать, я всегда выхожу из памяти.
Размер файла составляет 1 ГБ.
Я хочу читать файл построчно, но без полной загрузки в память.
Мой файл слишком велик, чтобы открывать его в памяти, и если я пытаюсь это сделать, я всегда выхожу из памяти.
Размер файла составляет 1 ГБ.
Вы можете использовать функцию fgets()
для чтения файла по строкам:
$handle = fopen("inputfile.txt", "r");
if ($handle) {
while (($line = fgets($handle)) !== false) {
// process the line read.
}
fclose($handle);
} else {
// error opening the file.
}
if ($file = fopen("file.txt", "r")) {
while(!feof($file)) {
$line = fgets($file);
# do same stuff with the $line
}
fclose($file);
}
Вы можете использовать класс объектно-ориентированного интерфейса для файла - SplFileObject http://php.net/manual/en/splfileobject.fgets.php (PHP 5 >= 5.1.0)
<?php
$file = new SplFileObject("file.txt");
// Loop until we reach the end of the file.
while (!$file->eof()) {
// Echo one line from the file.
echo $file->fgets();
}
// Unset the file to call __destruct(), closing the file handle.
$file = null;
Если вы открываете большой файл, вы, вероятно, захотите использовать генераторы вместе с fgets(), чтобы избежать загрузки всего файла в память:
/**
* @return Generator
*/
$fileData = function() {
$file = fopen(__DIR__ . '/file.txt', 'r');
if (!$file)
die('file does not exist or cannot be opened');
while (($line = fgets($file)) !== false) {
yield $line;
}
fclose($file);
};
Используйте его следующим образом:
foreach ($fileData() as $line) {
// $line contains current line
}
Таким образом вы можете обрабатывать отдельные строки файлов внутри foreach().
Примечание. Генераторы требуют >= PHP 5.5
Используйте методы буферизации для чтения файла.
$filename = "test.txt";
$source_file = fopen( $filename, "r" ) or die("Couldn't open $filename");
while (!feof($source_file)) {
$buffer = fread($source_file, 4096); // use a buffer of 4KB
$buffer = str_replace($old,$new,$buffer);
///
}
Существует функция file()
, которая возвращает массив строк, содержащихся в файле.
foreach(file('myfile.txt') as $line) {
echo $line. "\n";
}
foreach (new SplFileObject(__FILE__) as $line) {
echo $line;
}
Будьте осторожны с материалом while (! feof... fgets(), fgets может получить ошибку (returnfing false) и цикл навсегда, не дойдя до конца файла. codaddict был ближе всего к правильному, но когда ваш ' в то время как цикл fgets заканчивается, проверьте feof, если не верно, то вы получили ошибку.
Очевидного ответа не было во всех ответах. В PHP имеется удобный анализатор потокового разделителя, созданный именно для этой цели.
$fp=fopen("/path/to/the/file", "r+");
while ($line = stream_get_line($fp, 1024 * 1024, "\n"))
{
echo $line;
}
fclose($fp);
Одно из популярных решений этого вопроса будет иметь проблемы с новым символом линии. Его можно легко устранить простым str_replace
.
$handle = fopen("some_file.txt", "r");
if ($handle) {
while (($line = fgets($handle)) !== false) {
$line = str_replace("\n", "", $line);
}
fclose($handle);
}
Вот как я справляюсь с очень большими файлами (проверено до 100G). И это быстрее, чем fgets()
$block =1024*1024;//1MB or counld be any higher than HDD block_size*2
if ($fh = fopen("file.txt", "r")) {
$left='';
while (!feof($fh)) {// read the file
$temp = fread($fh, $block);
$fgetslines = explode("\n",$temp);
$fgetslines[0]=$left.$fgetslines[0];
if(!feof($fh) )$left = array_pop($lines);
foreach ($fgetslines as $k => $line) {
//do smth with $line
}
}
}
fclose($fh);
SplFileObject полезен, когда речь идет о работе с большими файлами.
function parse_file($filename)
{
try {
$file = new SplFileObject($filename);
} catch (LogicException $exception) {
die('SplFileObject : '.$exception->getMessage());
}
while ($file->valid()) {
$line = $file->fgets();
//do something with $line
}
//don't forget to free the file handle.
$file = null;
}
<?php
echo '<meta charset="utf-8">';
$k= 1;
$f= 1;
$fp = fopen("texttranslate.txt", "r");
while(!feof($fp)) {
$contents = '';
for($i=1;$i<=1500;$i++){
echo $k.' -- '. fgets($fp) .'<br>';$k++;
$contents .= fgets($fp);
}
echo '<hr>';
file_put_contents('Split/new_file_'.$f.'.txt', $contents);$f++;
}
?>
Функция чтения с возвратом массива
function read_file($filename = ''){
$buffer = array();
$source_file = fopen( $filename, "r" ) or die("Couldn't open $filename");
while (!feof($source_file)) {
$buffer[] = fread($source_file, 4096); // use a buffer of 4KB
}
return $buffer;
}