Как читать большой файл построчно?

Я хочу читать файл построчно, но без полной загрузки в память.

Мой файл слишком велик, чтобы открывать его в памяти, и если я пытаюсь это сделать, я всегда выхожу из памяти.

Размер файла составляет 1 ГБ.

Ответ 1

Вы можете использовать функцию fgets() для чтения файла по строкам:

$handle = fopen("inputfile.txt", "r");
if ($handle) {
    while (($line = fgets($handle)) !== false) {
        // process the line read.
    }

    fclose($handle);
} else {
    // error opening the file.
} 

Ответ 2

if ($file = fopen("file.txt", "r")) {
    while(!feof($file)) {
        $line = fgets($file);
        # do same stuff with the $line
    }
    fclose($file);
}

Ответ 3

Вы можете использовать класс объектно-ориентированного интерфейса для файла - SplFileObject http://php.net/manual/en/splfileobject.fgets.php (PHP 5 >= 5.1.0)

<?php

$file = new SplFileObject("file.txt");

// Loop until we reach the end of the file.
while (!$file->eof()) {
    // Echo one line from the file.
    echo $file->fgets();
}

// Unset the file to call __destruct(), closing the file handle.
$file = null;

Ответ 4

Если вы открываете большой файл, вы, вероятно, захотите использовать генераторы вместе с fgets(), чтобы избежать загрузки всего файла в память:

/**
 * @return Generator
 */
$fileData = function() {
    $file = fopen(__DIR__ . '/file.txt', 'r');

    if (!$file)
        die('file does not exist or cannot be opened');

    while (($line = fgets($file)) !== false) {
        yield $line;
    }

    fclose($file);
};

Используйте его следующим образом:

foreach ($fileData() as $line) {
    // $line contains current line
}

Таким образом вы можете обрабатывать отдельные строки файлов внутри foreach().

Примечание. Генераторы требуют >= PHP 5.5

Ответ 5

Используйте методы буферизации для чтения файла.

$filename = "test.txt";
$source_file = fopen( $filename, "r" ) or die("Couldn't open $filename");
while (!feof($source_file)) {
    $buffer = fread($source_file, 4096);  // use a buffer of 4KB
    $buffer = str_replace($old,$new,$buffer);
    ///
}

Ответ 6

Существует функция file(), которая возвращает массив строк, содержащихся в файле.

foreach(file('myfile.txt') as $line) {
   echo $line. "\n";
}

Ответ 7

foreach (new SplFileObject(__FILE__) as $line) {
    echo $line;
}

Ответ 8

Будьте осторожны с материалом while (! feof... fgets(), fgets может получить ошибку (returnfing false) и цикл навсегда, не дойдя до конца файла. codaddict был ближе всего к правильному, но когда ваш ' в то время как цикл fgets заканчивается, проверьте feof, если не верно, то вы получили ошибку.

Ответ 9

Очевидного ответа не было во всех ответах. В PHP имеется удобный анализатор потокового разделителя, созданный именно для этой цели.

$fp=fopen("/path/to/the/file", "r+");
while ($line = stream_get_line($fp, 1024 * 1024, "\n"))
{
echo $line;
}
fclose($fp);

Ответ 10

Одно из популярных решений этого вопроса будет иметь проблемы с новым символом линии. Его можно легко устранить простым str_replace.

$handle = fopen("some_file.txt", "r");
if ($handle) {
    while (($line = fgets($handle)) !== false) {
        $line = str_replace("\n", "", $line);
    }
    fclose($handle);
}

Ответ 11

Вот как я справляюсь с очень большими файлами (проверено до 100G). И это быстрее, чем fgets()

$block =1024*1024;//1MB or counld be any higher than HDD block_size*2
if ($fh = fopen("file.txt", "r")) { 
    $left='';
    while (!feof($fh)) {// read the file
       $temp = fread($fh, $block);  
       $fgetslines = explode("\n",$temp);
       $fgetslines[0]=$left.$fgetslines[0];
       if(!feof($fh) )$left = array_pop($lines);           
       foreach ($fgetslines as $k => $line) {
           //do smth with $line
        }
     }
}
fclose($fh);

Ответ 12

SplFileObject полезен, когда речь идет о работе с большими файлами.

function parse_file($filename)
{
    try {
        $file = new SplFileObject($filename);
    } catch (LogicException $exception) {
        die('SplFileObject : '.$exception->getMessage());
    }
    while ($file->valid()) {
        $line = $file->fgets();
        //do something with $line
    }

    //don't forget to free the file handle.
    $file = null;
}

Ответ 13

<?php
echo '<meta charset="utf-8">';

$k= 1;
$f= 1;
$fp = fopen("texttranslate.txt", "r");
while(!feof($fp)) {
    $contents = '';
    for($i=1;$i<=1500;$i++){
        echo $k.' -- '. fgets($fp) .'<br>';$k++;
        $contents .= fgets($fp);
    }
    echo '<hr>';
    file_put_contents('Split/new_file_'.$f.'.txt', $contents);$f++;
}
?>

Ответ 14

Функция чтения с возвратом массива

function read_file($filename = ''){
    $buffer = array();
    $source_file = fopen( $filename, "r" ) or die("Couldn't open $filename");
    while (!feof($source_file)) {
        $buffer[] = fread($source_file, 4096);  // use a buffer of 4KB
    }
    return $buffer;
}