Список функций Big-O для PHP

После некоторого времени использования PHP я заметил, что не все встроенные функции PHP работают так быстро, как ожидалось. Рассмотрим эти две возможные реализации функции, которая находит, является ли число простым, используя кэшированный массив простых чисел.

//very slow for large $prime_array
$prime_array = array( 2, 3, 5, 7, 11, 13, .... 104729, ... );
$result_array = array();
foreach( $prime_array => $number ) {
    $result_array[$number] = in_array( $number, $large_prime_array );
}

//speed is much less dependent on size of $prime_array, and runs much faster.
$prime_array => array( 2 => NULL, 3 => NULL, 5 => NULL, 7 => NULL,
                       11 => NULL, 13 => NULL, .... 104729 => NULL, ... );
foreach( $prime_array => $number ) {
    $result_array[$number] = array_key_exists( $number, $large_prime_array );
}

Это связано с тем, что в in_array реализован линейный поиск O (n), который будет линейно замедляться по мере $prime_array. Где функция array_key_exists реализована с поиском хеша O (1), который не будет замедляться, пока хеш-таблица не будет заполнена слишком сильно (в этом случае это только O (n)).

До сих пор мне приходилось открывать big-O методом проб и ошибок, а иногда и просматривать исходный код. Теперь к вопросу...

Есть ли список теоретических (или практических) больших значений O для всех * встроенных функций PHP?

* или хотя бы интересные

Например, мне очень трудно предсказать большой O перечисленных функций, потому что возможная реализация зависит от неизвестных основных структур данных PHP: array_merge, array_merge_recursive, array_reverse, array_intersect, array_combine, str_replace (с входами в массив) и т.д.

Ответ 1

Поскольку кажется, что никто не делал этого раньше, я подумал, что было бы неплохо иметь его где-нибудь для справки. Я прошел через тестирование или скимминг кода, чтобы охарактеризовать функции array_*. Я пытался поставить более интересный Big-O в верхней части. Этот список не полный.

Примечание. Все значения Big-O, в которых рассчитывается при условии поиска хеша, равны O (1), хотя в действительности это O (n). Коэффициент n настолько низок, что накладные расходы на хранение достаточно большого массива могут повредить вам, прежде чем характеристики поиска Big-O начнут действовать. Например, разница между вызовом array_key_exists при N = 1 и N = 1 000 000 составляет ~ 50% увеличения времени.

Интересные моменты:

  1. isset/array_key_exists гораздо быстрее, чем in_array и array_search
  2. + (union) немного быстрее, чем array_merge (и выглядит лучше). Но это работает по-другому, так что имейте это в виду.
  3. shuffle находится на том же уровне Big-O, что и array_rand
  4. array_pop/array_push быстрее, чем array_shift/array_unshift из-за повторного индексации штрафа

Поиски:

array_key_exists O (n), но действительно близко к O (1) - это из-за линейного опроса при столкновениях, но поскольку вероятность столкновений очень мала, коэффициент также очень мал. Я считаю, что вы рассматриваете поиск по хэшу как O (1), чтобы получить более реалистичный big-O. Например, разница между N = 1000 и N = 100000 составляет всего около 50% замедления.

isset( $array[$index] ) O (n), но очень близко к O (1) - он использует тот же поиск, что и array_key_exists. Так как это языковая конструкция, будет кэшировать поиск, если ключ жестко закодирован, что приведет к ускорению в случаях, когда один и тот же ключ используется повторно.

in_array O (n) - это потому, что он выполняет линейный поиск по массиву, пока не найдет значение.

array_search O (n) - он использует ту же основную функцию, что и in_array, но возвращает значение.

Функции очереди:

array_push O (∑ var_i, для всех я)

array_pop O (1)

array_shift O (n) - необходимо переиндексировать все ключи

array_unshift O (n + ∑ var_i, для всех i) - необходимо переиндексировать все ключи

Пересечение массивов, объединение, вычитание:

array_intersect_key если пересечение 100% сделать O (Макс (param_i_size) * ∑param_i_count, для всех i), если пересечение 0% пересекается O (∑param_i_size, для всех i)

array_intersect если пересечение 100% делает O (n ^ 2 * ∑param_i_count, для всех i), если пересечение 0% пересекается O (n ^ 2)

array_intersect_assoc если пересечение 100% делает O (Max (param_i_size) * ∑param_i_count, для всех i), если пересечение 0% пересекается O (∑param_i_size, для всех i)

array_diff O (π param_i_size, для всех i) - это произведение всех param_sizes

array_diff_key O (∑ param_i_size, для i! = 1) - это потому, что нам не нужно перебирать первый массив.

array_merge O (∑ array_i, i! = 1) - не нужно перебирать первый массив

+ (union) O (n), где n - размер 2-го массива (т.е. array_first + array_second) - меньше накладных расходов, чем array_merge, так как не нужно перенумеровать

array_replace O (∑ array_i, для всех i)

Случайный:

shuffle O (n)

array_rand O (n) - Требуется линейный опрос.

Очевидный Big-O:

array_fill O (n)

array_fill_keys O (n)

range O (n)

array_splice O (смещение + длина)

array_slice O (смещение + длина) или O (n), если длина = NULL

array_keys O (n)

array_values O (n)

array_reverse O (n)

array_pad O (pad_size)

array_flip O (n)

array_sum O (n)

array_product O (n)

array_reduce O (n)

array_filter O (n)

array_map O (n)

array_chunk O (n)

array_combine O (n)

Я хотел бы поблагодарить Eureqa за то, что он упростил поиск Big-O функций. Это удивительная бесплатная программа, которая может найти наиболее подходящую функцию для произвольных данных.

РЕДАКТИРОВАТЬ:

Для тех, кто сомневается в том, что поиск в массивах PHP - это O(N), я написал тест, чтобы проверить это (они по-прежнему эффективно O(1) для большинства реалистичных значений).

php array lookup graph

$tests = 1000000;
$max = 5000001;


for( $i = 1; $i <= $max; $i += 10000 ) {
    //create lookup array
    $array = array_fill( 0, $i, NULL );

    //build test indexes
    $test_indexes = array();
    for( $j = 0; $j < $tests; $j++ ) {
        $test_indexes[] = rand( 0, $i-1 );
    }

    //benchmark array lookups
    $start = microtime( TRUE );
    foreach( $test_indexes as $test_index ) {
        $value = $array[ $test_index ];
        unset( $value );
    }
    $stop = microtime( TRUE );
    unset( $array, $test_indexes, $test_index );

    printf( "%d,%1.15f\n", $i, $stop - $start ); //time per 1mil lookups
    unset( $stop, $start );
}

Ответ 2

Вы почти всегда хотите использовать isset вместо array_key_exists. Я не смотрю на внутренности, но я уверен, что array_key_exists - это O (N), потому что он выполняет итерацию по каждому ключу массива, а isset пытается получить доступ к элементу с использованием того же алгоритма хеширования который используется при доступе к индексу массива. Это должно быть O (1).

Один из "полученных", на которые следует обратить внимание, заключается в следующем:

$search_array = array('first' => null, 'second' => 4);

// returns false
isset($search_array['first']);

// returns true
array_key_exists('first', $search_array);

Мне было любопытно, поэтому я сравнил разницу:

<?php

$bigArray = range(1,100000);

$iterations = 1000000;
$start = microtime(true);
while ($iterations--)
{
    isset($bigArray[50000]);
}

echo 'is_set:', microtime(true) - $start, ' seconds', '<br>';

$iterations = 1000000;
$start = microtime(true);
while ($iterations--)
{
    array_key_exists(50000, $bigArray);
}

echo 'array_key_exists:', microtime(true) - $start, ' seconds';
?>

is_set: 0.132308959961 секунд
array_key_exists: 2.33202195168 секунд

Конечно, это не показывает временную сложность, но показывает, как 2 функции сравниваются друг с другом.

Чтобы проверить временную сложность, сравните время, затрачиваемое на выполнение одной из этих функций на первом и последнем ключах.

Ответ 3

Объяснение конкретного случая, которое вы описываете, это то, что ассоциативные массивы реализованы как хеш-таблицы, поэтому поиск по ключу (и, соответственно, array_key_exists) равен O (1). Однако массивы не индексируются по значению, поэтому единственный способ в общем случае выяснить, существует ли значение в массиве, - это линейный поиск. Там нет ничего удивительного.

Я не думаю, что существует специальная всесторонняя документация по алгоритмической сложности методов PHP. Однако, если это достаточно важно, чтобы гарантировать это, вы всегда можете просмотреть исходный код.

Ответ 4

Если люди столкнулись с трудностями на практике с ключевыми столкновениями, они будут реализовывать контейнеры со вторичным поиском хэшей или сбалансированным деревом. Сбалансированное дерево дало бы поведение O (log n) худшего случая и O (1) avg. case (сам хэш). Накладные расходы не стоят в большинстве практических приложений в памяти, но, возможно, есть базы данных, которые реализуют эту форму смешанной стратегии в качестве случая по умолчанию.