Я наблюдал в системе, что std::fill
на большом std::vector<int>
был значительно и последовательно медленнее при установке постоянного значения 0
по сравнению с постоянным значением 1
или динамическим значением:
5,8 ГБ/с против 7,5 ГБ/с
Однако результаты отличаются для меньших размеров данных, где fill(0)
работает быстрее:
С более чем одним потоком при размере данных 4 гигабайта fill(1)
показывает более высокий наклон, но достигает гораздо более низкого пика, чем fill(0)
(51 гигабайт/с против 90 ГБ/с):
Возникает вторичный вопрос, почему пиковая ширина полосы fill(1)
намного ниже.
Тест-система для этого была двухъядерным процессором Intel Xeon E5-2680 v3, установленным на 2,5 ГГц (через /sys/cpufreq
) с 8x16 гигабайт DDR4-2133. Я тестировал GCC 6.1.0 (-O3
) и компилятор Intel 17.0.1 (-fast
), оба получают одинаковые результаты. GOMP_CPU_AFFINITY=0,12,1,13,2,14,3,15,4,16,5,17,6,18,7,19,8,20,9,21,10,22,11,23
. Strem/add/24 потоков получает 85 гигабайт/с в системе.
Я смог воспроизвести этот эффект на другой серверной системе с двумя гнездами Haswell, но не на любую другую архитектуру. Например, в Sandy Bridge EP производительность памяти идентична, а в кеше fill(0)
намного быстрее.
Вот код для воспроизведения:
#include <algorithm>
#include <cstdlib>
#include <iostream>
#include <omp.h>
#include <vector>
using value = int;
using vector = std::vector<value>;
constexpr size_t write_size = 8ll * 1024 * 1024 * 1024;
constexpr size_t max_data_size = 4ll * 1024 * 1024 * 1024;
void __attribute__((noinline)) fill0(vector& v) {
std::fill(v.begin(), v.end(), 0);
}
void __attribute__((noinline)) fill1(vector& v) {
std::fill(v.begin(), v.end(), 1);
}
void bench(size_t data_size, int nthreads) {
#pragma omp parallel num_threads(nthreads)
{
vector v(data_size / (sizeof(value) * nthreads));
auto repeat = write_size / data_size;
#pragma omp barrier
auto t0 = omp_get_wtime();
for (auto r = 0; r < repeat; r++)
fill0(v);
#pragma omp barrier
auto t1 = omp_get_wtime();
for (auto r = 0; r < repeat; r++)
fill1(v);
#pragma omp barrier
auto t2 = omp_get_wtime();
#pragma omp master
std::cout << data_size << ", " << nthreads << ", " << write_size / (t1 - t0) << ", "
<< write_size / (t2 - t1) << "\n";
}
}
int main(int argc, const char* argv[]) {
std::cout << "size,nthreads,fill0,fill1\n";
for (size_t bytes = 1024; bytes <= max_data_size; bytes *= 2) {
bench(bytes, 1);
}
for (size_t bytes = 1024; bytes <= max_data_size; bytes *= 2) {
bench(bytes, omp_get_max_threads());
}
for (int nthreads = 1; nthreads <= omp_get_max_threads(); nthreads++) {
bench(max_data_size, nthreads);
}
}
Представлены результаты, скомпилированные с помощью g++ fillbench.cpp -O3 -o fillbench_gcc -fopenmp
.