У меня есть файл, который содержит несколько тысяч номеров, каждый на своей собственной строке:
34
42
11
6
2
99
...
Я хочу написать script, который будет печатать сумму всех чисел в файле. У меня есть решение, но оно не очень эффективно. (Требуется несколько минут для запуска.) Я ищу более эффективное решение. Любые предложения?
Для однострочного Perl это в основном то же самое, что решение awk в Ayman Hourieh отвечает:
% perl -nle '$sum += $_ } END { print $sum'
Если вам интересно, что делают однострочные Perl, вы можете их отделить:
% perl -MO=Deparse -nle '$sum += $_ } END { print $sum'
Результат - более подробная версия программы, в форме, которую никто не мог бы написать самостоятельно:
BEGIN { $/ = "\n"; $\ = "\n"; }
LINE: while (defined($_ = <ARGV>)) {
chomp $_;
$sum += $_;
}
sub END {
print $sum;
}
-e syntax OK
Просто для хихиканья, я попробовал это с файлом, содержащим 1 000 000 номеров (в диапазоне 0-9 999). На моем Mac Pro он возвращается практически мгновенно. Это слишком плохо, потому что я надеялся, что использование mmap будет очень быстрым, но в то же время:
use 5.010;
use File::Map qw(map_file);
map_file my $map, $ARGV[0];
$sum += $1 while $map =~ m/(\d+)/g;
say $sum;
Вы можете использовать awk:
awk '{ sum += $1 } END { print sum }' file
Ни одно из решений до сих пор не использует paste. Здесь один:
paste -sd+ filename | bc
В качестве примера вычислим Σn, где 1 <= n <= 100000:
$ seq 100000 | paste -sd+ | bc -l
5000050000
(Для любознательных seq n будет печатать последовательность чисел от 1 до n с учетом положительного числа n.)
Просто для удовольствия, давайте отметим это:
$ for ((i=0; i<1000000; i++)) ; do echo $RANDOM; done > random_numbers
$ time perl -nle '$sum += $_ } END { print $sum' random_numbers
16379866392
real 0m0.226s
user 0m0.219s
sys 0m0.002s
$ time awk '{ sum += $1 } END { print sum }' random_numbers
16379866392
real 0m0.311s
user 0m0.304s
sys 0m0.005s
$ time { { tr "\n" + < random_numbers ; echo 0; } | bc; }
16379866392
real 0m0.445s
user 0m0.438s
sys 0m0.024s
$ time { s=0;while read l; do s=$((s+$l));done<random_numbers;echo $s; }
16379866392
real 0m9.309s
user 0m8.404s
sys 0m0.887s
$ time { s=0;while read l; do ((s+=l));done<random_numbers;echo $s; }
16379866392
real 0m7.191s
user 0m6.402s
sys 0m0.776s
$ time { sed ':a;N;s/\n/+/;ta' random_numbers|bc; }
^C
real 4m53.413s
user 4m52.584s
sys 0m0.052s
Я прервал Sed Run через 5 минут
Я нырял в lua, и это быстро:
$ time lua -e 'sum=0; for line in io.lines() do sum=sum+line end; print(sum)' < random_numbers
16388542582.0
real 0m0.362s
user 0m0.313s
sys 0m0.063s
и пока я обновляю это, ruby:
$ time ruby -e 'sum = 0; File.foreach(ARGV.shift) {|line| sum+=line.to_i}; puts sum' random_numbers
16388542582
real 0m0.378s
user 0m0.297s
sys 0m0.078s
Прислушайтесь к совету Эда Мортона: используйте $1
$ time awk '{ sum += $1 } END { print sum }' random_numbers
16388542582
real 0m0.421s
user 0m0.359s
sys 0m0.063s
против использования $0
$ time awk '{ sum += $0 } END { print sum }' random_numbers
16388542582
real 0m0.302s
user 0m0.234s
sys 0m0.063s
Это работает:
{ tr '\n' +; echo 0; } < file.txt | bc
Другой вариант - использовать jq:
$ seq 10|jq -s add
55
-s (--slurp) считывает входные строки в массив.
Это прямая Bash:
sum=0
while read -r line
do
(( sum += line ))
done < file
echo $sum
Здесь еще один однострочный
( echo 0 ; sed 's/$/ +/' foo ; echo p ) | dc
Это предполагает, что числа являются целыми числами. Если вам нужны десятичные знаки, попробуйте
( echo 0 2k ; sed 's/$/ +/' foo ; echo p ) | dc
Отрегулируйте 2 на количество требуемых десятичных знаков.
Я предпочитаю использовать R для этого:
$ R -e 'sum(scan("filename"))'
Я предпочитаю использовать GNU datamash для таких задач, потому что он более краткий и четкий, чем perl или awk. Например
datamash sum 1 < myfile
где 1 обозначает первый столбец данных.
cat nums | perl -ne '$sum += $_ } { print $sum'
(так же, как ответ brian d foy, без "END" )
Просто для удовольствия, давайте сделаем это с PDL, математическим движком в Perl-массиве!
perl -MPDL -E 'say rcols(shift)->sum' datafile
rcols считывает столбцы в матрицу (в этом случае 1D) и sum (сюрприз) суммирует весь элемент матрицы.
Вот решение, использующее python с выражением генератора. Протестировано с миллионом номеров на моем старом грубом ноутбуке.
time python -c "import sys; print sum((float(l) for l in sys.stdin))" < file
real 0m0.619s
user 0m0.512s
sys 0m0.028s
sed ':a;N;s/\n/+/;ta' file|bc
$ perl -MList::Util=sum -le 'print sum <>' nums.txt
Более краткий:
# Ruby
ruby -e 'puts open("random_numbers").map(&:to_i).reduce(:+)'
# Python
python -c 'print(sum(int(l) for l in open("random_numbers")))'
say sum lines
~$ perl6 -e '.say for 0..1000000' > test.in
~$ perl6 -e 'say sum lines' < test.in
500000500000
Я не тестировал это, но он должен работать:
cat f | tr "\n" "+" | sed 's/+$/\n/' | bc
Возможно, вам придется добавить "\n" в строку перед bc (например, через echo), если bc не обрабатывает EOF и EOL...
Другое для удовольствия
sum=0;for i in $(cat file);do sum=$((sum+$i));done;echo $sum
или только bash
s=0;while read l; do s=$((s+$l));done<file;echo $s
Но решение awk, вероятно, лучше всего, поскольку оно является самым компактным.
С Ruby:
ruby -e "File.read('file.txt').split.inject(0){|mem, obj| mem += obj.to_f}"
Я не знаю, можете ли вы получить намного больше, чем это, учитывая, что вам нужно прочитать весь файл.
$sum = 0;
while(<>){
$sum += $_;
}
print $sum;
Здесь другое:
open(FIL, "a.txt");
my $sum = 0;
foreach( <FIL> ) {chomp; $sum += $_;}
close(FIL);
print "Sum = $sum\n";
C всегда выигрывает скорость:
#include <stdio.h>
#include <stdlib.h>
int main(int argc, char **argv) {
ssize_t read;
char *line = NULL;
size_t len = 0;
double sum = 0.0;
while (read = getline(&line, &len, stdin) != -1) {
sum += atof(line);
}
printf("%f", sum);
return 0;
}
Сроки для номеров 1M (тот же самый механизм/вход, что и мой ответ python):
$ gcc sum.c -o sum && time ./sum < numbers
5003371677.000000
real 0m0.188s
user 0m0.180s
sys 0m0.000s
Вы можете сделать это с помощью утилиты командной строки Alacon для Alasql.
Он работает с Node.js, поэтому вам нужно установить Node.js, а затем Alasql:
Для вычисления суммы из TXT файла вы можете использовать следующую команду:
> node alacon "SELECT VALUE SUM([0]) FROM TXT('mydata.txt')"
Не проще заменить все новые строки на +, добавить 0 и отправить его в интерпретатор Ruby?
(sed -e "s/$/+/" file; echo 0)|irb
Если у вас нет irb, вы можете отправить его в bc, но вы должны удалить все переводы строки, кроме последнего (из echo). Лучше использовать tr для этого, если только у вас нет PhD в sed.
(sed -e "s/$/+/" file|tr -d "\n"; echo 0)|bc
Я написал R-скрипт для получения аргументов имени файла и суммирования строк.
#! /usr/local/bin/R
file=commandArgs(trailingOnly=TRUE)[1]
sum(as.numeric(readLines(file)))
Это можно ускорить с помощью пакета "data.table" или "vroom" следующим образом:
#! /usr/local/bin/R
file=commandArgs(trailingOnly=TRUE)[1]
sum(data.table::fread(file))
#! /usr/local/bin/R
file=commandArgs(trailingOnly=TRUE)[1]
sum(vroom::vroom(file))
Те же сравнительные данные, что и у @glenn jackman.
for ((i=0; i<1000000; i++)) ; do echo $RANDOM; done > random_numbers
По сравнению с приведенным выше вызовом R запуск R 3.5.0 в качестве сценария сопоставим с другими методами (на том же сервере Linux Debian).
$ time R -e 'sum(scan("random_numbers"))'
0.37s user
0.04s system
86% cpu
0.478 total
R скрипт с readLines
$ time Rscript sum.R random_numbers
0.53s user
0.04s system
84% cpu
0.679 total
R скрипт с data.table
$ time Rscript sum.R random_numbers
0.30s user
0.05s system
77% cpu
0.453 total
R скрипт с vroom
$ time Rscript sum.R random_numbers
0.54s user
0.11s system
93% cpu
0.696 total
Для справки здесь, как некоторые другие методы, предложенные на том же оборудовании
Python 2 (2.7.13)
$ time python2 -c "import sys; print sum((float(l) for l in sys.stdin))" < random_numbers
0.27s user 0.00s system 89% cpu 0.298 total
Python 3 (3.6.8)
$ time python3 -c "import sys; print(sum((float(l) for l in sys.stdin)))" < random_number
0.37s user 0.02s system 98% cpu 0.393 total
Рубин (2.3.3)
$ time ruby -e 'sum = 0; File.foreach(ARGV.shift) {|line| sum+=line.to_i}; puts sum' random_numbers
0.42s user
0.03s system
72% cpu
0.625 total
Perl (5.24.1)
$ time perl -nle '$sum += $_ } END { print $sum' random_numbers
0.24s user
0.01s system
99% cpu
0.249 total
Awk (4.1.4)
$ time awk '{ sum += $0 } END { print sum }' random_numbers
0.26s user
0.01s system
99% cpu
0.265 total
$ time awk '{ sum += $1 } END { print sum }' random_numbers
0.34s user
0.01s system
99% cpu
0.354 total
C (clang версия 3.3; gcc (Debian 6.3.0-18) 6.3.0)
$ gcc sum.c -o sum && time ./sum < random_numbers
0.10s user
0.00s system
96% cpu
0.108 total
Луа (5.3.5)
$ time lua -e 'sum=0; for line in io.lines() do sum=sum+line end; print(sum)' < random_numbers
0.30s user
0.01s system
98% cpu
0.312 total
tr (8.26) должен быть рассчитан в bash, несовместим с zsh
$time { { tr "\n" + < random_numbers ; echo 0; } | bc; }
real 0m0.494s
user 0m0.488s
sys 0m0.044s
sed (4.4) должен быть рассчитан в bash, несовместим с zsh
$ time { head -n 10000 random_numbers | sed ':a;N;s/\n/+/;ta' |bc; }
real 0m0.631s
user 0m0.628s
sys 0m0.008s
$ time { head -n 100000 random_numbers | sed ':a;N;s/\n/+/;ta' |bc; }
real 1m2.593s
user 1m2.588s
sys 0m0.012s
примечание: кажется, что вызовы sed работают быстрее в системах с большим объемом доступной памяти (обратите внимание, что меньшие наборы данных используются для тестирования sed)
Юлия (0.5.0)
$ time julia -e 'print(sum(readdlm("random_numbers")))'
3.00s user
1.39s system
136% cpu
3.204 total
$ time julia -e 'print(sum(readtable("random_numbers")))'
0.63s user
0.96s system
248% cpu
0.638 total
Обратите внимание, что как и в R, методы файлового ввода-вывода имеют разную производительность.
Просто быть смешным:
cat f | tr "\n" "+" | perl -pne chop | R --vanilla --slave
кот F | tr "\n" "+" | perl -pne chop | R --vanilla - раб