Как я могу быстро суммировать все числа в файле?
У меня есть файл, который содержит несколько тысяч номеров, каждый на своей собственной строке:
34
42
11
6
2
99
...
Я ищу, чтобы написать скрипт, который будет выводить сумму всех чисел в файле. У меня есть решение, но оно не очень эффективно. (Это занимает несколько минут.) Я ищу более эффективное решение. Есть предложения?
26 ответов:
для Perl one-liner, это в основном то же самое, что и
awk
решение ответ Аймана Урии:% perl -nle '$sum += $_ } END { print $sum'
если вам интересно, что делают Perl one-liners, вы можете отойти от них:
% perl -MO=Deparse -nle '$sum += $_ } END { print $sum'
результатом является более подробная версия программы, в форме, которую никто никогда не будет писать самостоятельно:
BEGIN { $/ = "\n"; $\ = "\n"; } LINE: while (defined($_ = <ARGV>)) { chomp $_; $sum += $_; } sub END { print $sum; } -e syntax OK
просто для смеха, я попробовал это с файлом, содержащим 1,000,000 чисел (в диапазоне 0 - 9,999). На моем Mac Pro, это возвращается практически мгновенно. Это очень плохо, потому что я надеялся использовать
mmap
было бы очень быстро, но это точно в то же время:use 5.010; use File::Map qw(map_file); map_file my $map, $ARGV[0]; $sum += while $map =~ m/(\d+)/g; say $sum;
ни одно из решений до сих пор не использует
paste
. Вот один из них:paste -sd+ filename | bc
в качестве примера вычислите Σn, где 1
$ seq 100000 | paste -sd+ | bc -l 5000050000
(для любопытных,
seq n
будет печатать последовательность чисел из1
доn
дано положительное числоn
.)
просто для удовольствия, давайте сравним его:
$ for ((i=0; i<1000000; i++)) ; do echo $RANDOM; done > random_numbers $ time perl -nle '$sum += $_ } END { print $sum' random_numbers 16379866392 real 0m0.226s user 0m0.219s sys 0m0.002s $ time awk '{ sum += } END { print sum }' random_numbers 16379866392 real 0m0.311s user 0m0.304s sys 0m0.005s $ time { { tr "\n" + < random_numbers ; echo 0; } | bc; } 16379866392 real 0m0.445s user 0m0.438s sys 0m0.024s $ time { s=0;while read l; do s=$((s+$l));done<random_numbers;echo $s; } 16379866392 real 0m9.309s user 0m8.404s sys 0m0.887s $ time { s=0;while read l; do ((s+=l));done<random_numbers;echo $s; } 16379866392 real 0m7.191s user 0m6.402s sys 0m0.776s $ time { sed ':a;N;s/\n/+/;ta' random_numbers|bc; } ^C real 4m53.413s user 4m52.584s sys 0m0.052s
я прервал запуск sed через 5 минут
другой вариант-использовать
jq
:$ seq 10|jq -s add 55
-s
(--slurp
) считывает входные строки в массив.
вот еще один-лайнер
( echo 0 ; sed 's/$/ +/' foo ; echo p ) | dc
это предполагает, что числа являются целыми числами. Если вам нужны десятичные числа, попробуйте
( echo 0 2k ; sed 's/$/ +/' foo ; echo p ) | dc
отрегулируйте 2 на необходимое количество десятичных знаков.
Я предпочитаю использовать GNU datamash для таких задач, потому что он более лаконичен и разборчив, чем perl или awk. Например
datamash sum 1 < myfile
где 1 обозначает первый столбец данных.
просто для удовольствия, давайте сделаем это с PDL, массив математический движок Perl!
perl -MPDL -E 'say rcols(shift)->sum' datafile
rcols
считывает столбцы в матрицу (в данном случае 1D) иsum
(сюрприз) суммирует все элементы матрицы.
вот решение с использованием python с генератором выражения. Проверено с миллионом номеров на моем старом грубом ноутбуке.
time python -c "import sys; print sum((float(l) for l in sys.stdin))" < file real 0m0.619s user 0m0.512s sys 0m0.028s
Perl 6
say sum lines
~$ perl6 -e '.say for 0..1000000' > test.in ~$ perl6 -e 'say sum lines' < test.in 500000500000
еще один для удовольствия
sum=0;for i in $(cat file);do sum=$((sum+$i));done;echo $sum
или другой Баш только
s=0;while read l; do s=$((s+$l));done<file;echo $s
но решение awk, вероятно, лучше, поскольку оно наиболее компактно.
более лаконичен:
# Ruby ruby -e 'puts open("random_numbers").map(&:to_i).reduce(:+)' # Python python -c 'print(sum(int(l) for l in open("random_numbers")))'
Я не знаю, если вы можете получить намного лучше, чем это, учитывая, что вам нужно прочитать весь файл.
$sum = 0; while(<>){ $sum += $_; } print $sum;
Я не проверял это, но это должно работать:
cat f | tr "\n" "+" | sed 's/+$/\n/' | bc
возможно, вам придется добавить "\n" в строку перед bc (например, через echo), если bc не обрабатывает EOF и EOL...
вот еще:
open(FIL, "a.txt"); my $sum = 0; foreach( <FIL> ) {chomp; $sum += $_;} close(FIL); print "Sum = $sum\n";
вы можете сделать это с помощью утилиты командной строки Alacon для Alasql:
для вычисления суммы из TXT файла вы можете использовать следующую команду:
> node alacon "SELECT VALUE SUM([0]) FROM TXT('mydata.txt')"
это не проще заменить все новые строки
+
добавьте0
и отправить его вRuby
переводчик?(sed -e "s/$/+/" file; echo 0)|irb
если у вас нет
irb
, вы можете отправить его вbc
, но вы должны удалить все строки, кроме последнего (оecho
). Лучше использоватьtr
для этого, если у вас нет доктора философии вsed
.(sed -e "s/$/+/" file|tr -d "\n"; echo 0)|bc
C всегда выигрывает за скорость:
#include <stdio.h> #include <stdlib.h> int main(int argc, char **argv) { ssize_t read; char *line = NULL; size_t len = 0; double sum = 0.0; while (read = getline(&line, &len, stdin) != -1) { sum += atof(line); } printf("%f", sum); return 0; }
время для чисел 1M (та же машина/вход, что и мой ответ python):
$ gcc sum.c -o sum && time ./sum < numbers 5003371677.000000 real 0m0.188s user 0m0.180s sys 0m0.000s