Взвешенное стандартное отклонение в NumPy?

numpy.average() имеет параметр веса, но numpy.std() нет. У кого-нибудь есть предложения по обходному пути?

5 56
python numpy standard-deviation statsmodels weighted

5 ответов:

Как насчет следующего короткого "ручного расчета"?

def weighted_avg_and_std(values, weights):
    """
    Return the weighted average and standard deviation.

    values, weights -- Numpy ndarrays with the same shape.
    """
    average = numpy.average(values, weights=weights)
    # Fast and numerically precise:
    variance = numpy.average((values-average)**2, weights=weights)
    return (average, math.sqrt(variance))
90

есть класс statsmodels для вычисления взвешенной статистики:statsmodels.stats.weightstats.DescrStatsW:

from statsmodels.stats.weightstats import DescrStatsW

array = np.array([1,2,1,2,1,2,1,3])
weights = np.ones_like(array)
weights[3] = 100

weighted_stats = DescrStatsW(array, weights=weights, ddof=0)

weighted_stats.mean      # weighted mean of data (equivalent to np.average(array, weights=weights))
# 1.97196261682243

weighted_stats.std       # standard deviation with default degrees of freedom correction
# 0.21434289609681711

weighted_stats.std_mean  # standard deviation of weighted mean
# 0.020818822467555047

weighted_stats.var       # variance with default degrees of freedom correction
# 0.045942877107170932

хорошая особенность этого класса заключается в том, что если вы хотите вычислить различные статистические свойства, последующие вызовы будут очень быстрыми, потому что уже вычисленные (даже промежуточные) результаты кэшируются.

20

там, кажется, не быть такой функции в пакете numpy/составляющей, но есть авиабилет предлагая эту дополнительную функциональность. Включены там вы найдете Statistics.py который реализует взвешенные стандартные отклонения.

6

есть очень хороший пример, предложенный gaborous:

import pandas as pd
import numpy as np
# X is the dataset, as a Pandas' DataFrame
mean = mean = np.ma.average(X, axis=0, weights=weights) # Computing the 
weighted sample mean (fast, efficient and precise)

# Convert to a Pandas' Series (it's just aesthetic and more 
# ergonomic; no difference in computed values)
mean = pd.Series(mean, index=list(X.keys())) 
xm = X-mean # xm = X diff to mean
xm = xm.fillna(0) # fill NaN with 0 (because anyway a variance of 0 is 
just void, but at least it keeps the other covariance's values computed 
correctly))
sigma2 = 1./(w.sum()-1) * xm.mul(w, axis=0).T.dot(xm); # Compute the 
unbiased weighted sample covariance

правильное уравнение для взвешенной несмещенной ковариации выборки, URL (версия: 2016-06-28)

1

вот еще один вариант:

np.sqrt(np.cov(values, aweights=weights))
0