где
Общая дисперсия
где yi – индивидуальные значения результативного признака;
n – число единиц совокупности.
Межгрупповая дисперсия
где
k – число групп.
Для расчета показателей
Значения числителя и знаменателя формулы имеются в табл. 8 (графы 3 и 4 итоговой строки). Используя эти данные, получаем общую среднюю
Для расчета общей дисперсии
Таблица 12
Вспомогательная таблица для расчета общей дисперсии
| Номер фирмы | Объём товарооборота, млн. руб. |  |  | 
| 1 | 2 | 3 | 4 | 
| 1 | 30,000 | -22,423 | 502,7909 | 
| 2 | 33,600 | -18,823 | 354,3053 | 
| 3 | 60,000 | 7,577 | 57,4109 | 
| 4 | 36,300 | -16,123 | 259,9511 | 
| 5 | 64,800 | 12,377 | 153,1901 | 
| 6 | 46,800 | -5,623 | 31,6181 | 
| 7 | 62,500 | 10,077 | 101,5459 | 
| 8 | 48,000 | -4,423 | 19,5629 | 
| 9 | 41,400 | -11,023 | 121,5065 | 
| 10 | 49,200 | -3,223 | 10,3877 | 
| 11 | 39,100 | -13,323 | 177,5023 | 
| 12 | 50,400 | -2,023 | 4,0925 | 
| 13 | 57,500 | 5,077 | 25,7759 | 
| 14 | 51,600 | 0,823 | 0,6773 | 
| 15 | 52,800 | 0,377 | 0,1421 | 
| 16 | 55,000 | 2,577 | 6,6409 | 
| 17 | 43,700 | -8,723 | 76,0907 | 
| 18 | 54,000 | 1,577 | 2,4869 | 
| 19 | 54,600 | 2,177 | 4,7393 | 
| 20 | 38,500 | -13,923 | 193,8499 | 
| 21 | 60,000 | 7,577 | 57,4109 | 
| 22 | 55,200 | 2,777 | 7,7117 | 
| 23 | 41,400 | -11,023 | 121,5065 | 
| 24 | 56,400 | 3,977 | 15,8165 | 
| 25 | 66,300 | 13877 | 192,5711 | 
| 26 | 57,600 | 5,177 | 26,8013 | 
| 27 | 70,200 | 17,777 | 316,0217 | 
| 28 | 77,000 | 24,577 | 604,0289 | 
| 29 | 58,800 | 6,377 | 40,6661 | 
| 30 | 60,000 | 7,577 | 57,4109 | 
| Итого | 1572,700 | 3544,215 | 
Рассчитаем общую дисперсию:
Для расчета межгрупповой дисперсии
| Группы организаций по производительности труда, млн руб.\чел., x | Число организаций, fj | Среднее значение в группе, млн руб. |  |  | 
| 1 | 2 | 3 | 4 | 5 | 
| 1,000-1,080 | 2 | 31,800 | -20,623 | 850,616 | 
| 1,080-1,160 | 6 | 40,067 | -12,356 | 916,024 | 
| 1,160-1,240 | 12 | 53,400 | 0,977 | 11,454 | 
| 1,240-1,320 | 7 | 59,414 | 6,991 | 342,119 | 
| 1,320-1,400 | 3 | 70,667 | 18,244 | 998,531 | 
| ИТОГО | 30 | 3118,744 | 
Рассчитаем межгрупповую дисперсию:
Определяем коэффициент детерминации:
Вывод. 88% вариации объёма товарооборота организаций обусловлено вариацией производительности труда, а 12% – влиянием прочих неучтенных факторов.
Эмпирическое корреляционное отношение