Вибіркова кореляція і регресія

Основні поняття. Для аналізу явищ і процесів, що виникають в економіці, фінансах, соціології, біології і інших галузях виникає потреба у вивченні зв’язків (залежності) між різними показниками (випадковими величинами). Наприклад, залежність обсягу виробництва від розміру основних фондів, рівня освіченості від статі. Для таких зв’язків характерно, що кожному значенню однієї величини відповідає деяка множина значень іншої величини.

Залежність, при якій середнє значення однієї величини залежить від значень, які приймає інша величина, називається кореляційною. Закон зміни середнього значення однієї величини в залежності від значень, які приймає інша величина, називається регресією.

Сукупність методів дослідження таких залежностей називають кореляційним аналізом. Завдання кореляційного аналізу полягає у встановленні на основі статистичних даних форми кореляційної залежності і сили кореляційної залежності. Коли залежність досліджується між двома величинами , то говорять про парну кореляцію і регресію. Якщо величин більше як дві, то говоримо про множинну кореляцію і регресію. Нехай досліджується вектор , де – фактори, а – результуюча ознака. Якщо , то ця функція називається регресією, а така регресія називається множинною. – середнє арифметичне тих значень , які відповідають значенням .

Обмежимось випадком, коли залежність досліджується між двома величинами . Вибіркою обсягом буде набір пар чисел .

Допоміжним засобом аналізу статистичних даних за двома ознаками є побудова кореляційної таблиці і кореляційного поля. При нанесенні на координатну площину точок одержуємо кореляційне поле. По характеру розміщення точок поля можна зробити попередній висновок про форму залежності величин (наприклад, що одна із величин в середньому зростає або спадає при зростанні іншої).

Для числової обробки, результати спостережень групують і зображають у вигляді кореляційної таблиці. При дослідженні за двома ознаками, статистичні дані подають у вигляді кореляційної таблиці (інтервальної або дискретної).

		...		...
…
…
		...		...

Для побудови кореляційної таблиці різні значення величини (або інтервали групування) запишемо у перший стовпчик, а значення величини (або відповідні інтервали групування) запишемо у перший рядок. На перетині -го рядка і -го стовпчика записуємо частоту пари у даній вибірці (або число тих пар , компоненти яких попадають у відповідні інтервали групування за кожною змінною). В останньому стовпчику записуємо частоти подій , а у останньому рядку – частоти подій . Очевидно, сума всіх частот дає обсяг вибірки, сума по рядках , а – стовпцях . Тому перший і останній стовпчики дають емпіричний розподіл величини , а перший і останній рядки дають емпіричний розподіл величини .

При вивченні вигляду залежності від , результати експериментів по відношенню до змінної інтерпретуються по різному: значення величини знаходять при фіксованих значеннях величини ; результати спостережень ( ) є вибірка із двовимірної сукупності. Методи дослідження однакові в обох випадках.

Умовне математичне сподівання називають теоретичноюрегресією. Середнє арифметичне значень величини , які зустрічаються у парі із заданим значенням називається умовноюсередньою на і позначають . Тоді змінюється із зміною , тобто є функцією від . Позначимо її . Функція (закон зміни ) називається емпіричноюрегресією на , а рівняння називають емпіричним рівнянням регресії на . Графік функції називають лінією регресії на . Наближене уявлення про вигляд залежності від дає емпірична ламана регресії на – це ламана із вершинами в точках . При зростанні обсягу вибірки, емпірична ламана регресії наближається до деякої згладженої лінії – лінії регресії. На практиці вигляд регресії нам невідомий, його можна оцінити за статистичними даними, можна підібрати за виглядом емпіричної ламаної регресії. Наприклад, якщо емпірична ламана регресії близька до деякої прямої, то знаходять у вигляді лінійної функції. При цьому параметри, якими визначається , знаходяться (оцінюються) за статистичними даними.

Аналогічно можна розглядати регресію на .

Встановлення сили кореляційного зв’язку полягає у оцінці розсіювання значень величини біля лінії регресії. Найуживанішими характеристиками сили кореляційної залежності є вибірковий коефіцієнт кореляції і вибіркове кореляційне відношення.

Вибірковий коефіцієнт кореляції, вибіркове кореляційне відношення. Вибірковим коефіцієнтом кореляції називається величина

,

де і – вибіркові середні, а і – вибіркові середні квадратичні відхилення величин і . Нескладними перетвореннями можна одержати формулу

.

Вибірковий коефіцієнт кореляції є оцінкою теоретичного коефіцієнта кореляції і має аналогічні властивості. . Якщо , то між величинами і існує лінійна функціональна залежність, лінія регресії буде прямою. Тому коефіцієнт кореляції є мірою сили лінійної залежності між величинами і . Якщо близький до одиниці, то це говорить про те, що залежність є близькою до лінійної. Випадок вказує на відсутність лінійної залежності, але не заперечує наявності іншого вигляду залежності.

Для обчислення коефіцієнта кореляції можна перейти до нових величин і , при цьому для довільних , , , справедлива формула

,

де , , , , , , є частота відповідної пари .

Розглянемо гіпотезу . Це гіпотеза значущості зв’язку між величинами, тобто, чи суттєво відрізняється від нуля. Для перевірки цієї гіпотези використовується статистика

,

яка у випадку нормально розподіленої вибірки, має розподіл Стьюдента із ступенями вільності. Із даної рівності виразимо вибірковий коефіцієнт кореляції

.

За рівнем значущості і числом ступенів вільності можна знайти . Якщо , то залежність між величинами буде сильною, тобто, коефіцієнт кореляції суттєво відрізняється від нуля.

У випадку часто використовують так зване -перетворення Фішера, замінюючи на за формулою

.

Уже при порівняно невеликих розподіл величини добре наближується нормальним розподілом з математичним сподіванням, що дорівнює і дисперсією, що дорівнює . Виходячи із цього, можна визначати наближені інтервали для коефіцієнта кореляції.

Вибіркове кореляційне відношення на є статистичною оцінкою теоретичного кореляційного відношення (позначимо його ) і визначається за формулою

,

де , .

Вибіркове кореляційне відношення використовується для характеристики довільного зв’язку між величинами і має властивості, що аналогічні до властивостей теоретичного кореляційного відношення. Зокрема, , . Якщо , то величина пов’язана із точною функціональною залежністю, якщо ж при цьому , то ця залежність буде лінійною. У випадку функціональна залежність відсутня. Якщо , то .

Таблиці

Таблиця 1. Значення функції .

x	4,0	4,2	4,4	4,6	4,8	5,0
	0,00013	0,0000589	0,0000249	0,0000101	0,0000040	0,0000015

Таблиця 2. Значення функції Лапласа .

x	4,0	4,2	4,4	4,6	4,8	5,0
	0,4999683	0,4999867	0,4999946	0,4999979	0,4999992	0,4999997

Таблиця 3. Квантилі хі-квадрат розподілу

Таблиця 4. Квантилі розподілу Стьюдента

k	p
0,750	0,900	0,950	0,975	0,990	0,995	0,999
	1,000 0,816 0,765 0,741 0,727   0,718 0,711 0,706 0,703 0,700   0,697 0,695 0,694 0,692 0,691   0,690 0,689 0,688 0,688 0,687   0,686 0,686 0,685 0,685 0,684   0,684 0,684 0,683 0,683 0,683   0,681 0,679 0,677 0,674	3,078 1,886 1,638 1,533 1,476   1,440 1,415 1,397 1,383 1,372   1,363 1,356 1,350 1,345 1,341   1,337 1,333 1,330 1,328 1,325   1,323 1,321 1,319 1,318 1,316   1,315 1,314 1,313 1,311 1,310   1,303 1,296 1,289 1,282	6,314 2,920 2,353 2,132 2,015   1,943 1,895 1,860 1,833 1.812   1,796 1,782 1,771 1,761 1,753   1,746 1,740 1,734 1,729 1,725   1,721 1,717 1,714 1,711 1,708   1,706 1,703 1,701 1,699 1,697   1,684 1,671 1,658 1,645	12,71 4,303 3,182 2,776 2,571   2,447 2,365 2,306 2,262 2,228   2,201 2,179 2,160 2,145 2,131   2,120 2,110 2,101 2,093 2,086   2,080 2,074 2,069 2,064 2,060   2,056 2,052 2,048 2,045 2,042   2,021 2,000 1,980 1,960	31,82 6,965 4,541 3,747 3,365   3,143 2,998 2,896 2,821 2,764   2,718 2,681 2,650 2,624 2,602   2,583 2,567 2,552 2,539 2,528   2,518 2,508 2,500 2,492 2,485   2,479 2,473 2,467 2,462 2,457   2,423 2,390 2,358 2,326	63,66 9,925 5,841 4,604 4,032   3,707 3,499 3,355 3,250 3,169   3,106 3,055 3,012 2,977 2,947   2,921 2,898 2,878 2,861 2,845   2,831 2,819 2,807 2,797 2,787   2,779 2,771 2,763 2,756 2,750   2,704 2,660 2,617 2,576	22,3 10,2 7,173 5,893   5,208 4,785 4,501 4,297 4,144   4,025 3,930 3,852 3,787 3,733   3,686 3,646 3,610 3,579 3,552   3,527 3,505 3,485 3,467 3,450   3,435 3,421 3,408 3,396 3,385   3,307 3,232 3,160 3,090

Таблиця 5. Квантилі розподілу Фішера-Снедекора (k₁ – число ступенів вільності більшої дисперсії, k₂ – число ступенів вільності меншої дисперсії)

p=0,95

k2	k1
	161,4 18,51 16,13 7,71 6,61   5,99 5,59 5,32 5,12 4,96   4,85 4,75 4,67 4,60 4,54   4,49 4,45 4,41 4,30 4,35   4,32 4,30 4,28 4,26 4,24   4,23 4,21 4,20 4,18 4,17   4,08 4,00 3,92 3,84	199,5 19,00 9,55 6,94 5,79   5,14 4,74 4,46 4,26 4,10   3,98 3,89 3,81 3,74 3,68   3,63 3,59 3,55 3,52 3,49   3,47 3,44 3,42 3,40 3,39   3,37 3,35 3,34 3,33 3,32   3,23 3,15 3,07 3,00	215,7 19,16 9,78 6,59 5,41   4,75 4,35 4,07 3.86 3,71   3,59 3,49 3,41 3,34 3,29   3,24 3,20 3,16 3,13 3,10   3,07 3,05 3,03 3,01 2,99   2,98 2,96 2,95 2,93 2,92   2,84 2,76 2,68 2,60	224,6 19,25 9,12 6,39 5,19   4,53 4,12 3,84 3,63 3,48   3,36 3,26 3,18 3,11 3,06   3,01 2,96 2,93 2,90 2,87   2,84 2,82 2,80 2,78 2,76   2,74 2,73 2,71 2,70 2,69   2,61 2,53 2,45 2,37	230,2 19,30 9,01 6,26 5,05   4,39 3,97 3,69 3,48 3,33   3,20 3,11 3,03 2,96 2,90   2,85 2,81 2,77 2,74 2,71   2,68 2,66 2,64 2,62 2,60   2,59 2,57 2,56 2,55 2,53   2,45 2,37 2,29 2,21	234,0 19,33 8,94 6,16 4,95   4,28 3,87 3,58 3,37 3,22   3,09 3,00 2,92 2,85 2,79   2,74 2,70 2,66 2,63 2,60   2,57 2,55 2,53 2,51 2,49   2,47 2,46 2,45 2,43 2,42   2,34 2,25 2,17 2,10	236,8 19,35 8,89 6,09 4,88   4,21 3,79 3,50 3,29 3,14   3,01 2,91 2,83 2,76 2,71   2,66 2,61 2,58 2,54 2,51   2,49 2,46 2,44 2,42 2,40   2,39 2,37 2,36 2,35 2,33   2,25 2,17 2,09 2,01	238,9 19,37 8,85 6,04 4,82   4,15 3,73 3,44 3,23 3,07   2,93 2,85 2,77 2,70 2,64   2,59 2,55 2,51 2,48 2,45   2,42 2,40 2,37 2,37 2,34   2,32 2,31 2,29 2,28 2,27   2,18 2,10 2,02 1,94	240,5 19,38 8,81 6,00 4,77   4,10 3,68 3,39 3,18 3,02   2,90 2,80 2,71 2,65 2,59   2,54 2,49 2,46 2,42 2,39   2,37 2,34 2,32 2,30 2,28   2,27 2,25 2,24 2,22 2,21   2,12 2,04 1,96 1,88

Продовження таблиці (p=0,95)

k2	k1
	241,9 19,40 8,79 5,96 4,74   4,06 3,64 3,35 3,14 2,98   2,85 2,75 2,67 2,60 2,54   2,49 2,45 2,41 2,38 2,35   2,32 2,30 2,27 2,25 2,24   2,22 2,20 2,19 2,18 2,16   2,08 1,99 1,91 1,83	243,9 19,41 8,74 5,91 4,68   4,00 3,57 3,28 3,07 2,91   2,79 2,69 2,60 2,53 2,48   2,42 2,38 2,34 2,31 2,28   2,25 2,23 2,20 2,18 2,16   2,15 2,13 2,12 2,10 2,09   2,00 1,92 1,83 1,75	245,9 19,43 8,70 5,86 4,62   3,94 3,51 3,22 3,01 2,85   2,72 2,62 2,53 2,46 2,40   2,35 2,31 2,27 2,23 2,20   2,18 2,15 2,13 2,11 2,09   2,07 2,06 2,04 2,03 2,01   1,92 1,84 1,75 1,67	248,0 19,45 8,66 5,80 4,56   3,87 3,44 3,15 2,94 2,77   2,65 2,54 2,46 2,39 2,33   2,28 2,23 2,19 2,16 2,12   2,10 2,07 2,05 2,03 2,01   1,99 1,97 1,96 1,94 1,93   1,84 1,75 1,66 1,57	249,1 19,45 8,64 5,77 4,53   3,84 3,41 3,12 2,90 2,74   2,61 2,51 2,42 2,35 2,29   2,24 2,19 2,15 2,11 2,08   2,05 2,03 2,01 1,98 1,96   1,95 1,93 1,91 1,90 1,89   1,79 1,70 1,61 1,52	250,1 19,46 8,62 5,75 4,50   3,81 3,38 3,08 2,86 2,70   2,57 2,47 2,38 2,31 2,25   2,19 2,15 2,11 2,07 2,04   2,01 1,98 1,96 1,94 1,92   1,90 1,88 1,87 1,85 1,84   1,74 1,65 1,55 1,46	251,1 19,47 8,59 5,72 4,46   3,77 3,34 3,04 2,83 2,66   2,53 2,43 2,34 2,27 2,20   2,15 2,10 2,06 2,03 1,99   1,96 1,94 1,91 1,89 1,87   1,85 1,84 1,82 1,81 1,79   1,69 1,59 1,50 1,39	252,2 19,48 8,57 5,69 4,43   3,74 3,30 3,01 2,79 2,62   2,49 2,38 2,30 2,22 2,16   2,11 2,06 2,02 1,98 1,95   1,92 1,89 1,86 1,84 1,82   1,80 1,79 1,77 1,75 1,74   1,64 1,53 1,43 1,32	253,3 19,49 8,55 5,66 4,40   3,70 3,27 2,97 2,75 2,58   2,45 2,34 2,25 2,18 2,11   2,06 2,01 1,97 1,93 1,90   1,87 1,84 1,81 1,79 1,77   1,75 1,73 1,71 1,70 1,68   1,58 1,47 1,35 1,22

p=0,99

k2	k1
	98,50 34,12 21,20 16,26   13,75 12,25 11,26 10,56 10,04   9,65 9,33 9,07 8,86 8,68   8,53 8,40 8,29 8,18 8,10   8,02 7,95 7,88 7,82 7,77   7,72 7,68 7,64 7,60 7,56   7,31 7,08 6,85 6,63	4999,5 99,00 30,82 18,00 13,27   10,92 9,55 8,65 8,02 7,56   7,21 6,93 6,70 6,51 6,36   6,23 6,11 6,01 5,93 5,85   5,78 5,72 5,66 5,61 5,57   5,53 5,49 5,45 5,42 5,39   5,18 4,98 4,79 4,61	99,17 29,46 16,69 12,06   9,78 8,45 7,59 6,99 6,55   6,22 5,95 5,74 5,56 5,42   5,29 5,18 5,09 5,01 4,94   4,87 4,82 4,76 4,72 4,68   4,64 4,60 4,57 4,54 4,51   4,31 4,13 3,95 3,78	99,25 28,71 15,98 11,39   9,15 7,85 7,01 6,42 5,99   5,67 5,41 5,21 5,04 4,89   4,77 4,67 4,58 4,50 4,43   4,37 4,31 4,26 4,22 4,18   4,14 4,11 4,07 4,04 4,02   3,53 3,65 3,48 3,32	99,30 28,24 15,52 10,97   8,75 7,46 6,63 6,06 5,64   5,32 5,06 4,86 4,69 4,56   4,44 4,34 4,25 4,17 4,10   4,04 3,99 3,94 3,90 3,85   3,82 3,78 3,75 3,73 3,70   3,51 3,34 3,17 3,02	99,33 27,91 15,21 10,67   8,47 7,19 6,37 5,80 5,39   5,07 4,82 4,62 4,46 4,32   4,20 4,10 4,01 3,94 3,87   3,81 3,76 3,71 3,67 3,63   3,59 3,56 3,53 3,50 3,47   3,29 3,12 2,96 2,80	99,36 27,67 14,98 10,46   8,26 6,99 6,18 5,61 5,20   4,89 4,64 4,44 4,28 4,14   4,03 3,93 3,84 3,77 3,70   3,64 3,59 3,54 3,50 3,46   3,42 3,39 3,36 3,33 3,30   3,12 2,95 2,79 2,64	99,37 27,49 14,80 10,29   8,10 6,84 6,03 5,47 5,06   4,74 4,50 4,30 4,14 4,00   3,89 3,79 3,71 3,63 3,56   3,51 3,45 3,41 3,36 3,32   3,29 3,26 3,23 3,20 3,17   2,99 2,82 2,66 2,51	99,39 27,35 14,66 10,16   7,98 6,72 5,91 5,35 4,94   4,63 4,39 4,19 4,03 3,89   3,78 3,68 3,60 3,52 3,46   3,40 3,35 3,30 3,26 3,22   3,18 3,15 3,12 3,09 3,07   2,89 2,72 2,56 2,41

Продовження таблиці (p=0,99)

k2	k1
	99,40 27,23 14,55 10,05   7,87 6,62 5,81 5,26 4,85   4,54 4,30 4,10 3,94 3,80   3,69 3,59 3,51 3,43 3,37   3,31 3,26 3,21 3,17 3,13   3,09 3,06 3,03 3,00 2,98   2,80 2,63 2,47 2,32	99,42 27,05 14,37 9,89   7,72 6,47 5,67 5,11 4,71   4,40 4,16 3,96 3,80 3,67   3,55 3,46 3,37 3,30 3,23   3,17 3,12 3,07 3,03 2,99   2,96 2,93 2,90 2,87 2,84   2,66 2,50 2,34 2,18	99,43 26,87 14,20 9,72   7,56 6,31 5,52 4,96 4,56   4,25 4,01 3,82 3,66 3,52   3,41 3,31 3,23 3,15 3,09   3,03 2,98 2,93 2,89 2,85   2,81 2,78 2,75 2,73 2,70   2,52 2,35 2,19 2,04	99,45 26,69 14,02 9,55   7,40 6,16 5,36 4,81 4,41   4,10 3,86 3,66 3,51 3,37   3,26 3,16 3,08 3,00 2,94   2,88 2,83 2,78 2,74 2,70   2,66 2,63 2,60 2,57 2,55   2,37 2,20 2,03 1,88	99,46 26,60 13,93 9,47   7,31 6,07 5,28 4,73 4,33   4,02 3,78 3,59 3,43 3,29   3,18 3,08 3,00 2,92 2,86   2,80 2,75 2,70 2,66 2,62   2,58 2,55 2,52 2,49 2,47   2,29 2,12 1,95 1,79	99,47 26,50 13,84 9,38   7,23 5,99 5,20 4,65 4,25   3,94 3,70 3,51 3,35 3,21   3,10 3,00 2,92 2,84 2,78   2,72 2,67 2,62 2,58 2,54   2,50 2,47 2,44 2,41 2,39   2,20 2,03 1,86 1,70	99,47 26,41 13,75 9,29   7,14 5,91 5,12 4,57 4,17   3,86 3,62 3,43 3,27 3,13   3,02 2,92 2,84 2,76 2,69   2,64 2,58 2,54 2,49 2,45   2,42 2,38 2,35 2,33 2,30   2,11 1,94 1,76 1,59	99,48 26,32 13,65 9,20   7,06 5,82 5,03 4,48 4,08   3,78 3,54 3,34 3,18 3,05   2,93 2,83 2,75 2,67 2,61   2,55 2,50 2,45 2,40 2,36   2,33 2,29 2,26 2,23 2,21   2,02 1,84 1,66 1,47	99,49 26,22 13,56 9,11   6,97 5,74 4,95 4,40 4,00   3,69 3,45 3,25 3,09 2,96   2,84 2,75 2,66 2,58 2,52   2,46 2,40 2,35 2,31 2,27   2,23 2,20 2,17 2,14 2,11   1,92 1,73 1,53 1,32