Logowanie

Email Hasło Zaloguj

Jak działa test ANOVA?

Po co w ogóle to sprawdzać?

Test t-Studenta pozwala porównać średnie dwóch grup. Gdy grup jest więcej niż dwie (np. wyniki k operatorów, k dni pomiaru, k wariantów metody, k laboratoriów w badaniu biegłości), pokusa, by porównać je "po dwa naraz" wieloma testami t, jest zwodnicza - każde kolejne porównanie niesie własne ryzyko błędu I rodzaju, więc łączne prawdopodobieństwo fałszywego alarmu w całym zestawie porównań rośnie znacznie powyżej zadeklarowanego α. Jednoczynnikowa ANOVA (analiza wariancji) rozwiązuje ten problem, sprawdzając jednym, zbiorczym testem, czy średnie wszystkich k grup są sobie równe - zanim w ogóle dojdzie do pytania, która konkretna para grup się różni (do tego służy test post-hoc, patrz niżej).

Hipotezy

H₀: μ₁ = μ₂ = ... = μ_k  |  H₁: co najmniej jedna średnia różni się od pozostałych

Statystyka testowa - wariant klasyczny (Fisher)

Klasyczna ANOVA rozkłada całkowitą zmienność danych na część między grupami (jak bardzo średnie grup różnią się od średniej ogólnej) i część wewnątrz grup (jak bardzo pomiary rozrzucone są wokół własnej średniej grupowej):

gdzie X̄_i to średnia grupy i, X̿ to średnia ważona wszystkich pomiarów, k to liczba grup, N to łączna liczba pomiarów. Pod hipotezą zerową statystyka F ma rozkład F-Snedecora o (k−1, N−k) stopniach swobody - ten sam rozkład, którego (dla dwóch wariancji) używa moduł testu F-Snedecora oraz (na przekształconych danych) test Levene'a. Jeżeli F > F_crit(α, k−1, N−k) - odrzucamy H₀ (średnie uznane za istotnie różne). W przeciwnym razie nie ma podstaw, by to zrobić. Wariant klasyczny zakłada, że wariancje wszystkich k grup są jednorodne (sprawdź to np. Testem Levene'a przed uruchomieniem tego modułu) - wykorzystuje bowiem jedną, wspólną (spooloną) ocenę wariancji wewnątrzgrupowej MS_wewnątrz.

Statystyka testowa - wariant Welcha

Gdy założenie o jednorodności wariancji jest wątpliwe (np. Test Levene'a je odrzucił, albo grupy wyraźnie różnią się rozrzutem "na oko"), wariant klasyczny może dawać zawyżony lub zaniżony poziom istotności. ANOVA Welcha (Welch, 1951) - analogicznie do wariantu Welcha już istniejącego w module testu t-Studenta - nie zakłada jednorodności wariancji: każda grupa wchodzi do statystyki testowej z wagą odwrotnie proporcjonalną do własnej wariancji (w_i = n_i/s_i²), a stopnie swobody mianownika liczone są poprawką Satterthwaite'a i - w odróżnieniu od wariantu klasycznego - zwykle nie są liczbą całkowitą (raport pokazuje wtedy wartość z dwoma miejscami po przecinku). Dla k = 2 grup wariant Welcha sprowadza się dokładnie do kwadratu statystyki t z testu t-Studenta w wariancie Welcha (nierówne wariancje).

Żaden z dwóch wariantów nie jest "uniwersalnie lepszy": klasyczny ma nieco większą moc, gdy wariancje faktycznie są jednorodne; Welcha jest bezpieczniejszym wyborem domyślnym, gdy tego nie da się założyć z góry, a grupy mają dodatkowo różną liczebność n. Program nie narzuca automatycznie wyboru - decyzję (najlepiej opartą na wcześniejszym Teście Levene'a i/lub Shapiro-Wilka na normalność) podejmuje użytkownik przełącznikiem "Wariant testu" w formularzu.

Testy post-hoc: Tukey HSD i Games-Howell

ANOVA jest testem omnibus - odpowiada tylko na pytanie "czy wszystkie średnie są sobie równe", nie "która para grup się różni". Gdy H₀ zostaje odrzucone, raport automatycznie dolicza formalny test post-hoc dla wszystkich par grup, dobrany do wybranego wariantu:

• Tukey HSD (Tukey, 1949, uogólnienie Tukeya-Kramera na nierówne n) - używany razem z wariantem klasycznym. Opiera się na tej samej, wspólnej ocenie wariancji MS_wewnątrz co statystyka F, a różnicę między każdą parą średnich odnosi do rozkładu studentyzowanego rozstępu (a nie t-Studenta) - to właśnie ten rozkład kontroluje łączny poziom błędu I rodzaju dla całego zestawu k(k−1)/2 porównań na raz, w przeciwieństwie do wykonania wielu osobnych testów t.
• Games-Howell (Games & Howell, 1976) - używany razem z wariantem Welcha. Dla każdej pary grup liczy własny błąd standardowy (bez zakładania wspólnej wariancji) i własne stopnie swobody poprawką Welcha-Satterthwaite'a - spójne z tym, że sama statystyka F w tym wariancie też nie zakłada jednorodności wariancji.

Dla każdej pary grup raport pokazuje różnicę średnich, przedział ufności tej różnicy oraz skorygowaną wartość p - para jest oznaczona jako "istotna", gdy przedział ufności różnicy nie obejmuje zera. Ponieważ test post-hoc jest z natury bardziej konserwatywny niż pojedyncze porównanie, zdarza się (rzadko, ale poprawnie), że ANOVA odrzuci H₀ globalnie, a żadna pojedyncza para w tabeli post-hoc nie okaże się formalnie istotna - raport wtedy wprost to sygnalizuje w opisie wyniku.

Wielkość efektu - η² (eta kwadrat)

Wartość p mówi, czy różnica średnich jest statystycznie istotna, nie mówi natomiast, jak duża jest ta różnica w praktyce - przy dużej liczbie pomiarów nawet drobna, nieistotna z laboratoryjnego punktu widzenia różnica może dać bardzo małą wartość p. η² wyraża, jaki odsetek całkowitej zmienności danych tłumaczy przynależność do grupy:

η² przyjmuje wartości od 0 (grupa nie wyjaśnia nic ze zmienności) do 1 (cała zmienność wynika z przynależności do grupy) i jest liczone identycznie, niezależnie od wybranego wariantu testu - opiera się zawsze na klasycznym rozkładzie sum kwadratów SS_między/SS_wewnątrz, wspólnym dla obu wariantów.

Dlaczego dowolna wartość α?

Podobnie jak test C-Cochrana/Grubbsa/Levene'a (oparte na wzorach analitycznych), test ANOVA ma znany wzór wiążący wartość krytyczną z rozkładem F-Snedecora (patrz wyżej). Wzór ten można policzyć numerycznie dla dowolnej wartości α z przedziału (0, 1), bez żadnej interpolacji z tablic - stąd formularz nie ogranicza się do listy stałych wartości. To samo dotyczy rozkładu studentyzowanego rozstępu użytego w teście post-hoc Tukeya.

Dlaczego różna liczba pomiarów w grupach jest dozwolona

W odróżnieniu od testu C-Cochrana (który wymaga dokładnie równej liczby powtórzeń n we wszystkich grupach - projekt zbalansowany), test ANOVA - tak jak Levene - nie ma takiego wymogu matematycznego. Formularz wymaga jedynie, żeby każda uczestnicząca grupa miała co najmniej 2 aktywne pomiary - poza tym grupy mogą mieć dowolnie różną liczbę wierszy (przyciski "+ Dodaj wiersz"/"- Usuń ostatni wiersz" działają niezależnie dla każdej grupy). Grupa, w której wszystkie pomiary są ręcznie wykluczone, nie bierze udziału w teście - traktowana jest jak nieobecna. Warto jednak wiedzieć, że nierówna liczebność grup jest właśnie sytuacją, w której wariant Welcha (i post-hoc Games-Howell) najbardziej zyskuje na znaczeniu względem wariantu klasycznego.

Dlaczego ten moduł nie ma "iteracji"

Test C-Cochrana/Grubbsa/Q-Dixona to testy zaprojektowane do wykrywania pojedynczej wartości/grupy odstającej - stąd naturalny mechanizm iteracyjnego odrzucania kolejnych "winowajców" i ponownego przeliczania testu. Test ANOVA to test zupełnie innego rodzaju: jedna, zbiorcza analiza sprawdzająca równość średnich wszystkich grup naraz (analogicznie do testu Levene'a - ten też nie ma "iteracji"). To, która konkretnie para grup się różni, ustala formalnie dopiero test post-hoc opisany wyżej - nie jest to mechanizm iteracyjny, tylko jednorazowa tabela wszystkich par, dołączana automatycznie do raportu, gdy H₀ zostanie odrzucone.

Dwa statusy grupy

W odróżnieniu od czterech statusów Cochrana/Dixona/Grubbsa, raport tego modułu rozróżnia tylko dwa:

• OK - grupa uczestniczyła w teście.
• WYKLUCZONO - wszystkie pomiary w tej grupie zostały wykluczone ręcznie przez użytkownika (checkboxem „Wyklucz” przy każdym wierszu) - grupa nie brała udziału w teście w ogóle, niezależnie od wyniku statystycznego.

Niezależnie od statusu całej grupy, pojedyncze pomiary wewnątrz grupy nadal uczestniczącej w teście również można wykluczyć ręcznie (np. oczywista pomyłka przy odczycie jednego wyniku) - to inny, niezależny mechanizm; taki pomiar jest wtedy pominięty przy liczeniu średniej/wariancji tej grupy.

Ograniczenia, o których warto wiedzieć

ANOVA zakłada w tle w miarę normalny rozkład danych w każdej grupie (im większe n, tym mniej to założenie krytyczne - z centralnego twierdzenia granicznego) - warto to sprawdzić osobnym Testem Shapiro-Wilka. Wariant klasyczny dodatkowo zakłada jednorodność wariancji grup - stąd zalecenie sprawdzenia tego osobnym Testem Levene'a i przełączenia się na wariant Welcha, gdy to założenie budzi wątpliwości. Test nie zakłada niezależności pomiarów między grupami inaczej niż przez sam projekt badania - pomiary powtórzone na tym samym obiekcie w kilku "grupach" (np. ten sam próbka mierzona w k dni) wymagają innego podejścia (ANOVA z powtarzanymi pomiarami), poza zakresem tego modułu. Przy bardzo małej liczbie pomiarów w grupach (blisko minimum n=2) moc testu do wykrycia rzeczywistej różnicy średnich jest ograniczona - podobnie jak przy każdym teście statystycznym opartym na małej próbie.

Źródła

Fisher, R. A. (1925). Statistical Methods for Research Workers. Oliver & Boyd, Edinburgh.
Welch, B. L. (1951). On the comparison of several mean values: an alternative approach. Biometrika, 38(3/4), 330–336.
Tukey, J. W. (1949). Comparing individual means in the analysis of variance. Biometrics, 5(2), 99–114.
Games, P. A., & Howell, J. F. (1976). Pairwise multiple comparison procedures with unequal n's and/or variances. Journal of Educational Statistics, 1(2), 113–125.
NIST/SEMATECH e-Handbook of Statistical Methods, rozdział 1.3.5.7 "One-Way Analysis of Variance" (itl.nist.gov/div898/handbook).