Logowanie

Email Hasło Zaloguj

Jak działa test ANOVA?

Po co w ogóle to sprawdzać?

Test t-Studenta pozwala porównać średnie dwóch grup. Gdy grup jest więcej niż dwie (np. wyniki k operatorów, k dni pomiaru, k wariantów metody, k laboratoriów w badaniu biegłości), pokusa, by porównać je „po dwa naraz” wieloma testami t, jest zwodnicza – każde kolejne porównanie niesie własne ryzyko błędu I rodzaju, więc łączne prawdopodobieństwo fałszywego alarmu w całym zestawie porównań rośnie znacznie powyżej zadeklarowanego α.
Jednoczynnikowa ANOVA (analiza wariancji) rozwiązuje ten problem, sprawdzając jednym, zbiorczym testem, czy średnie wszystkich k grup są sobie równe – zanim w ogóle dojdzie do pytania, która konkretna para grup się różni (do tego służy test post-hoc, patrz niżej).

Hipotezy

H₀: μ₁ = μ₂ = ... = μ_k  |  H₁: co najmniej jedna średnia różni się od pozostałych

Statystyka testowa – wariant klasyczny (Fisher)

Klasyczna ANOVA rozkłada całkowitą zmienność danych na część między grupami (jak bardzo średnie grup różnią się od średniej ogólnej) i część wewnątrz grup (jak bardzo pomiary rozrzucone są wokół własnej średniej grupowej):

gdzie:
X̄_i to średnia grupy i,
X̿ to średnia ważona wszystkich pomiarów,
k to liczba grup,
N to łączna liczba pomiarów.
Pod hipotezą zerową statystyka F ma rozkład F-Snedecora o (k−1, N−k) stopniach swobody – ten sam rozkład, którego (dla dwóch wariancji) używa moduł testu F-Snedecora oraz (na przekształconych danych) test Levene'a.

Jeżeli F > F_crit(α, k−1, N−k) – odrzucamy H₀ (średnie uznane za istotnie różne). W przeciwnym razie nie ma podstaw, by to zrobić. Wariant klasyczny zakłada, że wariancje wszystkich k grup są jednorodne (sprawdź to np. testem Levene'a przed uruchomieniem tego modułu) – wykorzystuje bowiem jedną, wspólną ocenę wariancji wewnątrzgrupowej MS_wewnątrz.

Statystyka testowa – wariant Welcha

Gdy założenie o jednorodności wariancji jest wątpliwe (np. Test Levene'a je odrzucił, albo grupy wyraźnie różnią się rozrzutem „na oko”), wariant klasyczny może dawać zawyżony lub zaniżony poziom istotności. ANOVA Welcha (Welch, 1951) – analogicznie do wariantu Welcha już istniejącego w module testu t-Studenta – nie zakłada jednorodności wariancji: każda grupa wchodzi do statystyki testowej z wagą odwrotnie proporcjonalną do własnej wariancji (w_i = n_i/s_i²), a stopnie swobody mianownika liczone są poprawką Satterthwaite'a i – w odróżnieniu od wariantu klasycznego – zwykle nie są liczbą całkowitą (raport pokazuje wtedy wartość z dwoma miejscami po przecinku). Dla k = 2 grup wariant Welcha sprowadza się dokładnie do kwadratu statystyki t z testu t-Studenta w wariancie Welcha (nierówne wariancje).

Żaden z dwóch wariantów nie jest „uniwersalnie lepszy”: klasyczny ma nieco większą moc, gdy wariancje faktycznie są jednorodne; Welcha jest bezpieczniejszym wyborem domyślnym, gdy tego nie da się założyć z góry, a grupy mają dodatkowo różną liczebność n. Program nie narzuca automatycznie wyboru – decyzję (najlepiej opartą na wcześniejszym teście Levene'a i/lub Shapiro-Wilka na normalność) podejmuje użytkownik przełącznikiem „Wariant testu” w formularzu.

Testy post-hoc: Tukey HSD i Games-Howell

ANOVA jest testem omnibus – odpowiada tylko na pytanie „czy wszystkie średnie są sobie równe”, nie „która para grup się różni”. Gdy H₀ zostaje odrzucone, raport automatycznie dolicza formalny test post-hoc dla wszystkich par grup, dobrany do wybranego wariantu:

• Tukey HSD (Tukey, 1949, uogólnienie Tukeya-Kramera na nierówne n) – używany razem z wariantem klasycznym. Opiera się na tej samej, wspólnej ocenie wariancji MS_wewnątrz co statystyka F, a różnicę między każdą parą średnich odnosi do rozkładu studentyzowanego rozstępu (a nie t-Studenta) – to właśnie ten rozkład kontroluje łączny poziom błędu I rodzaju dla całego zestawu k(k−1)/2 porównań na raz, w przeciwieństwie do wykonania wielu osobnych testów t.
• Games-Howell (Games & Howell, 1976) – używany razem z wariantem Welcha. Dla każdej pary grup liczy własny błąd standardowy (bez zakładania wspólnej wariancji) i własne stopnie swobody poprawką Welcha-Satterthwaite'a – spójne z tym, że sama statystyka F w tym wariancie też nie zakłada jednorodności wariancji.

Dla każdej pary grup raport pokazuje różnicę średnich, przedział ufności tej różnicy oraz skorygowaną wartość p – para jest oznaczona jako „istotna”, gdy przedział ufności różnicy nie obejmuje zera. Ponieważ test post-hoc jest z natury bardziej konserwatywny niż pojedyncze porównanie, zdarza się (rzadko, ale poprawnie), że ANOVA odrzuci H₀ globalnie, a żadna pojedyncza para w tabeli post-hoc nie okaże się formalnie istotna – raport wtedy wprost to sygnalizuje w opisie wyniku. Gdy H₀ nie zostaje odrzucone, tabela post-hoc nie jest pokazywana (ani w PDF, ani w CSV) – porównania parami bez istotnego wyniku testu omnibus nie mają podstaw (procedura dwuetapowa).

Wielkość efektu – η² (eta kwadrat)

Wartość p mówi, czy różnica średnich jest statystycznie istotna, nie mówi natomiast, jak duża jest ta różnica w praktyce – przy dużej liczbie pomiarów nawet drobna, nieistotna z laboratoryjnego punktu widzenia różnica może dać bardzo małą wartość p. η² wyraża, jaki odsetek całkowitej zmienności danych tłumaczy przynależność do grupy:

η² przyjmuje wartości od 0 (grupa nie wyjaśnia nic ze zmienności) do 1 (cała zmienność wynika z przynależności do grupy) i jest liczone identycznie, niezależnie od wybranego wariantu testu – opiera się zawsze na klasycznym rozkładzie sum kwadratów SS_między/SS_wewnątrz, wspólnym dla obu wariantów.

Dlaczego dowolna wartość α?

Podobnie jak test C-Cochrana/Grubbsa/Levene'a (oparte na wzorach analitycznych), test ANOVA ma znany wzór wiążący wartość krytyczną z rozkładem F-Snedecora (patrz wyżej). Wzór ten można policzyć numerycznie dla dowolnej wartości α z przedziału (0, 1), bez żadnej interpolacji z tablic – stąd formularz nie ogranicza się do listy stałych wartości. To samo dotyczy rozkładu studentyzowanego rozstępu użytego w teście post-hoc Tukeya.

Dlaczego różna liczba pomiarów w grupach jest dozwolona

W odróżnieniu od testu C-Cochrana (który wymaga dokładnie równej liczby powtórzeń n we wszystkich grupach – projekt zbalansowany), test ANOVA – tak jak Levene – nie ma takiego wymogu matematycznego. Formularz wymaga jedynie, żeby każda uczestnicząca grupa miała co najmniej 2 aktywne pomiary – poza tym grupy mogą mieć dowolnie różną liczbę wierszy (przyciski „+ Dodaj wiersz”/„− Usuń ostatni wiersz” działają niezależnie dla każdej grupy). Grupa, w której wszystkie pomiary są ręcznie wykluczone, nie bierze udziału w teście – traktowana jest jak nieobecna. Warto jednak wiedzieć, że nierówna liczebność grup jest właśnie sytuacją, w której wariant Welcha (i post-hoc Games-Howell) najbardziej zyskuje na znaczeniu względem wariantu klasycznego.

Dlaczego ten moduł nie ma „iteracji”

Test C-Cochrana/Grubbsa/Q-Dixona to testy zaprojektowane do wykrywania pojedynczej wartości/grupy odstającej – stąd naturalny mechanizm iteracyjnego odrzucania kolejnych „winowajców” i ponownego przeliczania testu. Test ANOVA to test zupełnie innego rodzaju: jedna, zbiorcza analiza sprawdzająca równość średnich wszystkich grup naraz (analogicznie do testu Levene'a – ten też nie ma „iteracji”). To, która konkretnie para grup się różni, ustala formalnie dopiero test post-hoc opisany wyżej – nie jest to mechanizm iteracyjny, tylko jednorazowa tabela wszystkich par, dołączana automatycznie do raportu, gdy H₀ zostanie odrzucone.

Dwa statusy grupy

W odróżnieniu od czterech statusów Cochrana/Dixona/Grubbsa, raport tego modułu rozróżnia tylko dwa:

• OK – grupa uczestniczyła w teście.
• Wykluczono – wszystkie pomiary w tej grupie zostały wykluczone ręcznie przez użytkownika (polem „Wyklucz” przy każdym wierszu) – grupa nie brała udziału w teście w ogóle, niezależnie od wyniku statystycznego.

Niezależnie od statusu całej grupy, pojedyncze pomiary wewnątrz grupy nadal uczestniczącej w teście również można wykluczyć ręcznie (np. oczywista pomyłka przy odczycie jednego wyniku) – to inny, niezależny mechanizm; taki pomiar jest wtedy pominięty przy liczeniu średniej/wariancji tej grupy.

Ograniczenia, o których warto wiedzieć

ANOVA zakłada w tle w miarę normalny rozkład danych w każdej grupie (im większe n, tym mniej to założenie krytyczne – z centralnego twierdzenia granicznego) – warto to sprawdzić osobnym testem Shapiro-Wilka.
Wariant klasyczny dodatkowo zakłada jednorodność wariancji grup – stąd zalecenie sprawdzenia tego osobnym Testem Levene'a i przełączenia się na wariant Welcha, gdy to założenie budzi wątpliwości. Test zakłada, że wyniki w różnych grupach są niezależne. Typowe zastosowanie – ta sama próbka kontrolna oznaczana w kilku dniach (osobne porcje, grupa = dzień) – spełnia to założenie. Inaczej jest, gdy w każdej grupie mierzone są te same obiekty (np. te same 6 próbek oznaczone przez każdego z 3 analityków i porównywane próbka do próbki) – wtedy wyniki są powiązane i potrzebna jest ANOVA z powtarzanymi pomiarami (dla dwóch grup – test t dla prób powiązanych), poza zakresem tego modułu. Przy bardzo małej liczbie pomiarów w grupach (blisko minimum n = 2) moc testu do wykrycia rzeczywistej różnicy średnich jest ograniczona – podobnie jak przy każdym teście statystycznym opartym na małej próbie.

Źródła

Fisher, R. A. (1925). Statistical Methods for Research Workers. Oliver & Boyd, Edinburgh.
Welch, B. L. (1951). On the comparison of several mean values: an alternative approach. Biometrika, 38(3/4), 330–336.
Tukey, J. W. (1949). Comparing individual means in the analysis of variance. Biometrics, 5(2), 99–114.
Games, P. A., & Howell, J. F. (1976). Pairwise multiple comparison procedures with unequal n's and/or variances. Journal of Educational Statistics, 1(2), 113–125.
NIST/SEMATECH e-Handbook of Statistical Methods, rozdział 1.3.5.7 „One-Way Analysis of Variance”.