Zakon velikih števil (LLN): razlaga, primeri in pomen v statistiki
Zakon velikih števil (LLN) je izrek iz statistike. Upoštevajmo nek proces, v katerem se pojavljajo naključni izidi. Na primer, naključna spremenljivka se večkrat opazuje. Potem bo povprečje opazovanih vrednosti dolgoročno stabilno. To pomeni, da se bo na dolgi rok povprečje opazovanih vrednosti vedno bolj približevalo pričakovani vrednosti. Zakon velikih števil nam tako zagotavlja, da povprečje velikih vzorcev odraža pričakovano vrednost posameznega opazovanja (pod ustreznimi predpostavkami).
Osnovna ideja v kratkem
Če imamo zaporedje naključnih spremenljivk X1, X2, ..., Xn, ki so neodvisne in enako porazdeljene (i.i.d.) z obstoječo pričakovano vrednostjo μ = E[Xk], potem je vzorčno povprečje
(X1 + X2 + ... + Xn) / n
takšno, da se, ko n narašča, približuje μ. Obstajata dve pogosto omenjeni različici izreka:
- šibki zakon velikih števil (LLN v verjetnosti): vzorčno povprečje konvergira k μ v verjetnosti, kar pomeni, da je verjetnost, da je vzorčno povprečje daleč od μ, za velike n majhna;
- močan zakon velikih števil (SLLN): vzorčno povprečje konvergira k μ skoraj gotovo (skoraj vedno) — to je močnejša trditev o konvergenci.
Pogoji in omejitve
- Neodvisnost in identična porazdelitev sta pogosta predpostavka, a obstajajo splošnejše različice, ki dopuščajo šibko odvisnost ali neenake porazdelitve ob nadzorovanih pogojih.
- Konecna pričakovana vrednost: nujno je, da je E[Xk] končna. Če ima porazdelitev neskončno pričakovanje (npr. zelo težke repne porazdelitve), LLN v običajni obliki morda ne velja.
- LLN ne pove nič o hitrosti konvergence. Za hitrost približevanja μ uporabljamo druge rezultate, npr. centralni limitni izrek (ki pod določenimi pogoji pravi, da je odstopanje vzorčnega povprečja od μ približno normalno z velikostjo ~1/√n).
Primer: met kocke
Pri metanju kocke so možni izidi številk 1, 2, 3, 4, 5 in 6. Vsi so enako verjetni. Populacijska srednja vrednost (ali "pričakovana vrednost") izidov je:
(1 + 2 + 3 + 4 + 5 + 6) / 6 = 3.5.
Če kocko mečemo večkrat in za vsako število n izračunamo povprečje izidov, bo to povprečje za majhna n pogosto oddaljeno od 3,5, a z naraščanjem števila metov se bo — kot napoveduje LLN — povprečje immer bolj ustalilo okoli 3,5. Naslednji graf prikazuje rezultate poskusa metanja kocke; vidno je, da se sprva povprečje spreminja, nato pa se približa pričakovani vrednosti:
Kaj LLN ne pravi (pomembne opombe)
- LLN ne zagotavlja, da bo vzorčno povprečje že pri zmerno velikih n zelo blizu μ — v praksi je potreben ustrezen velik n, odvisen od variance in želeni natančnosti.
- NN ne popravlja pristranskosti v podatkih: če so opazovanja sistematično pristranska (npr. meritve pri napačnem postopku), povprečje bo konvergiralo k pristranskemu limitu.
- Odvisnost med opazovanji lahko LLN onemogoči; za neodvisna ali šibko odvisna zaporedja obstajajo prilagojeni izreki, prav tako za neenakomerne porazdelitve ob dodatnih pogojih.
Praktični pomen in uporaba
Zakon velikih števil ima veliko praktičnih uporab:
- v Monte Carlo simulacijah — povprečje mnogih naključnih realizacij približuje pričakovano vrednost kompleksnih sistemov;
- v anketah in vzorčenju — zakon pojasni, zakaj večje velikosti vzorcev vodijo do stabilnejših ocen populacijskih parametrov;
- v zavarovalništvu in upravljanju tveganj — razumevanje, da porazdelitev skupnih izgub pri velikem številu tveganj postaja predvidljiva;
- v kontroli kakovosti in industrijskih meritvah — povprečja ponavljanih meritev so zanesljivejša od posameznih meritev.
Sklep
Zakon velikih števil je temeljna lastnost naključnih procesov: ponuja razlog, zakaj povprečja velikih vzorcev lahko zaupamo kot ocenam pričakovanih vrednosti. Kljub temu ga je treba uporabljati premišljeno — upoštevati pogoje uporabe (neodvisnost, končna pričakovanja), razlikovati med močmi trditev (šibka vs. močna konvergenca) in upoštevati, da LLN ne pove hitrosti konvergence, ki je v praksi zelo pomembna.
Zgodovina
Jacob Bernoulli je prvi opisal LLN. Po njegovih besedah je bila tako preprosta, da tudi najbolj neumen človek instinktivno ve, da je resnična. Kljub temu je potreboval več kot 20 let, da je razvil dober matematični dokaz. Ko ga je našel, ga je leta 1713 objavil v knjigi Ars Conjectandi (Umetnost sklepanja). Poimenoval ga je "zlati izrek". Postal je splošno znan kot "Bernoullijev izrek" (ne smemo ga zamenjati z istoimenskim zakonom v fiziki). Leta 1835 ga je S. D.Poisson dodatno opisal pod imenom "La loi des grands nombres" (Zakon velikih števil). Pozneje je bil znan pod obema imenoma, vendar se najpogosteje uporablja "zakon velikih števil".
K izboljšanju zakona so prispevali tudi drugi matematiki. Med njimi so bili Čebišev, Markov, Borel, Cantelli in Kolmogorov. Po teh študijah sta zdaj na voljo dve različni obliki zakona: Ena se imenuje "šibki" zakon, druga pa "močni" zakon. Ti obliki ne opisujeta različnih zakonov. Imata različna načina opisovanja konvergence opazovane ali izmerjene verjetnosti k dejanski verjetnosti. Močna oblika zakona implicira šibko obliko zakona.
Vprašanja in odgovori
V: Kaj je zakon velikih števil?
O: Zakon velikih števil je statistični izrek, ki pravi, da če naključni proces večkrat opazujemo, bo povprečje opazovanih vrednosti dolgoročno stabilno.
V: Kaj pomeni zakon velikih števil?
O: Zakon velikih števil pomeni, da se bo s povečevanjem števila opazovanj povprečje opazovanih vrednosti vedno bolj približevalo pričakovani vrednosti.
V: Kaj je pričakovana vrednost?
O: Pričakovana vrednost je populacijsko povprečje rezultatov naključnega procesa.
V: Kakšna je pričakovana vrednost metanja kocke?
O: Pričakovana vrednost metanja kocke je vsota možnih izidov, deljena s številom izidov: (1+2+3+4+5+6)/6=3,5.
V: Kaj kaže graf v besedilu v povezavi z zakonom velikih števil?
O: Iz grafa je razvidno, da povprečje metov kock sprva divje niha, vendar se, kot napoveduje zakon o velikih številih, z večjim številom opazovanj povprečje ustali okoli pričakovane vrednosti 3,5.
V: Kako zakon velikih števil velja za metanje kock?
O: Zakon velikih števil velja za metanje kocke, saj se s povečevanjem števila metov povprečje metov vse bolj približuje pričakovani vrednosti 3,5.
V: Zakaj je zakon velikih števil pomemben v statistiki?
O: Zakon velikih števil je v statistiki pomemben, ker predstavlja teoretično podlago za idejo, da podatki težijo k povprečju pri velikem številu opazovanj. Na njem temeljijo številne statistične metode, kot so intervali zaupanja in preverjanje hipotez.
