為什么說統(tǒng)計(jì)學(xué)的大數(shù)定律對所有的數(shù)據(jù)都有效？
大數(shù)定律有若干個(gè)表現(xiàn)形式。這里僅介紹高等數(shù)學(xué)概率論要求的常用的三個(gè)重要定律： 切比雪夫大數(shù)定理 設(shè) 是一列相互獨(dú)立的隨機(jī)變量(或者兩兩不相關(guān)) ，他們分別存在期望 和方差 。若存在常數(shù)C使得：
則對任意小的正數(shù) ε，滿足公式一：
將該公式應(yīng)用于抽樣調(diào)查，就會有如下結(jié)論：隨著樣本容量n的增加，樣本平均數(shù)將接近于總體平均數(shù)。從而為統(tǒng)計(jì)推斷中依據(jù)樣本平均數(shù)估計(jì)總體平均數(shù)提供了理論依據(jù)。
特別需要注意的是，切比雪夫大數(shù)定理并未要求 同分布，相較于后面介紹的伯努利大數(shù)定律和辛欽大數(shù)定律更具一般性。 伯努利大數(shù)定律 設(shè)μ是n次獨(dú)立試驗(yàn)中事件A發(fā)生的次數(shù)，且事件A在每次試驗(yàn)中發(fā)生的概率為P，則對任意正數(shù)ε，有公式二：
該定律是切比雪夫大數(shù)定律的特例，其含義是，當(dāng)n足夠大時(shí)，事件A出現(xiàn)的頻率將幾乎接近于其發(fā)生的概率，即頻率的穩(wěn)定性。
在抽樣調(diào)查中，用樣本成數(shù)去估計(jì)總體成數(shù)，其理論依據(jù)即在于此。 辛欽大數(shù)定律 辛欽大數(shù)定律：常用的大數(shù)定律
設(shè)為獨(dú)立同分布的隨機(jī)變量序列，若 的數(shù)學(xué)期望存在，則服從大數(shù)定律:
即對任意的ε>0，有公式三：
大數(shù)定律的四種證法
對于一般人來說，大數(shù)定律的非嚴(yán)格表述是這樣的： 是獨(dú)立同分布隨機(jī)變量序列，均值為 ，則 收斂到u.
如果說“弱大數(shù)定律”，上述收斂是指依概率收斂(in probability)，如果說“強(qiáng)大數(shù)定律”，上述收斂是指幾乎必然收斂(almost surely/with probability one)。
大數(shù)定律通俗一點(diǎn)來講，就是樣本數(shù)量很大的時(shí)候，樣本均值和真實(shí)均值充分接近。這一結(jié)論與中心極限定理一起，成為現(xiàn)代概率論、統(tǒng)計(jì)學(xué)、理論科學(xué)和社會科學(xué)的基石。（有趣的是，雖然大數(shù)定律的表述和證明都依賴現(xiàn)代數(shù)學(xué)知識，但其結(jié)論最早出現(xiàn)在微積分出現(xiàn)之前。而且在生活中，即使沒有微積分的知識也可以應(yīng)用。例如，沒有學(xué)過微積分的學(xué)生也可以輕松利用excel或計(jì)算器計(jì)算樣本均值等統(tǒng)計(jì)量，從而應(yīng)用于社會科學(xué)。）
最早的大數(shù)定律的表述可以追溯到公元1500年左右的意大利數(shù)學(xué)家Cardano。1713年，著名數(shù)學(xué)家James (Jacob) Bernouli正式提出并證明了最初的大數(shù)定律。不過當(dāng)時(shí)現(xiàn)代概率論還沒有建立起來，測度論、實(shí)分析的工具還沒有出現(xiàn)，因此當(dāng)時(shí)的大數(shù)定律是以“獨(dú)立事件的概率”作為對象的。后來，歷代數(shù)學(xué)家如Poisson（“大數(shù)定律”的名字來自于他）、Chebyshev、Markov、Khinchin（“強(qiáng)大數(shù)定律”的名字來自于他）、Borel、Cantelli等都對大數(shù)定律的發(fā)展做出了貢獻(xiàn)。直到1930年，現(xiàn)代概率論奠基人、數(shù)學(xué)大師Kolmogorov才真正證明了最后的強(qiáng)大數(shù)定律。
下面均假設(shè) 是獨(dú)立同分布隨機(jī)變量序列，數(shù)學(xué)期望為u。獨(dú)立同分布隨機(jī)變量和的大數(shù)定律常有的表現(xiàn)形式有以下幾種。 (1) 帶方差的弱大數(shù)定律：若 小于無窮，則 依概率收斂到0。
證明方法：Chebyshev不等式即可得到。這個(gè)證明是Chebyshev給出的。
(2) 帶均值的弱大數(shù)定律：若u存在，則 依概率收斂到0。
證明方法：用Taylor展開特征函數(shù)，證明其收斂到常數(shù)，得到依分布收斂，然后再用依分布收斂到常數(shù)等價(jià)于依概率收斂。 (3). 精確弱大數(shù)定律：若xP(|X|>x) 當(dāng)x趨于無窮時(shí)收斂到0，則 依概率收斂到0，其中。（在這個(gè)定理里，不需要u存在。）
證明方法：需要用到截?cái)嚯S機(jī)變量. 然后要用的三角陣列的依概率收斂定理和Fubini定理分析積分變換。
(4). 帶4階矩的強(qiáng)大數(shù)定律：若小于無窮，則 幾乎必然收斂到0.
證明方法：與(1)類似，先用Chebyshev不等式。然后因?yàn)?階矩的存在，得到對任意常數(shù)t的收斂速度足夠快，滿足Borel-Cantelli的要求，用Borel-Cantelli引理得到大數(shù)定律。
(5). 帶方差的強(qiáng)大數(shù)定律：若小于無窮，則 幾乎必然收斂到0.
證明方法：用Kolgoromov三級數(shù)定理和Kronecker定理。
(6). 精確強(qiáng)大數(shù)定律：若u存在，則 幾乎必然收斂到0.
證明方法：這個(gè)大數(shù)定律的證明確實(shí)有幾種不同的方法。最早的證明是由數(shù)學(xué)大師Kolmogorov給出的。Durrett (2010)的書上用的是Etemadi (1981)的方法，需要截?cái)郮，用到現(xiàn)代概率論的知識如Borel-Cantelli引理、Kolmogorov三級數(shù)定理、Fubini定理等。（感謝讀者指出，Durrett的書在倒向鞅一章中給出了大數(shù)定律的倒向鞅方法證明，只需要用到倒向鞅的知識和Hewitt-Savage 0-1律，不過這也是現(xiàn)代概率論的知識。）
此外，還有很多不同的大數(shù)定律，不同分布的，不獨(dú)立的序列等。定律也不一定是關(guān)于隨機(jī)變量的，也可以是關(guān)于隨機(jī)函數(shù)的，甚至隨機(jī)集合的等等。以數(shù)學(xué)家命名的也有Khinchin大數(shù)定律(不獨(dú)立序列的強(qiáng)大數(shù)定律)、Chebyshev大數(shù)定律(弱大數(shù)定律(1))、Poisson大數(shù)定律(不同概率的隨機(jī)事件序列的大數(shù)定律)、Bernoulli大數(shù)定律(隨機(jī)事件的大數(shù)定律)、Kolmogorov大數(shù)定律(強(qiáng)大數(shù)定律(6))等等……
以上(1-6)是常見的獨(dú)立同分布序列的大數(shù)定律。其中，(3)和(6)是最嚴(yán)格也是最精妙的結(jié)果，證明所涉及的高等概率論知識也最多。它們成立的條件不僅是充分條件，也是必要條件，因此它們算是完結(jié)了大數(shù)定律的發(fā)展。大數(shù)定律的發(fā)展符合數(shù)學(xué)的一般規(guī)律：想證明某一結(jié)論，條件越弱（弱大數(shù)定律：2階矩條件->1階矩條件->沒矩條件；強(qiáng)大數(shù)定律：4階矩條件→2階矩條件→1階矩條件），證明也就變得越難。
雖然只有(3)和(6)是最精確的結(jié)果，但是必須認(rèn)識到，數(shù)學(xué)的發(fā)展是一個(gè)循序漸進(jìn)的過程，如果沒有前面那些更強(qiáng)條件下的定理，也無法得到最后的大數(shù)定律。
從最開始的自然界觀察到大數(shù)定律的存在，到最后證明最終形式，歷時(shí)數(shù)百年，現(xiàn)代概率論也在這個(gè)過程中建立起來。此外，雖然(3)和(6)比前面的(1)和(5)強(qiáng)很多，但是(1)和(5)的條件僅僅是2階矩（或方差）的存在，因此他們在幾百年間早就被廣泛使用，對于一般的社會科學(xué)問題、統(tǒng)計(jì)問題等已經(jīng)足足夠用了。
總之，大數(shù)定律包含概率論里核心的知識。“大數(shù)定律的四種證法”盡管表述模糊，原意也充滿調(diào)侃，但并不是真如《孔乙己》里回字四種寫法所暗示的那樣迂腐或毫無價(jià)值。作為概率或統(tǒng)計(jì)專業(yè)的研究生，弄懂這些定理表述的區(qū)別和證明方法的區(qū)別和聯(lián)系，了解前代數(shù)學(xué)家的工作，對于深刻理解現(xiàn)代概率論是很有好處的。當(dāng)然，任何人也不應(yīng)去死記硬背這些證法，只要能理解、弄清其中微妙即可。
統(tǒng)計(jì)學(xué)的三大基石是哪三個(gè)理論
統(tǒng)計(jì)學(xué)有三大基石，即正態(tài)分布、大數(shù)定律和中心極限定理。其中“大數(shù)定律”解決了樣本和總體的關(guān)系問題，其核心思想就是當(dāng)樣本量足夠大的時(shí)候，樣本的分布（均值）與總體的分布（真實(shí)均值）充分接近，也就是可以把二者看作是相等的。大數(shù)定律告訴我們只要獲取適合的數(shù)據(jù)樣本量就可以把握住事物的分布規(guī)律，...
概率統(tǒng)計(jì) 有人知道極大似然估計(jì) 是什么道理嗎
你的理解有問題，不是整體情況約等于個(gè)體，實(shí)際上統(tǒng)計(jì)學(xué)是建立在大數(shù)定律上的，所有的估計(jì)都是以大數(shù)定律為前提的，還記得中心極限定理嗎？那是一個(gè)極限，也就是說要樣本足夠大才可以，對小樣本，估計(jì)失效，這要用到其他的一些知識。所有的估計(jì)實(shí)際上都是參數(shù)估計(jì)，也就是求影響總體的參數(shù)，這些所求...
大數(shù)法則:統(tǒng)計(jì)學(xué)中的基本定律
因?yàn)樗鼈儙椭烙?jì)違約風(fēng)險(xiǎn)并制定相應(yīng)的利率和還款期限。總之，大數(shù)法則是統(tǒng)計(jì)學(xué)中最核心的基本定理之一。它告訴我們，如果我們進(jìn)行足夠多的獨(dú)立重復(fù)實(shí)驗(yàn)，結(jié)果將越來越接近于真實(shí)值。因此，在處理大規(guī)模數(shù)據(jù)時(shí)，大數(shù)法則是非常有用的，它可以幫助我們得到更準(zhǔn)確、更有用的信息，以制定正確的決策。
伯努利大數(shù)定律是什么?
通過這一定律，我們可以更深入地理解隨機(jī)現(xiàn)象的本質(zhì)，從而更好地進(jìn)行統(tǒng)計(jì)推斷和決策。總的來說，伯努利大數(shù)定律是描述隨機(jī)事件頻率與其概率之間關(guān)系的重要法則，是概率論和統(tǒng)計(jì)學(xué)中不可或缺的理論基礎(chǔ)。在實(shí)際應(yīng)用中，它為我們提供了一種理解和處理隨機(jī)現(xiàn)象的有效工具。
"統(tǒng)計(jì)學(xué)的基本研究方法"
大量觀察法的數(shù)理依據(jù)是大數(shù)定律，大數(shù)定律是指雖然每個(gè)個(gè)體受偶然因素的影響作用不同而在數(shù)量上幾存有差異，但對總體而言可以相互抵消而呈現(xiàn)出穩(wěn)定的規(guī)律性，因此只有對足夠多數(shù)的個(gè)體進(jìn)行觀察，觀察值的綜合結(jié)果才會趨向穩(wěn)定，建立在大量觀察法基礎(chǔ)上的數(shù)據(jù)資料才會給出一般的結(jié)論。統(tǒng)計(jì)學(xué)的各種調(diào)查方法都...
貝葉斯分類器(10X單細(xì)胞和10X空間轉(zhuǎn)錄組的基礎(chǔ)算法)
貝葉斯分類器,即是以貝葉斯決策理論為基礎(chǔ)的分類器,什么是貝葉斯決策理論呢? 貝葉斯決策論是貝葉斯學(xué)派關(guān)于統(tǒng)計(jì)推斷(根據(jù)已有資料或者說數(shù)據(jù),對未知問題作出判斷)的理論,要理解貝葉斯理論,就不得不和他的 “老對手”——頻率學(xué)派(經(jīng)典學(xué)派)一起聊。 首先我們看看統(tǒng)計(jì)推斷的問題是什么。statistical inference 是學(xué)統(tǒng)計(jì)的...
大數(shù)定律是什么
大數(shù)定律在統(tǒng)計(jì)學(xué)和概率論中有著廣泛的應(yīng)用。它為我們提供了一種理解隨機(jī)現(xiàn)象長期趨勢的方法，使得我們能夠基于大量數(shù)據(jù)來預(yù)測和推斷概率分布。在現(xiàn)實(shí)世界的應(yīng)用中，大數(shù)定律被廣泛應(yīng)用于各種領(lǐng)域，如金融、醫(yī)療、科技以及日常生活等。例如，在金融領(lǐng)域，大數(shù)定律被用來分析股票市場的長期趨勢，預(yù)測股票價(jià)格...
關(guān)于概率論的(大數(shù)定律和中心極限定理)這題我看了很久,還是覺得缺...
如果我們詢問的人數(shù)足夠多，那么支持新政策的人數(shù)比例就會趨近于真實(shí)的支持率，這就是大數(shù)定律的應(yīng)用。而如果我們在不同的地區(qū)進(jìn)行多次這樣的調(diào)查，每次調(diào)查的人數(shù)都很多，那么這些調(diào)查結(jié)果將會呈現(xiàn)正態(tài)分布，這就是中心極限定理的體現(xiàn)。總的來說，大數(shù)定律和中心極限定理是概率論和統(tǒng)計(jì)學(xué)中非常重要的基礎(chǔ)...
大數(shù)定律通俗理解是什么?
1、大數(shù)定律并不是經(jīng)驗(yàn)規(guī)律，而是在一些附加條件上經(jīng)嚴(yán)格證明了的定理，它是一種自然規(guī)律因而通常不叫定理而是大數(shù)“定律”。2、大數(shù)定律通俗一點(diǎn)來講，就是樣本數(shù)量很大的時(shí)候，樣本均值和真實(shí)均值充分接近。這一結(jié)論與中心極限定理一起，成為現(xiàn)代概率論、統(tǒng)計(jì)學(xué)、理論科學(xué)和社會科學(xué)的基石。大數(shù)法則即...
統(tǒng)計(jì)學(xué)中比較著名的定理
首先，大數(shù)定律是統(tǒng)計(jì)學(xué)中一個(gè)基礎(chǔ)而重要的概念。它指出，隨著樣本量的增加，樣本平均值趨向于總體平均值，從而提供了估計(jì)總體參數(shù)的理論依據(jù)。這一定律為估計(jì)理論提供了堅(jiān)實(shí)的數(shù)學(xué)基礎(chǔ)。中心極限定理則揭示了在眾多獨(dú)立同分布隨機(jī)變量的和的分布情況下，隨著樣本量的增大，其分布趨于正態(tài)分布。這一定理對于...
相關(guān)評說：
青云譜區(qū)公稱： ______ 大數(shù)定律是在試驗(yàn)不變的條件下,重復(fù)試驗(yàn)多次,隨機(jī)事件的頻率近似于它的概率.簡單地說,大數(shù)定理就是“當(dāng)試驗(yàn)次數(shù)足夠多時(shí),事件發(fā)生的頻率無窮接近于該事件發(fā)生的概率”既然是隨機(jī)事件,當(dāng)然得是獨(dú)立重復(fù)的
青云譜區(qū)公稱： ______ GB/T19000系列標(biāo)準(zhǔn)中,GB/T19000標(biāo)準(zhǔn)一直被作為整個(gè)系列標(biāo)準(zhǔn)的基礎(chǔ).包括12條:1、質(zhì)量管理體系的理論說明.2、質(zhì)量管理體系要求和產(chǎn)品要求.3、質(zhì)量管理體系方法.4、過程方法.5、質(zhì)量方針和質(zhì)量目標(biāo).6、最高管理者的作用.7、文件.8、質(zhì)量管理體系評價(jià).9、持續(xù)改進(jìn).10、統(tǒng)計(jì)技術(shù)的作用.11、質(zhì)量管理體系與其他管理體系.12、質(zhì)量管理體系與卓越模式的關(guān)系.
青云譜區(qū)公稱： ______ 簡略的說,會計(jì)就是運(yùn)用會計(jì)恒等式對經(jīng)濟(jì)活動進(jìn)行量化的計(jì)量,關(guān)鍵在于憑證和賬面的準(zhǔn)確和平衡.無論各行業(yè)都與會計(jì)核算有關(guān);而統(tǒng)計(jì)的基礎(chǔ)是大數(shù)定律,也就是說統(tǒng)計(jì)主要關(guān)注的是一個(gè)宏觀的趨勢性走向: 一.統(tǒng)計(jì)專業(yè)主要包括一般統(tǒng)...
青云譜區(qū)公稱： ______ 數(shù)理統(tǒng)計(jì)與統(tǒng)計(jì)學(xué)的主要異同點(diǎn)主要有以下幾方面: 1、從其研究目的來看,兩者都重在揭示總體現(xiàn)象的數(shù)量規(guī)律性,而統(tǒng)計(jì)學(xué)更聲稱要以對總體現(xiàn)象的定性認(rèn)識為基礎(chǔ). 2、從其研究的途徑來看,數(shù)理統(tǒng)計(jì)希望通過對總體部分個(gè)體的數(shù)量特征...
青云譜區(qū)公稱： ______ 大數(shù)定律有3個(gè),指的是樣本很大時(shí)的趨勢,只具有統(tǒng)計(jì)學(xué)意義.常用的是伯努力大數(shù)定律,也就是你說的那個(gè).數(shù)學(xué)書中總是給明了一件事發(fā)生的確切概率,但實(shí)際中我們并不能知道它,比如你怎么知道硬幣正面的概率就是0.5呢?所以我們能...
青云譜區(qū)公稱： ______ 大數(shù)法則:是指風(fēng)險(xiǎn)單位數(shù)量愈多,實(shí)際損失的結(jié)果會愈接近從無限單位數(shù)量得出的預(yù)期損失.大數(shù)法則分為數(shù)學(xué)上的大數(shù)法則與統(tǒng)計(jì)學(xué)上的大數(shù)法則.保險(xiǎn)公司通過分保手段分散危險(xiǎn),是基于統(tǒng)計(jì)學(xué)上的大數(shù)法則.保險(xiǎn)所承擔(dān)的風(fēng)險(xiǎn)有偶然性的,以個(gè)別風(fēng)險(xiǎn)而言,很難預(yù)測發(fā)生的規(guī)律.但對同類的事物經(jīng)過長期的觀察,可以找出接近正確的危險(xiǎn)發(fā)生頻率.例如房屋失火,人的死亡,對某一房屋和某一人而言,是無法預(yù)測其發(fā)生的,但盡可能地匯集更多的人或房屋,觀察一定期間,則可測出死亡人數(shù)或失火件數(shù)發(fā)生的或然率.如果觀察的人數(shù)或房屋越多,其發(fā)生的或然率越準(zhǔn)確、越規(guī)范化.
青云譜區(qū)公稱： ______ 又稱隨機(jī)抽樣,概率抽樣以概率理論和隨機(jī)原則為依據(jù)來抽取樣本的抽樣,是使總體中的每一個(gè)單位都有一個(gè)事先已知的非零概率被抽中的抽樣.總體單位被抽中的概率可以通過樣本設(shè)計(jì)來規(guī)定,通過某種隨機(jī)化操作來實(shí)現(xiàn),雖然隨機(jī)樣本一般不會與總體完全一致,但它所依據(jù)的是大數(shù)定律,亦稱大數(shù)法則,而且能計(jì)算和控制抽樣誤差,因此可以正確地說明樣本的統(tǒng)計(jì)值在多大程度上適合于總體,根據(jù)樣本調(diào)查的結(jié)果可以從數(shù)量上推斷總體,也可在一定程度上說明總體的性質(zhì),特征.概率抽樣主要分為簡單隨機(jī)抽樣,系統(tǒng)抽樣,分類抽樣,整群抽樣,多階段抽樣等類型,現(xiàn)實(shí)生活中絕大多數(shù)抽樣調(diào)查都采用概率抽樣方法來抽取樣本.
青云譜區(qū)公稱： ______ 概率論中討論隨機(jī)變量序列的算術(shù)平均值向常數(shù)收斂的定律.概率論與數(shù)理統(tǒng)計(jì)學(xué)的基本定律之一.又稱弱大數(shù)理論.例如,在重復(fù)投擲一枚硬幣的隨機(jī)試驗(yàn)中,觀測投擲n次硬幣中出現(xiàn)正面的次數(shù).不同的n次試驗(yàn),出現(xiàn)正面的頻率(出現(xiàn)正面...
青云譜區(qū)公稱： ______ 簡單地說,大數(shù)定理就是“當(dāng)試驗(yàn)次數(shù)足夠多時(shí),事件發(fā)生的頻率無窮接近于該事件發(fā)生的概率”. 應(yīng)該是由于需要 【試驗(yàn)次數(shù)足夠多】的前提,才取這個(gè)名字
