Varianz einer Varianz? < Stochastik < Hochschule < Mathe < Vorhilfe
|
Status: |
(Frage) beantwortet | Datum: | 18:59 Mi 02.07.2008 | Autor: | cosPhi |
Hi,
E{E{x}} ist ja bekanntlich E{x}. Nur was ist Var{Var{x}} ??
Ich möchte folgende Varianz berechnen (Samples sind x[n] ~ [mm] \mathcal{N}(A,\sigma^2) [/mm] i.i.d.!)
Var{ [mm] \frac{1}{N} \sum_{n=1}^N (x[n]-A)^2 [/mm] } = [mm] \frac{1}{N^2} \sum_{n=1}^N [/mm] Var{(x[n] - [mm] A)^2 [/mm] }
...und weiter?
Eigentlich hätte ich jetzt genau eine Varianz in einer Varianz...Was ist die Lösung davon?
Liebe Grüße,
divB
|
|
|
|
Status: |
(Antwort) fertig | Datum: | 19:17 Mi 02.07.2008 | Autor: | Blech |
> Hi,
>
> E{E{x}} ist ja bekanntlich E{x}. Nur was ist Var{Var{x}}
> ??
0
Var(X) ist nicht zufällig, sondern eine deterministische Zahl, also streut sie auch nicht.
Könntest Du Deine Formel korrigieren? Da fehlt einiges, und dann könnte ich Dir vielleicht auch helfen. =)
Falls der zweite Teil aber stimmt, dann ist
[mm] $\operatorname{Var}((x_n-A)^2)=\operatorname{Var}(\sigma^2\underbrace{\left(\frac{x_n-A}{\sigma}\right)^2}_{\sim \chi^2_1})=\sigma^4*2*1$
[/mm]
[mm] $\chi^2_1$ [/mm] ist die [mm] $\chi^2$-Verteilung [/mm] mit einem Freiheitsgrad.
|
|
|
|
|
Status: |
(Antwort) fertig | Datum: | 20:33 Mi 02.07.2008 | Autor: | Blech |
Ich hoffe Du meinst jeweils [mm] $\sigma^4$ [/mm] statt [mm] $\sigma^2$. [/mm] =)
[mm] $\frac{n}{2\sigma^4}$ [/mm] ist die Fisher-Information, aber nachdem der MLE in diesem Fall nicht unverzerrt ist (er schätzt [mm] $\frac{n-1}{n}\sigma^2$, [/mm] vgl. die Stichprobenvarianz. D.h. er ist nur asymptotisch erwartungstreu), mußt Du die Cramer-Rao Schranke noch mit [mm] $\left(\frac{n-1}{n}\right)^2$ [/mm] multiplizieren, also wird die Schranke nicht ganz erreicht.
|
|
|
|
|
Status: |
(Frage) beantwortet | Datum: | 21:21 Mi 02.07.2008 | Autor: | cosPhi |
Hi Blech,
und vielen Dank noch einmal für deine Antwort!
Ich hoffe aber ich darf noch einmal nachfragen, denn jetzt ist es mir doch nicht mehr ganz klar, da ich tw. widersprüchliche Angaben gefunden habe :-(
Vorab: Ja, ich meinte natürlich [mm] \sigma^4 [/mm] statt [mm] \sigma^2, [/mm] danke :)
Wieso ist genau der Schätzer nicht erwartungstreu? Auf der Wikipedia unter [1] (sowohl in Englisch als auch in deutsch) wird der MLE bestimmt, allerdings wird dort der MLE für die *Standardabweichung* bestimmt und nicht für die Varianz. Dort steht auch explizit dabei dass dieser Schätzwert (so wie du eben gesagt hast) nicht erwartungstreu ist, aber da ist von Standardabweichung die Rede (Ableitung nach s und nicht nach [mm] s^2)
[/mm]
Auf der anderen Seite findet sich unter [2] (Wikipedia):
"so ist [...] eine erwartungstreue Schätzung für die Varianz der Grundgesamtheit."
"Der Erwartungswert der Stichprobenvarianz ist also gleich der Varianz der Grundgesamtheit. Die Stichprobenvarianz ist somit eine erwartungstreue Schätzung für die Varianz."
Auf [3] wiederum findet sich wieder gegenteiliges:
"Der Maximum-Likelihood-Schätzer [...] ist dagegen nicht erwartungstreu für [...]"
Und schließlich unter [4]:
"Diese Formel erklärt sich daraus, dass die Stichprobenvarianz [...] ein erwartungstreuer Schätzer für die Varianz [mm] \sigma_X^2 [/mm] der Grundgesamtheit ist. Im Gegensatz dazu ist aber sX kein erwartungstreuer Schätzer für die Standardabweichung."
Aufgrund aller dieser (für mich teilweise widersprüchlichen :-( ) Aussagen schließe ich:
* Der MLE für die Standardabweichung ist *nicht* erwartungstreu
* Der MLE für die Varianz *ist* erwartungstreu
Wie auch immer, ich habe dann den Erwartungswert selbst gebildet:
Datei-Anhang, Seite 2.
Hier ist er ebenfalls erwartungstreu.
Wo liegt dann in meiner Argumentation der Hund begraben? :-(
Herzlichen Dank auf alle Fälle noch einmal!
LG,
divB
[1] http://de.wikipedia.org/wiki/Maximum_Likelihood#Stetige_Verteilung.2C_kontinuierlicher_Parameterraum
[2] http://de.wikipedia.org/wiki/Stichprobenvarianz#Erwartungstreue_Sch.C3.A4tzung_der_Varianz_der_Grundgesamtheit
[3] http://de.wikipedia.org/wiki/Varianzsch%C3%A4tzung#Sch.C3.A4tzung_der_Varianz_einer_Normalverteilung
[4] http://de.wikipedia.org/wiki/Standardabweichung#Allgemeiner_Fall
Dateianhänge: Anhang Nr. 1 (Typ: pdf) [nicht öffentlich]
|
|
|
|
|
Status: |
(Antwort) fertig | Datum: | 21:36 Mi 02.07.2008 | Autor: | Blech |
Vergiß, was ich gesagt habe. Bei unbekanntem Erwartungswert ist
der MLE: [mm] $\frac{1}{n}\sum_{i=1}^n (x_i-\bar x)^2$
[/mm]
die Stichprobenvarianz: [mm] $\frac{1}{n-1}\sum_{i=1}^n (x_i-\bar x)^2$
[/mm]
Du verlierst einen Freiheitsgrad, weil Du ja den Erwartungswert selbst aus Deinen Daten schätzt (das Stichprobenmittel [mm] $\bar [/mm] x$). Damit ist der MLE nicht erwartungstreu. (sondern eben nur asymptotisch ewtreu)
Bei bekanntem Erwartungswert trifft das natürlich nicht zu. Ich hab nur nicht nachgedacht, weil der Einwand, daß der MLE für die Varianz nicht ewtreu ist, fast schon reflexartig kommt. =)
ciao
Stefan
|
|
|
|
|
Status: |
(Mitteilung) Reaktion unnötig | Datum: | 10:48 Do 03.07.2008 | Autor: | cosPhi |
Hi!
Herzlichen Dank noch einmal für die Hilfe! Das hat mir sehr weitergeholfen und jetzt sieht für mich alles konsistent aus
LG,
divB
|
|
|
|