Metody Analizy Danych Doświadczalnych Wykład 9 ”Estymacja parametryczna”

Program na dziś F Pojęcia podstawowe F Matematyczny model zjawiska F Metoda największej wiarygodności F Metoda najmniejszych kwadratów

Pojęcia podstawowe Podstawowe pojęcia z jakimi spotykamy się w teorii estymacji: Estymator - dowolna funkcja służąca do oszacowania nieznanej wartości parametru populacji generalnej; Estymator nieobciążony - estymator dla którego wartość przeciętna jest równa zeru, tzn. estymator szacujący parametr rozkładu bez błędu systematycznego; Estymator efektywny - estymator o możliwie małej wariancji; Estymator zgodny - estymator który jest stochastycznie zbieżny do parametru, czyli estymator podlegający działaniu prawa wielkich liczb (stosowanie większych prób oprawia dokładność szacunku); Estymator wystarczający - estymator skupiający w sobie wszystkie informacje o badanym parametrze zawarte w próbie losowej; Estymacja punktowa - metoda szacunku nieznanego parametru polegająca na tym, że jako wartość parametru przyjmuje się wartość estymatora tego parametru otrzymaną z n-elementowej próby losowej; Estymacja przedziałowa - estymacja polegająca na budowie przedziału ufności dla tego parametru. Przedział ufności jest przedziałem losowym wyznaczonym za pomocą rozkładu estymatora, a mający tę własność, że pokrywa wartość parametru z góry zadanym prawdopodobieństwem, zapisujemy go zwykle w postaci P(a<X<b) = 1- .

Metoda największej wiarygodności Natomiast najbardziej popularną metodą estymacji nieznanych parametrów rozkładu populacji jest metoda największej wiarygodności. Metoda ta pozwala na znalezienie estymatorów nieznanych parametrów w takich rozkładach populacji, w których znana jest ich postać funkcyjna. Estymatory uzyskane metodą największej wiarygodności mają wiele pożądanych własności. Trzy najważniejsze ze względów praktycznych to: 1. Dla dużej liczby pomiarów estymator podlega rozkładowi normalnemu; 2. Wariancja estymatora, czyli ocena dokładności wyznaczenia wartości prawdziwej, jest najlepsza jaką można osiągnąć w danej sytuacji (optymalna); 3. Estymator uzyskany tą metodą nie zależy od tego, czy maksimum wiarygodności wyznaczymy dla estymowanego parametru, czy też dla dowolnej jego funkcji. Podstawowym pojęciem występującym w metodzie największej wiarygodności jest pojęcie wiarygodności próby. Wiarygodność (likelihood) n-elementowej próby prostej lub funkcja wiarygodności dana jest zależnością: gdzie f(x i,  ) oznacza funkcję gęstości prawdopodobieństwa a p(x i,  ) funkcję prawdopodobieństwa, zaś  może być pojedynczym parametrem lub wektorem.

Maximum likelihood method The general population has a two-point distribution of zero-one with an unknown parameter p. Find the most reliable estimator of the parameter p for n - element simple sample. Since the probability distribution of the data is a function of: Example

Maximum likelihood method Therefore, the likelihood function is as follows where m is the number of successes in the sample. Example ln L = m ln(p) + (n-m) ln(1-p)

Maximum likelihood method and the differential of this expression amounting to: is zero if: Example

Maximum likelihood method The second derivative of the logarithm: is less than zero for p*, which means that the reliability of the function has a maximum at that point, and p* is the most reliable estimator of the parameter p Example

Maximum likelihood method The speed of sound in air measured with two different methods is: v 1 = 340±9 m/s, v 2 = 350 ±18 m/s Find the best estimate of the speed of sound. Note: The speed of sound is a weighted average of these results. Exercise

Metoda najmniejszych kwadratów Rozważmy przypadek równania drugiego stopnia: y = a 0 + a 1 x + a 2 x 2 Zadanie sprowadza się tu do znalezienia wartości liczbowych a, a 1 i a 2. Można je rozwiązać posiadając szereg obserwacji par zmiennej zależnej y i zmiennej niezależnej x: (x 1,y 1 ), (x 2,y 2 ),..., (x n,y n ). W przypadku obecności związku statystycznego pomiędzy y i x nie ma możliwości poprowadzenia krzywej przez wszystkie punkty pomiarowe, niektóre obliczone na podstawie wzoru wartości będą odbiegać od wartości empirycznych. Naszym celem jest zminimalizowanie tych odchyleń, w tym celu należy ustalić matematyczne zasady pomiaru stopnia niezgodności rzeczywistych wartości z wyliczonymi. U podstawy metody najmniejszych kwadratów leży zasada zgodnie z którą stopień niezgodności jest mierzony sumą kwadratów odchyleń wartości rzeczywistej y i obliczonej Y: (y - Y) 2 = minimum.

Koniec wykładu !