Межа Крамера-Рао (CCR) - це мінімальна дисперсія, яку, за умови регулярності, може досягти оцінювач одного параметра.
Іншими словами, ми шукаємо дисперсію, найближчу до цієї нижньої межі, щоб знайти найкращий оцінювач за властивостями неупередженості та ефективності.
Рекомендується ознайомитися з властивостями оцінювачів
Ці властивості використовуються, коли нам потрібно вибрати оцінювач для проведення економетричного аналізу. Якщо ми хочемо, щоб наші результати були остаточними, як мінімум, нам доведеться вимагати, щоб оцінювач був неупередженим і мав найменшу можливу дисперсію серед усіх неупереджених оцінювачів (ефективність).
Хоча ми враховуємо всі неупереджені оцінювачі, коли ми шукаємо оцінювач мінімальної дисперсії, може статися так, що існує інший неупереджений оцінювач, який має меншу дисперсію.
Таким чином, щоб жодна неупереджена оцінка з мінімальною дисперсією не уникнула нас, ми встановлюємо мінімальну або нижню межу, яку дисперсія неупередженої оцінки параметра не може перевищувати.
Ми розглядаємо лише неупереджені оцінювачі, оскільки зміщені оцінювачі можуть мати дисперсії менше, ніж CCR.
Формулювання
Визначаємо:
f (X; Θ): функція щільності ймовірності.
E (·): математична надія.
I (Θ): Інформація Фішера про параметр.
Представляє "кількість інформації" про значення параметра, що міститься у спостереженні за випадковою величиною X.
Формула:
Без паніки! Що ми можемо побачити на перший погляд з цієї формули?
- Ми бачимо, що це несувора нерівність (≥) замість рівності (=). Це пояснюється тим, що в деяких випадках ми не знаходимо (не існує) неупередженого оцінювача, який досягає межі CCR. Тому ми говоримо, що шукаємо дисперсію неупередженого оцінювача, яка якомога ближче до цієї нижньої межі. Крім того, CCR повідомляє нам, якою буде мінімальна дисперсія оцінювача, нижче цієї цифри її неможливо знайти.
- Частина праворуч (var (Θ ’)) - це дисперсія оцінки нашого параметра.
- Частина зліва (1 / J (Θ)) є нездоланним мінімумом дисперсії.
- Якщо ми шукаємо (абсолютний) мінімум для дисперсії оцінювача Θ, то логічно, що з’являються часткові похідні (похідні відносно Θ).
- В економічній науці часткові похідні використовуються в умовах першого та другого порядку з метою оптимізації функцій корисності: знайти відносний та абсолютний максимуми та мінімуми відповідно.
- CCR використовує першу часткову похідну параметра Θ від функції щільності ймовірності f (X; Θ)
- Для зручності розрахунку в деяких випадках для отримання CCR використовують другу похідну та альтернативну інформацію Фішера.
Оцінювачі, які, будучи неупередженими, мають дисперсію, рівну CCR, тоді вважатимуться найбільш ефективними. Подібним чином, ті неупереджені, чия дисперсія ближче, вважатимуться відносно більш ефективними, ніж інші оцінювачі (далі).