Означення. Борелеву функцію
, задану на вибірковому просторі , зі значеннями в - множині можливих значень параметра - будемо називати статистикою, а - борелеву функцію від вибірки - оцінкою.Будувати статистики
, такі щоб тобто статистики, з допомогою яких за можна було б точно визначити , явно не вдасться вже хоча б тому, що є константою, а оцінка як функція вибірки (випадкової величини) є випадковою величиною. Тож подобається нам чи ні, для визначення ми будемо змушені вдовольнятися оцінками , як наближеними значеннями .Зазначимо, що для одного й того самого параметра
можна запропонувати багато оцінок.Похибки оцінювання параметрів. У зв’язку з постановкою задачі оцінювання параметрів розподілів як задачі знаходження наближених значень
параметра треба вміти відповідати на запитання: наскільки великою є похибка при заміні на , інакше кажучи, як далеко можуть відхилятися значення оцінки , обчисленої за вибіркою , відповідної величини ?Від оцінки
, яка пропонується для оцінювання того чи іншого параметра, природно вимагати малого розсіювання її значень, іншими словами концентрації їх у вузькому колі. Як кількісну міру розсіювання значень випадкової величини розглядатимемо (для наочності - одновимірний параметр).Кількісно міру похибки при заміні
на (міру розсіювання відносно ) будемо описувати величиноюСеред усіх оцінок з однією і тією самою дисперсією
(мірою розсіювання) мінімальну міру розсіювання відносно мають оцінки, для яких . Останнє випливає з рівностейОзначення. Оцінку
будемо називати незміщеною оцінкою параметра , якщо , або, що те саме,Наочно незміщеність оцінки
параметра можна трактувати так: за багаторазового використання оцінки як значення , тобто за багаторазової заміни на , середнє значення похибки дорівнює нулеві.Часто розглядають не одну оцінку
, побудовану за вибіркою , а послідовність оцінок У цій ситуації природно говорити про асимптотичну поведінку послідовності оцінок.Означення. Послідовність оцінок
будемо називати спроможною послідовністю оцінок параметра , якщо для кожногопри
, або, що те саме, збігається за ймовірністю до , при .Означення. Послідовність оцінок
називатимемо асимптотично незміщеною послідовністю оцінок параметра , якщо при , або, що те саме, при .Оцінки мінімальної дисперсії.
Основне питання задачі оцінювання параметрів розподілів - наскільки великою є похибка при заміні параметра
оцінкою .Оцінки
, що пропонуються для оцінювання параметра , повинні бути незміщеними, тобто .Такі оцінки мають меншу міру розсіювання відносно
порівняно з оцінками, для яких .Для оцінювання параметра
можна запропонувати багато незміщених оцінок. Із сукупності таких оцінок природно вибрати ті, що мають мінімально можливу міру розсіювання (дисперсію).