План
1.1 Задача про пошуки параметрів
2. Означення метода найменших квадратів
При експериментальному вивченні функціональної залежності однієї величини
виконують вимірювання величини при різних значеннях величини . Задача полягає в аналітичному представленні шуканої функціональної залежності, тобто необхідно підібрати формулу, яка описала б результати експерименту. Наприклад для проведення прямої достатньо двох точок і , якщо ці точки відомі точно. Але за наявністю „шуму” в експерименті необхідно взяти декілька десятків точок.Емпіричну формулу вибирають із формул визначеного типу, наприклад:
, , . Іншими словами, задача полягає у визначенні параметрів формули, в той час, як вигляд формули відомий. Позначимо вибрану функціональну залежність через (1)з явною вказівкою на параметри, які необхідно визначити. Ці параметри
не можна визначити точно за емпіричними значеннями функції , так як останні мають випадкові похибки. При цьому передбачається, що вимірювання значень функції проведенц незалежно один від одного і що похибки вимірювання підпорядковуються нормальному закону розподілу ймовірностей.Якщо всі вимірювання значень функції
виконані з однаковою точністю, то оцінки параметрів визначаються із умови, щоб сума квадратів відхилень виміряних значень від розрахункових , тобто є величина: (2)Сума квадратів відхилень фактичних (дослідних) даних приймала найменше значення від вирівняних.
Якщо вимірювання виконані з різними дисперсіями ( не рівно точні), але відомі відношення дисперсій різних вимірювань, тоді сума замінюється сумою:
(3)де множники
називається вагою вимірювання, обернено пропорційні дисперсіям: .Якщо всі вимірювання значень функції проводяться з однаковою точністю, але при кожному значенні аргумента
вимірювань серія вимірювань, а в якості береться середнє арифметичне результатів вимірювань в серії, то вагою вимірювання можуть бути кількість вимірювань в серіях .Сформульована вище умова зберігається і для визначення оцінок параметрів функції декількох змінних. Наприклад, для функції
від двох змінних оцінки параметрів визначається з умови перетворення в мінімум суми (4).Відшукування тих значень параметрів
, які дають найменше значення функції полягає у розв’язку системи рівнянь (5).Нехай в процесі певного дослідження ми отримали такі дані:
Таблиця 1
x | x1 | x2 | x3 | … | … | xn |
y | y1 | y2 | y3 | … | … | yn |
Виходячи із змісту розглядуваних явищ, припускаємо, що між цими величинами існує певна функціональна залежність
. Метод найменших квадратів (метод Гауса) полягає в тому, що треба знайти такі параметри функціональної залежності , щоб сума квадратів відхилень фактичних даних від вирівняних була найменшою (рис. 1).Рис. 1
(6)де
- фактичні (дослідні) значення; - вирівняні значення.Застосуємо цей метод для визначення параметрів функціональних залежностей.
а) Нехай між даними прямопропорційна залежність, тобто теоретична крива, за допомогою якої будемо вирівнювати емпіричну залежність між цими величинами має такий вигляд:
(7)Тоді (6) запишеться у вигляді:
.Як видно, ця сума залежить від
. Вона буде мінімальна тоді, коли похідна по змінній дорівнює нулю, тобто:Скоротимо це рівняння на -2:
; ,звідки
.Підставимо значення
в рівняння (7), дістанемо:б) Нехай функціональна залежність має такий вигляд:
. Підставивши в рівняння (6) замість відповідно , дістанемо: . У цій формулі невідомі коефіцієнти і . Знайдемо значення і , при яких функція матиме мінімальне значення. Щоб знайти ці значення, візьмемо частинні похідні по і та приведемо їх до нуля. Розв’язок здобутої системи рівнянь дає ті значення, при яких дана сума мінімальна.Скоротимо обидва рівняння на -2 і зробимо такі перетворення:
Враховуючи, що
, дістанемо: (9)Опустивши індекси перепишемо систему (9.9) так:
(10)