Итак,
, где- матрица Якоби вектор- функции f.
Дальше, имеем:
.Отсюда
где W'(x) - транспонированная матрица Якоби.
Поэтому окончательно
,причем
.3. Программная реализация итерационных методов
Реализация алгоритмов итерационных методов решения систем нелинейных уравнений будет показана на примере системы:
3.1 Метод простых итераций
Приведём систему к виду:
Проверим условие сходимости метода простых итераций.
Для этого построим матрицу Якоби
> f1:=0.1-x0^2+2*y0*z0;
f2:=-0.2+y0^2-3*x0*z0;
f3:=0.3-z0^2-2*x0*y0;
> f1x:=diff(f1,x0):
> f1y:=diff(f1,y0):
> f1z:=diff(f1,z0):
> f2x:=diff(f2,x0):
> f2y:=diff(f2,y0):
> f2z:=diff(f2,z0):
> f3x:=diff(f3,x0):
> f3y:=diff(f3,y0):
> f3z:=diff(f3,z0):
> A:=<<f1x|f1y|f1z>,<f2x|f2y|f2z>,<f3x|f3y|f3z>>;
И найдём ей обратную, норму обратной матрицы сначала в общем виде:
> A1:=MatrixInverse(A);
> norma:=MatrixNorm(A1,1);
Найдём значения
при которых норма обратной матрицы Якоби меньше единицы.> x0:=1; y0:=1; z0:=1;
> norma;
Это означает, что по формулам
последовательность итераций будет сходиться к решению системы уравнений.
Построим итерационную последовательность
> restart;
> with(LinearAlgebra):
> x0:=0:
y0:=0:
z0:=0:
> x:=0.1-x0^2+2*y0*z0;
y:=-0.2+y0^2-3*x0*z0;
z:=0.3-z0^2-2*x0*y0;
i:=1;
> while (abs(x-x0)>0.0001)and(abs(y-y0)>0.0001)and(abs(z-z0)>0.0001) do
x0:=x:
y0:=y:
z0:=z:
x:=0.1-x0^2+2*y0*z0;
y:=-0.2+y0^2-3*x0*z0;
z:=0.3-z0^2-2*x0*y0;
i:=i+1;
end do:
Получили ответ:
Количество итераций:
Погрешность решения:
Отсюда можно получить коэффициент сжатия последовательности:
При
> P:= 0.3*q^22/(1-q)-0.0001;
> q:= fsolve(P);
Таким образом можно сказать, что было построено сжимающее отображение, для которого выполняется условие Липшица
Текстпрограммы:
procedure TForm1.Button3Click(Sender: TObject);
var i:integer;
x0,y0,z0,x,y,z,eps: real;
begin
x0:=StrToFloat(Edit1.Text);
y0:=StrToFloat(Edit2.text);
z0:=StrToFloat(Edit3.Text);
eps:=StrToFloat(Edit20.Text);
i:=1;
x:=0.1-x0*x0+2*y0*z0;
y:=-0.2+y0*y0-3*x0*z0;
z:=0.3-z0*z0-2*x0*y0;
repeat
i:=i+1;
x0:=x;
y0:=y;
z0:=z;
x:=0.1-x0*x0+2*y*z;
y:=-0.2+y0*y0-3*x0*z0;
z:=0.3-z0*z0-2*x0*y0;
until ((abs(x-x0)<eps)and(abs(y-y0)<eps)and(abs(z-z0)<eps));
Edit8.Text:=FloatToStr(x);
Edit9.Text:=FloatToStr(y);
Edit10.Text:=FloatToStr(z);
Edit11.Text:=IntToStr(i);
end;
Преобразование Эйткена на примере метода простых итереций:
> restart;
> x0:=0:
y0:=0:
z0:=0:
> f1:=0.1-x0^2+2*y0*z0;
f2:=-0.2+y0^2-3*x0*z0;
f3:=0.3-z0^2-2*x0*y0;
ff1:=0.1-f1^2+2*f2*f3;
ff2:=-0.2+f2^2-3*f1*f3;
ff3:=0.3-f3^2-2*f1*f2;
x:=(x0*ff1-f1^2)/(ff1-2*f1+x0);
y:=(y0*ff2-f2^2)/(ff2-2*f2+y0);
z:=(z0*ff3-f3^2)/(ff3-2*f3+z0);
i:=1;
while (abs(x-x0)>0.0001)do
x0:=x:
y0:=y:
z0:=z:
f1:=0.1-x0^2+2*y0*z0;
f2:=-0.2+y0^2-3*x0*z0;
f3:=0.3-z0^2-2*x0*y0;
ff1:=0.1-f1^2+2*f2*f3;
ff2:=-0.2+f2^2-3*f1*f3;
ff3:=0.3-f3^2-2*f1*f2;
x:=(x0*ff1-f1^2)/(ff1-2*f1+x0);
y:=(y0*ff2-f2^2)/(ff2-2*f2+y0);
z:=(z0*ff3-f3^2)/(ff3-2*f3+z0):
i:=i+1;
end do:
Получилиответ:
Количество итераций:
3.2 Метод градиентного спуска
Построим функцию:
> U:=(0.1-x^2+2*y*z-x)^2+(-0.2+y^2-3*x*z-y)^2+(0.3-z^2-2*x*y-z)^2;
Найдём градиент функции:
> Ux:= diff(U,x);
Uy:= diff(U,y);
Uz:= diff(U,z);
Выберем начальное приближение и построим итерационную последовательность:
> x:=0;
y:=0;
z:=0;
> N1:=2*(.1-x^2+2*y*z-x)*(-2*x-1)-6*(-.2+y^2-3*x*z-y)*z-4*(.3-z^2-2*x*y-z)*y;
> N2:=4*(.1-x^2+2*y*z-x)*z+2*(-.2+y^2-3*x*z-y)*(2*y-1)-4*(.3-z^2-2*x*y-z)*x;
> N3:=4*(.1-x^2+2*y*z-x)*y-6*(-.2+y^2-3*x*z-y)*x+2*(.3-z^2-2*x*y-z)*(-2*z-1);
> x:=x-lambda*N1;
y:=y-lambda*N2;
z:=z-lambda*N3;
i:=1;
> N1:=2*(.1-x^2+2*y*z-x)*(-2*x-1)-6*(-.2+y^2-3*x*z-y)*z-4*(.3-z^2-2*x*y-z)*y;
N2:=4*(.1-x^2+2*y*z-x)*z+2*(-.2+y^2-3*x*z-y)*(2*y-1)-4*(.3-z^2-2*x*y-z)*x;
N3:=4*(.1-x^2+2*y*z-x)*y-6*(-.2+y^2-3*x*z-y)*x+2*(.3-z^2-2*x*y-z)*(-2*z-1);
x:=x-lambda*N1;
y:=y-lambda*N2;
z:=z-lambda*N3;
> while (abs(N3)>0.0001) do
N1:=2*(.1-x^2+2*y*z-x)*(-2*x-1)-6*(-.2+y^2-3*x*z-y)*z-4*(.3-z^2-2*x*y-z)*y:
N2:=4*(.1-x^2+2*y*z-x)*z+2*(-.2+y^2-3*x*z-y)*(2*y-1)-4*(.3-z^2-2*x*y-z)*x:
N3:=4*(.1-x^2+2*y*z-x)*y-6*(-.2+y^2-3*x*z-y)*x+2*(.3-z^2-2*x*y-z)*(-2*z-1):
x:=x-lambda*N1:
y:=y-lambda*N2:
z:=z-lambda*N3:
i:=i+1:
end do:
Получили ответ:
Количество итераций и данным шагом
:Текстпрограммы:
procedure TForm1.Button1Click(Sender: TObject);
const
lambda=-0.0001;
n=3;
type mas=array[1..n]of real;
var //x,y,z:real;
Xp,nab,v:mas;
i:integer;
eps:real;
function max(x:mas):real;
var s:real;
i:integer;
begin s:=abs(x[1]);
for i:=2 to 4 do if abs(x[i])>s then s:=abs(x[i]);
max:=s;
end;
Procedure add(var a,b:mas);
var
i:integer;
begin
for i:=1 to n do
begin
a[i]:=a[i]+b[i];
end;
end;
Procedure mult(a:mas;c:real;var v:mas);
var
i:integer;
begin
for i:=1 to n do
begin
v[i]:=a[i]*c;
end;
end;
procedure nabla(Xp:mas; var nab:mas);
begin
nab[1]:=2*(0.1-xp[1]*xp[1]+2*xp[2]*xp[3]-xp[1])*(-2*xp[1]-1)-6*(-0.2+xp[2]*xp[2]-3*xp[1]*xp[3]-xp[2])*xp[3]-4*(0.3-xp[3]*xp[3]-2*xp[1]*xp[2]-xp[3])*xp[2];
nab[2]:=4*(0.1-xp[1]*xp[1]+2*xp[2]*xp[3]-xp[1])*xp[3]+2*(-0.2+xp[2]*xp[2]-3*xp[1]*xp[3]-xp[2])*(2*xp[2]-1)-4*(0.3-xp[3]*xp[3]-2*xp[1]*xp[2]-xp[3])*xp[1];
nab[3]:=4*(0.1-xp[1]*xp[1]+2*xp[2]*xp[3]-xp[1])*xp[2]-6*(-0.2+xp[2]*xp[2]-3*xp[1]*xp[3]-xp[2])*xp[1]+2*(0.3-xp[3]*xp[3]-2*xp[1]*xp[2]-xp[3])*(-2*xp[3]-1);
end;
begin
Xp[1]:=StrToFloat(Edit1.Text);
Xp[2]:=StrToFloat(Edit2.Text);
Xp[3]:=StrToFloat(Edit3.Text);
eps:=StrToFloat(Edit20.Text);
repeat
nabla(Xp,nab);
mult(nab,lambda,v);
add(Xp,v);
i:=i+1;
until max(nab)<eps;
Edit4.Text:=FloatToStr(Xp[1]);
Edit5.Text:=FloatToStr(Xp[2]);
Edit6.Text:=FloatToStr(Xp[3]);
Edit7.Text:=IntToStr(i);
//Edit21.Text:=IntToStr(kk);
end;
procedure TForm1.Button3Click(Sender: TObject);
var i:integer;
x0,y0,z0,x,y,z,eps: real;
begin
x0:=StrToFloat(Edit1.Text);
y0:=StrToFloat(Edit2.text);