Итерационный процесс продолжается до тех пор, пока не будет выполнено условие

|x i (k)-x i (k-1) |

Если условие не выполняется, итерации повторяются, приняв x i (k-1) = x i (k)

Алгоритм метода Гаусса-Зейделя

n-количество уравнений; e-точность; a(n,n)-массив коэффициентов; b(n)-массив свободных членов; x(n)-массив решения. Вводится начальное приближение x(n).

Листинг программ

Sub metod_g()

Dim a(1 To 3, 1 To 3)

a(i, j) = Worksheets("Лист2").Cells(i, j).Value

b(i) = Worksheets("Лист2").Cells(i, 5).Value

For k = 1 To n - 1

For i = k + 1 To n

If Abs(a(i, k)) > Abs(a(g, k)) Then g = i

z = a(g, j): a(g, j) = a(k, j): a(k, j) = z

z = b(g): b(g) = b(k): b(k) = z

For i = k + 1 To n

m = a(i, k) / a(k, k)

For j = k + 1 To n

a(i, j) = a(i, j) - m * a(k, j)

b(i) = b(i) - m * b(k)

x(n) = b(n) / a(n, n)

For i = n - 1 To 1 Step -1

For j = i + 1 To n

s = s + a(i, j) * x(j)

x(i) = (b(i) - s) / a(i, i)

Worksheets("Лист2").Cells(i, 9).Value = x(i)

Sub MPI_SLAY()

Dim a(1 To 3, 1 To 3)

x2 = (b(2) - a(2, 1) * x10 - a(2, 3) * x30) / a(2, 2)

x3 = (b(3) - a(3, 1) * x10 - a(3, 2) * x20) / a(3, 3)

Loop While c > e

With Worksheets("Лист2")

Range("J1").Value = x1

Range("J2").Value = x2

Range("J3").Value = x3

Range("J5").Value = k

Sub GausZeid()

Dim a(1 To 3, 1 To 3)

a(i, j) = Worksheets("Лист3").Cells(i, j).Value

b(i) = Worksheets("Лист3").Cells(i, 5).Value

x10 = 0: x20 = 0: x30 = 0

x1 = (b(1) - a(1, 2) * x20 - a(1, 3) * x30) / a(1, 1)

x2 = (b(2) - a(2, 1) * x1 - a(2, 3) * x30) / a(2, 2)

x3 = (b(3) - a(3, 1) * x1 - a(3, 2) * x2) / a(3, 3)

c = Abs(x1 - x10) + Abs(x2 - x20) + Abs(x3 - x30)

Loop While c > e

With Worksheets("Лист2")

Range("K1").Value = x1

Range("K2").Value = x2

Range("K3").Value = x3

Range("K5").Value = k

Для запуска программ нажать на кнопку или на Run .

Полученный результат находится на Листе 2.

Результаты

Выводы

Системы линейных алгебраических уравнений можно решать как с помощью прямых, так и итерационных методов. Для систем уравнений средней размерности чаще используют прямые методы.

Итерационные методы применяют главным образом для решения задач большой размерности, когда использование прямых методов невозможно из-за ограничений в доступной оперативной памяти ЭВМ или из-за необходимости выполнения чрезмерно большого числа арифметических операций.

В данной работе мы рассмотрели 5 методов решения линейных алгебраических уравнений: метод обратной матрицы, Крамера, Гаусса, простой итерации и Гаусса-Зейделя. Первые 3 метода составляют группу прямых методов. Это аналитические методы, в них отсутствует погрешность метода, но погрешность вычислений неизбежна. Тем не менее, методы обратной матрицы и Крамера достаточно просты в алгоритме, тем более нами было найдено решение трехмерной матрицы (небольшая размерность), значения неизвестных сошлись. Что касается метода Гаусса, алгоритм данного метода достаточно громоздкий. Каждая следующая формула вычисления коэффициентов при преобразовании матрицы содержит результат предыдущей формулы, а значит и ее ошибку при вычислении. Наибольшее влияние на эту ошибку оказывает величина знаменателя (коэффициенты главной диагонали) – она не должна быть равна 0 и малой по абсолютной величине. В нашем случае таких предпосылок нет, метод Гаусса был осуществлен с выбором главного элемента, что дает малые невязки.

Система линейных алгебраических уравнений

Системой m линейных уравнений с n неизвестными называется система вида:

где aij и bi (i=1,…,m; b=1,…,n) – некоторые известные числа, а x1,…,xn – неизвестные. В обозначении коэффициентов aij первый индекс i обозначает номер уравнения, а второй j – номер неизвестного, при котором стоит этот коэффициент.

Коэффициенты при неизвестных будем записывать в виде матрицы, которую назовём матрицей системы.

Числа, стоящие в правых частях уравнений, b 1 ,…,b m называются свободными членами.

Совокупность n чисел c 1 ,…,c n называется решением данной системы, если каждое уравнение системы обращается в равенство после подстановки в него чисел c 1 ,…,c n вместо соответствующих неизвестных x 1 ,…,x n .

Наша задача будет заключаться в нахождении решений системы. При этом могут возникнуть три ситуации:

1. Система может иметь единственное решение.

2. Система может иметь бесконечное множество решений. Например,

решением этой системы является любая пара чисел, отличающихся знаком.

3. И третий случай, когда система вообще не имеет решения. Например,

если бы решение существовало, то x 1 + x 2 равнялось бы одновременно нулю и единице.

Система линейных уравнений, имеющая хотя бы одно решение, называется совместной. В противном случае, т.е. если система не имеет решений, то она называется несовместной.

Рассмотрим один из способов нахождения решений системы.

Метод Зейделя для решения СЛАУ

Приведение системы к виду, удобному для итераций. Для того чтобы применить метод Зейделя к решению системы линейных алгебраических уравнений

с квадратной невырожденной матрицей A, необходимо предварительно преобразовать эту систему к виду

Здесь B – квадратная матрица с элементами b ij (i, j = 1, 2, …, n), c – вектор-столбец с элементами c ij (i = 1, 2, …, n).

В развернутой форме записи система имеет следующий вид:

x 1 = b 11x1 + b 12x2 + b 13x3 + … + b 1nxn + c 1

x 2 = b 21x1 + b 22x2 + b 23x3 + … + b 2nxn + c 2

. . . . . . . . . . . . . . . . .

x n = b n1x1 + b n2x2 + b n3x3 + … + b nnxn + c n

Вообще говоря, операция приведения системы к виду, удобному для итераций, не является простой и требует специальных знаний, а также существенного использования специфики системы.

Самый простой способ приведения системы к виду, удобному для итераций, состоит в следующем. Из первого уравнения системы выразим неизвестное x1:

x 1 =а 11–1 (b 1 – a 12x2 – a 13x3 – … – a 1nxn),

из второго уравнения – неизвестное x2:

x 2 = a21–1 (b 2 – a 22x2 – a 23x3 – … – a 2nxn),

и т. д. В результате получим систему

x 1 = b 12x2 + b 13x3 +… + b 1,n–1xn–1 + b 1nxn + c 1 ,

x 2 = b 21x1 + b 23x3 +… + b 2,n–1xn–1 + b 2nxn + c 2 ,

x 3 = b 31x1 + b 32x2 + … + b 3,n–1xn–1 + b 3nxn + c 3 ,

. . . . . . . . . . . . . . . . . . . . . . .

x n = b n1x1 + b n2x2 +b n3x3 +… + b n,n–1xn–1 + c n ,

в которой на главной диагонали матрицы B находятся нулевые элементы. Остальные элементы выражаются по формулам

b ij = –a ij / a ii , c i = b i / a ii (i, j = 1, 2, …, n, j ≠ i)

Конечно, для возможности выполнения указанного преобразования необходимо, чтобы диагональные элементы матрицы A были ненулевыми.

Описание метода. Введем нижнюю и верхнюю треугольные матрицы

0 0 0 … 0 0 b 12 b 13 … b 1 n

b 21 0 0 … 0 0 0 b 23 … b 2 n

B 1 = b 31 b 32 0 … 0 , B­­ 2 = 0 0 0 … b 3 n

. . . . . . . . . . . . . .

b n 1 b n 2 b n 3 …0 0 0 0 … 0

Заметим, что B = B 1 + B 2 и поэтому решение x исходной системы удовлетворяет равенству

x = B 1x + B 2 x + c .

Выберем начальное приближение x(0) = T . Подставляя его в правую часть равенства при верхней треугольной матрице B 2 и вычисляя полученное выражение, находим первое приближение

x(1) = B 1x (0) + B 2x (1)

Подставляя приближение x(1), получим

x(2) = B 1x (1) + B 2x (2)

x(k+1) = B 1 (k+1) + B 2 (k) + c

или в развернутой форме записи

x 1 (k +1) = b 12 x 2 (k ) + b 13 x 2 (k ) + … + b 1 n x n (k ) + c 1 ,

x 2 (k +1) = b 21 x 1 (k +1) + b 23 x 3 (k ) + … + b 2 n x n (k ) + c 2 ,

x 3 (k +1) = b 31 x 1 (k +1) + b 32 x 2 (k +1) + … + b 3 n x n (k ) + c 3 ,

. . . . . . . . . . . . . . . . . . . . . . . . . .

x n (k +1) = b n 1 x 1 (k +1) + b n 2 x 2 (k +1) + b n 3 x 3 (k +1) + … + c n .

Объединив приведение системы к виду, удобному для итераций и метод Зейделя в одну формулу, получим

xi(k+1) = xi(k) – aii–1(∑j=1i–1 aijxj(k+1) + ∑j=1n aijxi(k) – bi).

Тогда достаточным условием сходимоти метода Зейделя будет

∑j=1, j≠i n | aij | < | aii |

(условие доминированния диагонали).

Метод Зейделя иногда называют также методом Гаусса-Зейделя, процессом Либмана, методом последовательных замещений.

Этот метод является модификацией метода простых итераций и в некоторых случаях приводит к более быстрой сходимости.

Итерации по методу Зейделя отличаются от простых итераций тем, что при нахождении i-й компоненты (k+1)-го приближения сразу используются уже найденные компоненты (к +1) -го приближения с меньшими номерами. При рассмотрении развернутой формы системы итерационный процесс записывается в виде

Теорема о достаточном условии сходимости метода Зейделя . Если для системы какая-либо норма матрицы меньше единицы, т.е. ,то процесс последовательных приближений (10.15) сходится к единственному решению исходной системы при любом начальном приближении .

Записывая (1) в матричной форме, получаем

где являются разложениями матрицы

Преобразуя (2) к виду , получаем матричную форму итерационного процесса метода Зейделя:

Тогда достаточное, а также необходимое и достаточное условия сходимости будут соответственно такими:

Замечания:

1. Для обеспечения сходимости метода Зейделя требуется преобразовать систему к виду с преобладанием диагональных элементов в матрице А (метод простых итераций).

2. Процесс (2) называется последовательным итерированием, так как на каждой итерации полученные из предыдущих уравнений значения подставляются в последующие. Как правило, метод Зейделя обеспечивает лучшую сходимость, чем метод простых итераций (за счет накопления информации, полученной при решении предыдущих уравнений). Метод Зейделя может сходиться, если расходится метод простых итераций, и наоборот.

3. Преимуществом метода Зейделя, как и метода простых итераций, является его "самоисправляемость".

4. Метод Зейделя имеет преимущества перед методом простых итераций, так как он всегда сходится для нормальных систем линейных алгебраических уравнений, т.е. таких систем, в которых матрица А является симметрической и положительно определенной. Систему линейных алгебраических уравнений с невырожденной матрицей А всегда можно преобразовать к нормальной, если ее умножить слева на матрицу . Система является нормальной.

Под методом Зейделя обычно понимается такое видоизменение метода простых итераций (6.3) решения СЛАУ, приведенных к виду (6.2), при котором для подсчета -й компоненты -го приближения к искомому вектору используются уже найденные на этом, т.е. -м шаге, новые значения первых компонент. Это означает, что если система (6.1) тем или иным способом сведена к системе (6.2) с матрицей коэффициентов и вектором свободных членов , то приближения к ее решению по методу Зейделя определяются системой равенств

(6.12)

где , a – компоненты заданного (выбранного) начального вектора .

Остановимся подробнее на случае, когда приведение системы (6.1) к виду (6.2) основано на представлении (6.7), т. е. когда метод Зейделя есть модификация метода Якоби. Запись соответствующих расчетных формул здесь сводится к верхней индексации системы (6.10) по типу (6.12):

(6.13)

где ; задается.

Для анализа сходимости метода Зейделя (6.13) обратимся к его векторно-матричной форме. Легко видеть, что если неявный вид метода Якоби, вытекающий из представления (6.7) системы (6.1), есть

(сравните с (6.9)),

то равнозначный (6.13) неявный вид метода Зейделя в векторно-матричных обозначениях суть

.

Следовательно, тот же вектор ,который фигурирует в левой части совокупности равенств (6.13), может быть получен по формуле

(6.14)

Последнее выражение определяет не что иное, как МПИ (6.3) для системы вида (6.2), где

т. е. результат применения одного шага метода Зейделя (6.13), полученного на основе – разложения матрицы ,можно расценивать, как шаг МПИ для эквивалентной (6.1) задачи о неподвижной точке

(разумеется, если треугольная матрица обратима). Эта связь между методом Зейделя и методом простых итераций позволяет легко переформулировать некоторые утверждения о сходимости МПИ применительно к методу Зейделя (6.13).

Теорема 6.5. Для сходимости метода Зейделя (6.13) необходимо и достаточно, чтобы все корни уравнения

(6.16)

были по модулю меньше единицы.

Прямым следствием теоремы 6.2 для метода Зейделя (6.13) является следующая теорема.

Теорема 6.6. Пусть . Тогда при любом начальном векторе метод Зейделя (6.13) сходится к решению системы (6.1) и справедливы оценки погрешности

Ясно, что для непосредственного использования оценок (6.17) нужно предварительно выполнить обращение треугольной матрицы и перемножить матрицы и . В таком случае частично теряется смысл в поэлементной реализации метода Зейделя (6.13) ;вместо этого можно проводить итерации по формуле (6.14) до тех пор, пока не выполнится условие , где – требуемая точность. В частности, такой подход может быть рекомендован при решении СЛАУ методом Зейделя на компьютерах с векторной обработкой информации.

Более подходящие для использования оценки погрешности метода Зейделя (6.13) можно получить, разлагая матрицу (см. (6.11)) в сумму двух строго треугольных матриц, т.е. полагая

,где

, .

С ними эквивалентное (6.1) уравнение (6.2) приобретает вид ,

т.е. для решения будет точным равенство ,

а метод Зейделя (6.13) – соответственно .

Из двух последних равенств получаем следующее:

Это равенство, записанное в виде (6.18)

можно расценивать как точную связь между погрешностями -го и -го приближений в методе Зейделя (6.13). Отсюда, переходя к нормам, легко вывести априорную оценку погрешности, что можно оформить в виде следующего утверждения.

Теорема 6.7 .Пусть . Тогда метод Зейделя (6.13) определяет сходящуюся последовательность при любом начальном векторе , и имеет место оценка

Как и у предыдущей, у этой теоремы имеются свои недостатки, затрудняющие ее применение: нужно знать меру близости начального приближения к решению . Ценность ее скорее в том, что в ней фигурирует легко вычисляемый коэффициент связи ошибок результатов двух соседних итерационных шагов, характеризующий быстроту сходимости метода Зейделя (6.13). При организации практических вычислений по формулам (6.13) целесообразнее ориентироваться на следующий результат.

Теорема 6.8. Пусть , (где – матрица (6.11)). Тогда для определяемой методом Зейделя (6.13) последовательности приближений справедлива апостериорная оценка погрешности

.

Из теоремы 6.8 вытекает следующая, более удобная на практике, формулировка.

Следствие 6.1. Пусть –первое из натуральных чиселk , с которым при заданном для генерируемой процессом Зейделя (6.13) последовательности векторов некоторых согласованных нормах выполняется равенство .

Метод итераций и метод Зейделя

Метод итераций позволяет получить последовательность приближенных значений, сходящуюся к точному решению системы линейных уравнений. В отличие от метода Гаусса, метод итераций не требует контроля промежуточных вычислений, так как отдельные ошибки на каком-либо шаге итерации не искажают окончательных результатов, хотя и удлиняет процесс счета. Иначе говоря, метод итераций решения систем линейных уравнений является самоисправляющимся. Кроме того, метод итераций легко запрограммировать для ЭВМ. Пусть имеем систему

или, короче,

. (3.8)

Предположим, что определитель системы отличен от нуля и что диагональные коэффициенты

Выразим из первого уравнения , из второго , и т. д. Тогда получим эквивалентную систему:

где

Полученную систему запишем так:

(3.9)

и назовем ее системой нормального вида.

Будем решать ее методом последовательных приближений. За нулевое приближение возьмем, например, столбец свободных членов

Подставив в правую часть системы (3.9) значения , получим первое приближение:

.

Затем аналогично второе: и т.д.

Таким образом, зная - e приближение, ()-е приближение вычисляют по формуле:

(3.10)

Если последовательность приближений имеет предел

то является точным решением системы нормального вида, а значит, и исходной системы. В самом деле, переходя к пределу при в (3.10), имеем:

Описанный метод последовательных приближений называется методом итераций. Рабочие формулы метода итераций имеют вид:

(3.11)

Существование предела

гарантирует теорема о достаточном признаке сходимости процесса итераций.

Достаточным условием сходимости итерационных методов является условие

(3.12)

При методе Зейделя итерационный процесс подобен описанному для метода простых итераций, однако уточненные значения сразу подставляются в последующие уравнения. Формула итерационного процесса имеет вид:

Контрольные вопросы

1. К какому виду преобразуют исходную систему для применения метода итераций?

2. В чем преимущество метода итераций перед другими методами?

3. Каковы условия применимости данного метода?

4. Какова скорость сходимости последовательности векторов к решению?

5. Сформулируйте условие окончания вычислений в методе простых итераций?

6. Какова общая постановка задачи решения систем линейных уравнений?

7. Что такое ранг матрицы?

8. Сформулируйте условие существования решения и условие единственности решения.

9. Что такое эквивалентное преобразование системы? Какие они бывают?

10. Почему при добавлении к строке линейной комбинации других строк решение не меняется?

11. С чем связана необходимость переставлять местами уравнения системы при решении?

12. Когда целесообразно применять метод Гаусса?

13. Какова цель прямого хода в методе Гаусса?

14. Как выполняется обратный ход метода Гаусса?

15. На каком ходе, прямом или обратном, необходимо учитывать условия применения метода Гаусса?

16. Объясните алгоритм схемы единственного деления.

17. Объясните алгоритм схемы с частичным выбором ведущего коэффициента по столбцу.

18. Расскажите о достоинствах и недостатках схемы с полным выбором ведущего коэффициента.

19. Объясните зависимость временных затрат от размера системы.

20. Объясните зависимость ошибок от размера системы.

21. Когда система линейных алгебраических уравнений имеет единственное решение?

22. Каковы недостатки решения системы уравнений по правилу Крамера?

23. Охарактеризуйте точные и приближенные численные методы решения систем линейных алгебраических уравнений.

24. Опишите метод Гаусса с выбором главного элемента.

25. Почему метод простой итерации называется самоисправляющимся?

26. Дайте определение сходимости итерационного процесса.

27. Опишите метод Зейделя.

28. Точные методы решения систем линейных уравнений

29. Приближенные методы решения систем линейных уравнений

30. Правило Крамера.

1. Преобразовать систему к виду одним из описанных способов.

2. Задать начальное приближение решения произвольно или положить , а также малое положительное число (точность). Положить .

3. Произвести расчеты по формуле (1)или (2) и найти .

(1)

4. Если выполнено условие окончания , процесс завершить и в качестве приближенного решения задачи принять . Иначе положить и перейти к пункту 3.

Решение систем нелинейных уравнений (СНУ).

Запишем систему n нелинейных уравнений с n неизвестными (СНУ) в общем виде:

f 1 (x 1 , x 2 , …, x n) = 0

f 2 (x 1 , x 2 , …, x n) = 0 (5.1)

f n (x 1 , x 2 , …, x n) = 0

Эту систему можно записать в компактной, операторной форме:

вектор-функция

вектор неизвестных

Решением системы называется набор значений ,(векторX *), при которых все функции f i равны 0 (система (5.1) обращается в тождество.)

СНУ могут иметь единственное решение, множество решений или вообще не иметь его. Поэтому численное решение СНУ проводят в два этапа:

1 этап – отделение решений.

2 этап – уточнение всех или только нужных решений.

Отделить решения – значит установить количество решений, определить приближенные значения каждого из них или указать область, в которой решение существует и является единственным.

Задача отделения решений достаточно просто решается только для системы двух уравнений с двумя неизвестными.

f 1 (x 1 , x 2) = 0

f 2 (x 1 , x 2) = 0

Для этого необходимо в координатах (x 1 , x 2) построить кривые

f 1 (x 1 ,х 2) = 0, f 2 (x 1 ,х 2) = 0.

Точки пересечения этих кривых являются решениями системы . Так как координаты точек пересечения определяются приближенно, целесообразно говорить об области существования решения D. Эта область задается интервалами по каждой координате, внутри которых находятся искомые значения неизвестных.

Имеется два решения.

D 1 – область существования первого решения.

D 1 = {a 1 < x 1 < b 1 , a 2 < x 2 < b 2 }.

Графическое отделение решений СНУ.

Для систем с большим числом неизвестных (n  3) удовлетворительных общих методов определения области существования решения нет. Поэтому при решении СНУ эта область обычно определяется при анализе решаемой задачи, например, исходя из физического смысла неизвестных.

Отделение решений позволяет:

Выявить число решений и область существования каждого из них.

Проанализировать возможность применения выбранного метода решения СНУ в каждой области.

Выбрать начальное приближение решения X (0) из области его существования, так что X (0) D.

При отсутствии информации об области существования решения СНУ выбор начального приближения X (0) проводиться методом проб и ошибок (методом “тыка”).

Постановка задачи.

Требуется решить систему нелинейных уравнений . В координатном виде эту задачу можно записать так: , где 1 ≤ k ≤ n .

Убедиться в существовании решения и количестве корней, а также выбрать нулевое приближение в случае системы двух уравнений с двумя неизвестными можно, построив графики функций в удобных координатах. В случае сложных функций можно посмотреть поведение аппроксимирующих их полиномов. Для трех и более неизвестных, а также для комплексных корней, удовлетворительных способов подбора начального приближения нет.

Метод простых итераций.

Как и в случае одного уравнения, метод простых итераций заключается в замене исходной системы уравнений

f 1 (x 1 , x 2 , …, x n) = 0

f 2 (x 1 , x 2 , …, x n) = 0

f n (x 1 , x 2 , …, x n) = 0 (5.1)

эквивалентной системой X=Φ(X) –(5.3) и построении итерационной последовательности

(5.4)-X (k) = Φ(X (k -1)) , где k=1,2,3,… - номер итерации,которая при k→∞ сходится к точному решению.

Здесь - итерирующая вектор-функция, X (0) D – начальное приближение решения.

В развернутом виде формула итерационного процесса (выражение для вычисления очередного k-го приближения решения) имеет вид:

x i. (k) = φ i (x 1 (k-1) , x 2 (k-1) , … , x n (k-1)), .(5.5)

Условие окончания расчета

δ≤ε (5.6)

где ε  заданная точность решения;

δ = (5.7)

Итерационный процесс (5.5) сходиться к точному решению, если в окрестности решения соблюдаются условия сходимости:

Таким образом, для уточнения решения СНУ методом простых итераций нужно найти такое эквивалентное преобразование (5.1) в (5.3), чтобы в области существования решения выполнялись условия (5.9) или (5.10).

В простейшем случае эквивалентную систему можно получать как.