ガウス＝ザイデル法

数値線形代数におけるガウス＝ザイデル法（ガウス＝ザイデルほう、英: Gauss-Seidel method）とは${\displaystyle n}$元の連立一次方程式${\displaystyle A{\vec {x}}={\vec {b}}}$を反復法で解く手法の1つである。

解説

${\displaystyle n}$次正方行列${\displaystyle A}$は、上三角行列${\displaystyle U}$、下三角行列${\displaystyle L}$、対角行列を${\displaystyle D}$とすると、A=L+D+Uと書ける。このようにすると、まず以下のような変形ができる。

${\displaystyle {\begin{array}{ccc}(L+D+U){\vec {x}}&=&{\vec {b}}\\(L+D){\vec {x}}&=&{\vec {b}}-U{\vec {x}}\\\end{array}}}$

この式を満たすxを求める。初期値${\displaystyle {\vec {x}}^{(0)}}$に対して、 ${\displaystyle k}$回目の反復で得られた${\displaystyle x_{1}}$の値を${\displaystyle x_{1}^{(k)}}$と書くと、 以下のような反復法の漸化式ができる。

${\displaystyle (L+D){\vec {x}}^{(k+1)}={\vec {b}}-U{\vec {x}}^{(k)}}$

この式は以下のように変形できる。

${\displaystyle {\vec {x}}^{(k+1)}=D^{-1}({\vec {b}}-L{\vec {x}}^{(k+1)}-U{\vec {x}}^{(k)})}$

もし、解が収束した場合、その場合は${\displaystyle x_{1}^{(k+1)}}$と${\displaystyle x_{1}^{(k)}}$は共通の値${\displaystyle x_{1}^{(*)}}$を持つことになる。このとき、

${\displaystyle {\vec {x}}^{(*)}=D^{-1}({\vec {b}}-L{\vec {x}}^{(*)}-U{\vec {x}}^{(*)})}$

となり、変形していくと元の連立方程式の形に戻る。 したがって、ガウス＝ザイデル法で解が収束した場合、その解は連立方程式の解となる。

ガウス＝ザイデル法の式はベクトル${\displaystyle {\vec {x}}}$の各成分ごとに次のような式で書くことができ、数値解析ではこの式が用いられる。

${\displaystyle x_{i}^{(k+1)}={\frac {1}{a_{ii}}}\left(b_{i}-\sum _{j=1}^{i-1}a_{ij}x_{j}^{(k+1)}-\sum _{j=i+1}^{n}a_{ij}x_{j}^{(k)}\right)}$

ガウス＝ザイデル法とヤコビ法を加速する方法としてはSOR法が知られている。

収束性

ガウス＝ザイデル法は、係数行列が正定値対称ならば収束する。

また、係数行列の各行で非対角要素の絶対値の和が対角要素の絶対値よりも小さい場合：

${\displaystyle \left|a_{ii}\right|>\sum _{i\neq j}{\left|a_{ij}\right|}.}$

すなわち対角優位な行列ならば収束する（これはヤコビ法も同様である）。

係数行列が正定値対称ならばガウス＝ザイデル法が収束することを利用して、${\displaystyle A{\vec {x}}={\vec {b}}}$を解く代わりに、同値である${\displaystyle A^{T}A{\vec {x}}=A^{T}{\vec {b}}}$を解く方法が考えられる。 この方法は${\displaystyle {\vec {x}}}$の第i行要素${\displaystyle x_{i}}$を更新するごとに確実に残差が減少する反面、条件数がもとの行列${\displaystyle A}$の条件数の二乗になるため収束は遅くなる傾向となる。

上記のように${\displaystyle A{\vec {x}}={\vec {b}}}$の代わりに${\displaystyle A^{T}A{\vec {x}}=A^{T}{\vec {b}}}$を解く方法は非対称、非正定値行列を共役勾配法で解く際のテクニックにも利用される。 しかしながらCG法においても条件数が増加することにより収束性は悪化する。

具体例

3元の連立一次方程式、すなわち、

${\displaystyle \left({\begin{array}{ccc}a_{11}&a_{12}&a_{13}\\a_{21}&a_{22}&a_{23}\\a_{31}&a_{32}&a_{33}\end{array}}\right)\left({\begin{array}{c}x_{1}\\x_{2}\\x_{3}\end{array}}\right)=\left({\begin{array}{c}b_{1}\\b_{2}\\b_{3}\end{array}}\right)}$

を解くことを考える。${\displaystyle k}$回目の反復で得られた${\displaystyle x_{1}}$の値を${\displaystyle x_{1}^{(k)}}$と書く。 初期値${\displaystyle {\vec {x}}^{(0)}}$は、適当な値、例えばゼロベクトルでもかまわない。

${\displaystyle x_{1}^{(k+1)}=(b_{1}-a_{12}x_{2}^{(k)}-a_{13}x_{3}^{(k)})/a_{11}}$

${\displaystyle x_{2}^{(k+1)}=(b_{2}-a_{21}x_{1}^{(k+1)}-a_{23}x_{3}^{(k)})/a_{22}}$

${\displaystyle x_{3}^{(k+1)}=(b_{3}-a_{31}x_{1}^{(k+1)}-a_{32}x_{2}^{(k+1)})/a_{33}}$

という反復を繰り返していく。 ここで、2番目の式で${\displaystyle x_{1}^{(k+1)}}$が使われていることに注意する。 次々に新しい${\displaystyle x_{i}^{(k+1)}}$を求めては、次の式で使われる。 このために、ガウス＝ザイデル法は、このままでは並列計算できないので、 上記の反復式の右辺の${\displaystyle x_{i}^{(k+1)}}$の代わりに${\displaystyle x_{i}^{(k)}}$を使う、 すなわち、新しい${\displaystyle {\vec {x}}^{(k+1)}}$を別の場所に記憶しておいて、 一斉に${\displaystyle {\vec {x}}}$を更新するヤコビ法を使用する。

ヤコビ法は、直列計算ではガウス＝ザイデル法よりも遅いが、容易に並列計算できる。

関連項目

• 反復法 (数値計算) - ヤコビ法, SOR法

表 話 編 歴 線型代数学・行列解析
連立一次方程式	ガウスの消去法 クラメルの公式 ガウス＝ザイデル法 ヤコビ法
ベクトル	線型独立 線型結合 基底 双対基底
ベクトル空間	双対空間 核空間 固有空間 広義固有空間 線型包 行空間 列空間 次元
計量ベクトル空間	ドット積 コーシー＝シュワルツの不等式 直交 正規直交系 正規直交基底 グラム・シュミットの正規直交化法 直交補空間
行列・線型写像	演算・操作 乗法 転置 逆行列 サラスの方法 基本変形 対角化 分解 LU QR コレスキー シューア 特異値 固有値 不変量 行列式 跡 階数 固有値と固有ベクトル 固有多項式 最小多項式 単因子 階数標準形 スミス標準形 ジョルダン標準形 有理標準形 小行列式 クラス 正則 基本 対称 エルミート 正規 直交 回転 ユニタリ 冪零 射影 正定値 ユニモジュラー 置換 区分
行列式	余因子展開 余因子行列 ヴァンデルモンドの行列式 終結式 コーシー・ビネの公式
多重線型代数	外積 外積代数 対称代数 テンソル代数
数値線形代数	基本的な概念 浮動小数点 数値的安定性 疎行列 Z-行列 M行列 条件数 ゲルシュゴリンの定理 クリロフ部分空間 ソフトウェア MATLAB 数値解析ソフトの比較/一覧 ライブラリ Armadillo Basic Linear Algebra Subprograms (BLAS) INTLAB Intel oneAPI Math Kernel Library LAPACK NumPy OpenBLAS 線型代数学ライブラリの比較 反復法・技法 SOR法 共役勾配法 GMRES法 固有値問題の数値解法 ランチョス法 QR法 べき乗法 逆べき乗法 ヤコビ法 (固有値問題) シュトラッセンのアルゴリズム ハウスホルダー変換 ギブンス回転 人物 ジェームズ・H・ウィルキンソン クリーブ・モラー ニコラス・ハイアム ジーン・ゴラブ リチャード・バルガ
行列値関数	行列指数関数 行列の対数 行列の平方根
その他	スカラー ケイリー・ハミルトンの定理 ペロン＝フロベニウスの定理 シューア補行列 シルヴェスターの慣性法則
カテゴリ