数値解析

📚 コンテンツ概要

数値近似技術の理論と応用について網羅的に解説した教科書。数学的準備、誤差解析、方程式の解法、補間、微分方程式の数値解法を扱う。

現代の数値近似技術の芸術と科学を習得しよう。

著者: Richard L. Burden, J. Douglas Faires

謝辞: ヤングスタウン州立大学およびジョン・カーロル（ダブリン市立大学）をはじめとする多数の寄与者、およびマリオ・スラチッチなどの学生アシスタントたちの支援を受けている。

🎯 学習目標

1. 中間値の定理およびロールの定理を適用し、解の存在性と一意性を証明する。
2. テイラー多項式を構築し、剰余項を用いて数値近似の厳密な誤差限界を設定する。
3. 四捨五入と切り捨て算術の違いを区別し、浮動小数点システムにおける絶対誤差と相対誤差を計算する。
4. 二分法、固定点反復法、ニュートン法、セカント法、偽位置法を用いて根を近似する。
5. 各種反復法の収束次数と誤差限界を分析する。
6. アイトケンの \Delta^2 法およびステフンセン法を用いて線形列の収束を加速する。
7. ワイエアシュトラス近似定理を述べ、関数近似へのその意味を説明する。
8. 与えられたデータセットに対して ラグランジュ、ニュートンの差分商、および エルミート補間多項式 を構築する。
9. ネヴィル法を用いて逐次的に多項式近似を生成する。
10. 数値微分公式（三ポイント型）の導出と誤差推定の応用。

🔹 レッスン1：数学的準備と誤差解析

概要: このレッスンでは、理論的な微積分と実践的な数値計算との間に橋渡しとなる基盤を確立する。数値誤差評価に用いられる基本的な微積分定理（テイラーの定理、平均値の定理など）を復習した後、コンピュータ算術の制約に移行する。学生は誤差を定量的に評価し、有効数字のキャンセルといった精度喪失の原因を特定し、ビッグオー表記を用いたアルゴリズムの効率評価方法を学ぶ。

学習成果:

• 中間値の定理およびロールの定理を適用し、解の存在性と一意性を証明する。
• テイラー多項式を構築し、その剰余項を用いて数値近似の厳密な誤差限界を設定する。
• 四捨五入と切り捨て算術の違いを区別し、浮動小数点システムにおける絶対誤差と相対誤差を計算する。

🔹 レッスン2：1変数方程式の解法

概要: このレッスンでは、関数 f(x) = 0 の零点を見つけるための数値手法を検討する。これは科学計算における基礎的な問題である。安定だが遅い二分法から、急速に収束するニュートン法まで、段階的な手法の進化を扱う。さらに、反復収束の誤差解析、多重根の取り扱い、およびミュラー法やホーナー法といった多項式専用アルゴリズムといった高度なトピックにも触れる。

学習成果:

• 二分法、固定点反復法、ニュートン法、セカント法、偽位置法を用いて根を近似する。
• 各種反復法の収束次数と誤差限界を分析する。
• アイトケンの \Delta^2 法およびステフンセン法を用いて線形列の収束を加速する。

🔹 レッスン3：補間と多項式近似

概要: このレッスンでは、連続関数を代数的多項式で近似する手法を扱う。ワイエアシュトラス近似定理の理論的基盤から始まり、ラグランジュ形式とニュートンの差分商形式の補間、ネヴィルの逐次法、およびエルミート多項式へと進む。最後に、立方スプライン補間とパラメトリック曲線を紹介し、高次の全域多項式が引き起こす振動問題を回避する方法を示す。これは曲線適合などの実用的応用において重要である。

学習成果:

• ワイエアシュトラス近似定理を述べ、関数近似へのその意味を説明する。
• 与えられたデータセットに対して ラグランジュ、ニュートンの差分商、および エルミート補間多項式 を構築する。
• ネヴィル法を用いて逐次的に多項式近似を生成する。

🔹 レッスン4：数値微分と積分

概要: このレッスンでは、解析解が困難または不可能な数学的問題に対処するために必要な導関数および積分の数値近似を扱う。三ポイント公式による高精度な微分とリチャードソンの外挿法を学び、ニュートン-コーツ積分法（台形則、シンプソン則）へと進み、ロムバーグ法、適応的積分法、ガウス求積法といった高度な四則法を習得する。最後には、重積分および不正則積分の数値的取り扱いも含める。

学習成果:

• 三ポイント型数値微分公式の導出と誤差推定の応用。
• リチャードソンの外挿法を用いて数値近似の精度順序を向上させる。
• コンポジット数値積分規則および適応的四則法を実装し、複雑な関数変化に対応する。

🔹 レッスン5：常微分方程式の初期値問題

概要: このレッスンでは、初期値問題（IVP）の数値近似を扱う。まず、適切な問題設定とリプシッツ条件に関する理論的基盤を提示し、オイラー法などの初歩的手法から、ルンゲ-クッタ法、マルチステップ法、外挿法、安定性解析といった高度な技術へと展開する。最後には、連立微分方程式や剛性方程式が引き起こす特殊な課題にも言及する。

学習成果:

• リプシッツ条件および存在・一意性定理を用いて、初期値問題が適切に定義されているかを判定する。
• オイラー法、テイラー法、ルンゲ-クッタ法といった1ステップ法と、アダムス-バシフォース法、アダムス-モルトン法といったマルチステップ法の実装と誤差解析を行う。
• ルンゲ-クッタ-フェルブルグ法や可変ステップサイズといった適応的手法と外挿法を用いて、指定された誤差許容範囲内で微分方程式を解く。

🔹 レッスン6：連立一次方程式の直接解法

概要: このレッスンでは、連立一次方程式を解くための体系的なアルゴリズム的アプローチを扱う。基本的なガウスの消去法から、高度な行列因子分解技術へと進む。ピボット選択による数値的安定性の維持、行列の代数的性質（逆行列、行列式）の分析、工学・科学的文脈での効率的な計算に適した特別な因子分解（LU、LDL^t、コレスキー、クラウト）の実装も学ぶ。

学習成果:

• 後退代入を伴うガウス消去法を実行し、その演算量の複雑さを評価する。
• パーシャルピボット選択およびスケーリング付きパーシャルピボット選択戦略を実装し、丸め誤差を最小化する。
• 行列の逆行列と行列式を行基本操作および余因子を用いて計算する。

🔹 レッスン7：行列代数における反復法

概要: このレッスンでは、大規模な連立一次方程式の解法において、直接法から反復法への移行を扱う。ベクトルおよび行列の大きさをノルムで測定し、スペクトル半径を用いた収束基準を決定する。ジャコビ法、ガウス＝ザイデル法、逐次超緩和法（SOR）といった基本的な反復アルゴリズムを実装する。さらに、反復精製、誤差限界、および前処理を施した共役勾配法といった極めて効率的な手法により、数値的安定性を確保する。

学習成果:

• ベクトルおよび行列ノルム（l_2 および l_\infty）を計算し、行列のスペクトル半径を評価して収束性を判断する。
• A\mathbf{x} = \mathbf{b} の解法に向けたジャコビ法、ガウス＝ザイデル法、SOR法を実装し、比較する。
• 条件数を用いて誤差限界を推定し、反復精製を適用して近似解の精度を向上させる。

🔹 レッスン8：近似理論

概要: このレッスンでは、正確な表現が得られないあるいは計算的に非現実的な場合に、関数やデータセットを近似する手法を考察する。離散最小二乗法を通じて誤差を最小化し、直交多項式およびチェビシェフ多項式の効率性を活用する。これらの技術を有理関数近似および三角関数近似に拡張し、最終的に高性能な高速フーリエ変換（FFT） アルゴリズムに至る。

学習成果:

• 離散線形および多項式最小二乗近似に対する正規方程式を構築し、解く。
• グラム-シュミット過程を用いて直交多項式基底を生成し、病的な状態のシステムを避ける。
• チェビシェフ多項式を用いて最大補間誤差を最小化し、多項式の経済化を行う。

🔹 レッスン9：固有値の近似

概要: このレッスンでは、大規模行列に対して特性多項式の記号的根を求めることは計算上困難または不可能なため、固有値の数値的近似手法に焦点を当てる。ゲルシュゴリン円板定理を用いて固有値の領域を局在化し、パワー法および逆パワー法といった反復的手法で主固有値や特定固有値を求める。また、ハウスホルダー法およびQRアルゴリズムといった構造的変換、および特異値分解（SVD）を用いて、行列の包括的解析を行う。

学習成果:

• ゲルシュゴリン円板定理を用いて、複素平面内における固有値の位置を局在化する。
• アイトケンの加速を用いたパワー法および逆パワー法を実装し、主固有値およびシフトされた固有値を求める。
• ハウスホルダー法を用いて対称行列を三重対角行列に簡略化し、QRアルゴリズムですべての固有値を求める。

🔹 レッスン10：非線形方程式系の数値解法

概要: このレッスンでは、単変数の根の探索から、非線形方程式系の解法へと移行する。ベクトル \mathbf{x} に対して \mathbf{F}(\mathbf{x}) = \mathbf{0} を満たすものを求めることが主要な目的である。多変数の固定点反復、ヤコビ行列に基づくニュートン法、計算効率の高い準ニュートン法（特にブロイデン法）、そして最急降下法やホモトピー/連続法といった強力な手法を用いて、初期近似の探索や標準的手法が失敗する場合の対処も学ぶ。

学習成果:

• 多変数関数に対する固定点反復を定義し、定理10.6を用いて収束基準を決定する。
• 非線形系のヤコビ行列を構成し、ニュートン法を実装して2次収束を達成する。
• シェルマン-モリソン公式を用いてヤコビ行列の逆行列を効率的に更新するブロイデン法を実行する。

🔹 レッスン11：常微分方程式の境界値問題

概要: このレッスンでは、異なる点に境界条件が設定される2階境界値問題（BVP）の数値的解法を扱う。初期値問題とは異なり、境界条件が両端に配置されるという特徴を持つ。学生は線形および非線形シューティング法を用いてBVPを解くシステムに変換し、有限差分法による離散近似、レイリー-リッツ法による変分的手法を学ぶ。これらの手法は、構造工学（梁のたわみ）や物理学（静電ポテンシャル）における実世界の問題解決に不可欠である。

学習成果:

• 定理11.1を用いて境界値問題の解の存在性と一意性を判定する。
• 線形シューティング法を用いて2階の境界値問題を2つの初期値問題（IVP）に変換する。
• ニュートン法を用いて非線形シューティング問題を逐次的に解く。

🔹 レッスン12：偏微分方程式の数値解法

概要: このレッスンでは、3つの主要なタイプの偏微分方程式（PDE）——楕円型、放物型、双曲型——の数値近似を扱う。有限差分法を用いて、連続領域をメッシュグリッドに離散化し、微分演算子を代数的方程式系に変換する。重点は、時間依存法の安定性（前進差分法とクランク-ニコルソン法の比較）および定常状態系の反復解法（ポアソン方程式およびラプラス方程式）にある。

学習成果:

• さまざまなPDEタイプに対して、空間および時間領域を有限差分グリッドで離散化する。
• 放物型熱方程式に対して前進差分法、後進差分法、クランク-ニコルソン法を適用し、安定性制約を評価する。
• 楕円型方程式（ポアソン／ラプラス）および双曲型波動方程式から導かれる線形方程式系を構築し、解く。