線形代数入门

📚 コンテンツ概要

ベクトル、行列、線形方程式、ベクトル空間、直交性、行列式、固有値を扱う現代的な線形代数の入門書であり、理論と応用の両方を重視しています。

ギルバート・ストラングによる直感的で厳密な枠組みを通じて、線形代数の基礎と応用をマスターしよう。

著者: ギルバート・ストラング

謝辞: マサチューセッツ工科大学；ウェルズリー・キャンブリッジプレス

🎯 学習目標

1. 線形結合、内積、ベクトルの長さ、ベクトル間の角度を計算する。
2. ベクトルの集合が形成する幾何的配置（直線、平面、体積）を記述する。
3. 行列-ベクトル積を使って線形方程式を解き、逆行列および特異行列の役割を解釈する。
4. システムの行の図（交わる平面）と列の図（ベクトルの線形結合）の違いを区別する。
5. ガウスの消去法を使ってシステムを上三角形形式（U）に変形し、後退代入で解く。
6. 初等行列（E_{ij}）および置換行列（P_{ij}）を使って消去手順を形式化する。
7. ベクトルの部分集合が部分空間であるための条件を満たすかを識別する。
8. 行簡約によって既約行階段形（R）に到達し、ランク、ピボット列、自由変数を特定する。
9. 特殊解から零空間行列 N を構成し、線形システムの完全解を記述する。
10. 四つの基本部分空間の直交性を識別・証明し、直交補空間を決定する。

🔹 レッスン1: ベクトルと線形結合の基礎

概要: このレッスンでは、線形代数の基盤となるベクトル演算とその幾何的解釈を扱います。基本的な線形結合や内積から始まり、行列の代数的構造、線形方程式（Ax = b）、ベクトルの独立性および行列の可逆性という重要な概念へと移行します。学生は \mathbb{R}^3 におけるベクトルの代数的計算と幾何的実態の間を行き来する方法を学びます。

学習成果:

• 線形結合、内積、ベクトルの長さ、ベクトル間の角度を計算する。
• ベクトルの集合が形成する幾何的配置（直線、平面、体積）を記述する。
• 行列-ベクトル積を使って線形方程式を解き、逆行列および特異行列の役割を解釈する。

🔹 レッスン2: 線形方程式系と行列因子分解

概要: このレッスンでは、線形方程式系の幾何的解釈から、行列代数による計算的解決への移行を扱います。ガウスの消去法のメカニズム、初等行列による行操作の形式化、そしてそれらプロセスの結晶としての基本的な行列因子分解（LU、PA=LU、LDL^T）について詳述します。理論的な線形性と実際の実装の橋渡しを行い、計算コストやソフトウェア固有の実行も含めて説明します。

学習成果:

• システムの行の図（交わる平面）と列の図（ベクトルの線形結合）の違いを区別する。
• ガウスの消去法を使ってシステムを上三角形形式（U）に変形し、後退代入で解く。
• 初等行列（E_{ij}）および置換行列（P_{ij}）を使って消去手順を形式化する。

🔹 レッスン3: ベクトル空間と四つの基本部分空間

概要: このレッスンでは、線形代数の構造的基盤であるベクトル空間および部分空間の定義と要件を扱います。学生は既約行階段形（R）を使って方程式 Ax=0 を解き、ピボット変数と自由変数を特定し、「特殊解」を導出し、それが零空間の基底を形成することを学びます。最終的に、線形代数の基本定理に至り、列空間、行空間、零空間、左零空間の四つの基本部分空間の次元と性質をつなぎます。

学習成果:

• ベクトルの部分集合が部分空間であるための条件を満たすかを識別する。
• 行簡約によって既約行階段形（R）に到達し、ランク、ピボット列、自由変数を特定する。
• 特殊解から零空間行列 N を構成し、線形システムの完全解を記述する。

🔹 レッスン4: 直交性と最小二乗近似

概要: このレッスンでは、直交性の観点から四つの基本部分空間の根本的な関係を探ります。学生は射影行列を使ってベクトルを直線や部分空間に射影する方法を学び、過剰決定システムを最小二乗近似（直線や放物線のフィッティング）で解く方法を理解します。また、直交基底やグラム・シュミットの直交化を活用して複雑な線形代数問題を A = QR 因子分解に簡略化する方法も学びます。

学習成果:

• 四つの基本部分空間の直交性を識別・証明し、直交補空間を決定する。
• 射影行列 P を構築し、ベクトルを直線や高次元部分空間に射影する計算を行う。
• 正規方程式（A^T A \hat{x} = A^T b）を適用して、データポイント群に対する最適な直線または放物線を見つける。

🔹 レッスン5: 行列式の性質と応用

概要: このレッスンでは、行列式の代数的および幾何的性質を扱い、ピボットに基づく定義から、置換と余因子を含む「大公式」への移行を行います。学生はこれらの概念を用いてクラメールの法則で線形システムを解き、逆行列を計算し、線形代数および多変数微積分（ヤコビアン）において面積や体積を求める方法を学びます。

学習成果:

• 性質（積の法則、転置）、ピボット公式、余因子展開を使って行列式を計算する。
• クラメールの法則と余因子公式を用いて解や行列の逆行列を求める。
• 行列式を三角形／平行四辺形の面積、平行六面体の体積として幾何的に解釈し、三重積やヤコビアンに拡張する。

🔹 レッスン6: 固有値、固有ベクトル、および特異値分解（SVD）

概要: このレッスンでは、複雑な線形システムや動的方程式の問題を解くために行列を最も簡単な形に分解する方法を扱います。学生は正方行列に対して固有値/固有ベクトルによる分解（A = S\Lambda S^{-1}）と、任意の行列に対して特異値分解（A = U\Sigma V^T）を学び、微分方程式の解法、局所最小値の検証、画像圧縮の基礎を構築します。

学習成果:

• 固有値方程式 Ax = \lambda x を解き、\lambda が行列のトレースや行列式とどのように関連するかを理解する。
• 行列を対角化してべき乗を計算し、線形微分方程式系を解く。
• 正定値行列を識別・テストし、チョルスキ分解を計算する。

🔹 レッスン7: 線形変換と基底の変更

概要: このレッスンでは、行列を静的なデータ配列として見るのではなく、線形変換と呼ばれる動的な演算子として見るという根本的な転換を扱います。線形性の法則を定義し、変換が平面上の特定の形状（「家」など）をどのように写すかを調べ、微積分演算（微分や積分）を行列として表現する方法を学びます。最後に、標準逆行列が存在しない場合でも変換を逆や分解できるように拡張する、擬似逆行列や極分解といった高度な分解を紹介します。

学習成果:

• 加算とスカラー乗法の原則を使って線形変換を定義・識別する。
• 基底ベクトルを写すことで、線形変換 T に対応する行列 A を構成する。
• ウェーブレットやフーリエ変換などの信号に対して基底の変更を行い、擬似逆行列 A^+ を使って行列の逆行列を一般化する。

🔹 レッスン8: 工学と統計における線形代数

概要: このレッスンでは、構造工学、ネットワーク理論、確率過程、最適化、信号処理、データサイエンスなど多岐にわたる分野における線形代数の実践的応用を扱います。学生は物理システムを支配する基本フレームワーク A^TCA の使い方、固有値が長期的な人口動向を予測する方法、直交関数がベクトル空間概念を関数解析および統計にまで拡張する方法を学びます。

学習成果:

• スプリングと質量の物理システムを剛性行列 K = A^TCA でモデル化する。
• 接続行列を使ってグラフの接続性を分析し、ネットワークのオイラーの公式を検証する。
• マルコフ行列の定常ベクトルを計算し、ペロン＝フロベニウスの定理を人口モデルおよび経済モデルに適用する。

🔹 レッスン9: 数値線形代数と反復法

概要: このレッスンでは、コンピュータ上で線形代数を実際に実装する方法を扱い、理論的な正確さから数値的安定性と効率への移行に焦点を当てます。学生は部分ピボットを使用して丸め誤差を抑える方法、スパース行列や帯状行列の演算回数を最適化する方法、ノルムと条件数を使ってシステムの感度を評価する方法を学びます。さらに、大規模システムを解くための反復的手法と固有値を近似する方法も扱います。

学習成果:

• 丸め誤差の影響を分析し、ガウスの消去法における数値安定性を確保するために部分ピボットを適用する。
• 全体行列、帯状行列、スパース行列に対する演算回数を計算することで、アルゴリズムの計算効率を評価する。
• ノルムと条件数を使って線形システムの感度を測り、ヒルベルト行列のような悪条件系を特定する。

🔹 レッスン10: 複素ベクトルとユニタリ行列

概要: このレッスンでは、実数から複素数への移行を扱い、複素数の演算、複素平面での幾何的表現、極形式に注目します。最終的に、対称行列や直交行列の複素版であるヘルミート行列とユニタリ行列という、複素数特有の行列構造を学びます。

学習成果:

• 複素数の演算を行い、共役や絶対値を求める。
• 複素数を複素平面上にマッピングし、矩形形（a + bi）と極形式（re^{i\theta}）の間を変換する。
• オイラーの公式を使って複素数の積やべき乗を簡略化する。