gauss elimination : proofread

Author: govin08

_posts/2025-08-02-gauss_elimination.md

@@ -19,10 +19,10 @@ toc: true
 마침 중학교 2학년 학생들에게 연립방정식을 가르쳐줬었으므로 그걸 상기하면서 가우스 소거법을 알려드리고 나니 블로그에도 관련 글을 좀 적어보면 어떨까 하는 생각이 들었다.
 
 아주 길게 쓸 건 아니고 짧게만 적어보자.
-블로그 글을 시작해놓고 제대로 끝내지 않은 글들이 한가득이라, 이번 글은 좀 마무리하도록 해보자.
+시작해놓고 제대로 끝내지 않은 블로그 글들이 한가득이라, 이번 글은 잘 마무리하도록 해보자.
 하지만 별 이야기를 많이 쓰진 않을 것이다.
 
-가우스 소거법은 결국 일차연립방정식을 푼다는 것이고, 그건 선형대수 관점에서 보면 affine space들의 교집합을 구해나간다는 뜻이며, 당연히 affine space의 basis를 구하는 것이 중요한 문제가 된다.
+가우스 소거법은 결국 일차연립방정식을 푸는 것이고, 그건 선형대수 관점에서 보면 affine space들의 교집합을 구해나간다는 뜻이며, 당연히 affine space의 basis를 구하는 것이 중요한 문제가 된다.
 그리고 가우스 소거법을 하고 나면 이 모든 것이 아주 systematic하게 구해진다.
 
 변수가 두 개이고 식이 두 개인 nontrivial한 연립방정식은 풀린다.
@@ -64,7 +64,7 @@ $$n^\perp=\{(x,y,z):ax+by+cz=0\}$$
 
 중학교 2학년 과정에서는 이원일차연립방정식을 배운다.
 교과과정에는 가감법과 대입법이 소개되며 경우에 따라서는 등치법을 소개하기도 한다.
-하지만 대입법이나 등치법으로 풀릴 수 있는 문제는 모두 가감법으로 풀릴 수 있고 따라서 가감법만 논해도 된다.
+하지만 대입법이나 등치법으로 풀릴 수 있는 문제는 모두 가감법으로 풀릴 수 있으므로 가감법만 논해도 된다.
 그리고 gauss elimination은 단순히 가감법을 해나가는 것과 다름없다.
 
 연립방정식
@@ -245,13 +245,13 @@ $x$를 소거하는 두번째 과정을 거치고 나서는 두번째 행의 두
 일반적으로 다음과 같은 과정을 거친다.
 - (1) 첫번째 행의 첫번째 열 값을 1로 만든다.
 - (2) 첫번째를 제외한 모든 행의 첫번째 열 값을 0으로 만든다.
-- $n\gt1$인 $n$에 대하여 $n$번째 행의 $n-1$번째까지의 열 값이 모두 0이면 다음의 (3), (4)를 반복한다.
-- (3) $n$번째 행의 $n$번째 계수를 1로 만든다.
+- $n$의 값을 하나씩 늘려가면서 (3), (4)의 과정을 반복한다. $n=2$부터 시작한다.
+- (3) $n$번째 행의 $n$번째 열 값을 1로 만든다.
 - (4) $n$번째 행을 제외한 모든 행의 $n$번째 계수를 0으로 만든다.
 
 이 과정을 거치면 왼쪽 행렬을 항등행렬로 바꾸는 목적을 달성할 수 있고, 따라서 연립방정식의 해를 구해낼 수 있다.
 
-단, 문제가 '정상적'으로 풀리는 경우는 왼쪽행렬의 첫번째 행과 두번째 행이 일차독립인 경우, 즉 왼쪽행렬의 rank가 2인 경우이며, 다시말해 가감법을 했을 때 두 변수가 한꺼번에 소거되지 않는 경우이다.
+단, 문제가 '정상적'으로 풀리는 경우는 왼쪽행렬의 첫번째 행과 두번째 행이 일차독립인 경우, 즉 왼쪽행렬이 full rank인 경우이며, 다시말해 가감법을 했을 때 두 변수가 한꺼번에 소거되지 않는 경우이다.
 두 변수가 한꺼번에 소거되는 경우 또한 중학교 2학년 교과과정에서 간접적으로 소개되는데
 
 $$
@@ -262,10 +262,14 @@ a'x+b'y&=c'\\
 $$
 
 에서, $\frac a{a'}\ne\frac b{b'}$이면 해가 한 쌍 존재하고, $\frac a{a'}=\frac b{b'}=\frac c{c'}$이면 해가 무수히 많으며 $\frac a{a'}=\frac b{b'}\ne\frac c{c'}$이면 해가 없다고 배우게 된다.
-여기서 $\frac a{a'}=\frac b{b'}$인 조건은 정확히 왼쪽행렬의 판별식이 0인 것과 일치하는 것이다.
-즉, $\frac a{a'}=\frac b{b'}$이면 왼쪽행렬은 비가역행렬이 되고 rank가 1이 되어 두 행이 일차독립이고, 간단히 말하면 윗행의 실수배가 아랫행과 일치하게 되어 두 변수가 한꺼번에 소거되는 경우에 해당하게 된다.
+여기서 $\frac a{a'}=\frac b{b'}$인 조건은 정확히 왼쪽행렬의 판별식이 0인 것과 일치한다.
+즉, $\frac a{a'}=\frac b{b'}$이면 왼쪽행렬은 비가역행렬이 되고 rank가 1이 되어 두 행이 일차독립이고, 간단히 말하면 윗행의 실수배가 아랫행과 일치하게 되어 두 변수가 한꺼번에 소거되는 경우에 해당한다.
 
-마지막으로, 가장 간단하면서도 nontrivial한 이 경우에 대해, 아까 장황하게 늘어놓은 유클리드공간이나 affine space, one-point-set 이야기를 할 필요가 있겠다.
+왼쪽 행렬이 full rank가 아닌 경우에는 종종 (1)과 (3)의 과정에서 해당 행의 해당 열 값을 1로 만들 수 없을 수 있다.
+해당 행의 해당 열 값이 0일 수 있기 때문이다.
+그럴 때에는 그 아래 행들 중 열값이 0이 아닌 열을 위로 올려 진행해야 할 수 있고, 그런 행이 없다면 다음 열로 이동해 비슷한 과정을 반복해야 한다.
+
+마지막으로, 변수가 2개이고 식이 2개인 위 문제에 대해, 아까 장황하게 늘어놓은 유클리드공간이나 affine space, one-point-set 이야기를 할 필요가 있겠다.
 이 문제는 변수가 두 개이므로 이차원 유클리드 공간 $\mathbb R^2$이 그 배경이 된다.
 두 식 $2x+3y=5$, $5x+4y=16$은 평면 위의 두 직선을 의미하며 이 직선들 각각은 affine space이다.
 두 affine space의 교집합은 one-point-set인 $\\{(4,-1)\\}$이며, 이것은 $\mathbb R^2$ 위의 한 점(두 직선의 교점)이 되는 것이다.
@@ -386,13 +390,13 @@ $$
 따라서, 연립방정식의 해 $(x,y,z)=(2,3,-1)$가 구해졌다.
 
 이 문제가 nontrivial한 이유는, 그러니까 해가 '정상적'으로 한 개가 나오는 까닭은 왼쪽의 행렬이 full rank 3을 가지기 때문이며, 다시 말해 세 개의 행들이 서로 일차독립이기 때문이다.
-이 문제는 변수가 세 개 이므로 삼차원 유클리드 공간 $\mathbb R^3$이 그 배경이 되며, $x-2y+ z=-5$와 같은 세 일차식들은 공간 위의 세 평면이 되고 이것들 각각이 affine space이다.
+이 문제는 변수가 세 개 이므로 삼차원 유클리드 공간 $\mathbb R^3$가 그 배경이 되며, $x-2y+ z=-5$와 같은 세 일차식들은 공간 위의 세 평면이 되고 이것들 각각이 affine space이다.
 세 affine space의 교집합은 이번에도 one-point-set인 $\\{(2,3,-1)\\}$로 주어졌다.
 
 ## 2.2 변수 3개, 식 2개
 
 앞의 두 사례에서는 nontrivial한 사례를 봤다.
-즉, 해가 하나인 연립방정식들만을 고려했다.
+즉, 해가 유일한 연립방정식들만을 고려했다.
 이번에는 trivial한 경우, 즉 해가 무한히 많은 경우를 다뤄보려 한다.
 하지만 해가 무수히 많다고 하여, 그것들이 모두 같은 것은 결코 아니다.
 해가 무수히 많은 경우도 그 경우마다 다 다른데 그 상황은 affine space와 그 basis로 가장 잘 묘사될 수 있을 것이다.
@@ -418,7 +422,7 @@ $$
 즉, $x$, $y$, $z$를 deterministic하게 확정하는 것이 불가능하다.
 왜나하면, 삼차원 평면에서 두 평면이 만나는 도형은 일반적으로 직선(교선)이 될 것이기 때문이다.
 하지만 지금까지 하던 대로 gauss elimination을 해보면 의미있는 결과를 얻을 수 있다.
-즉, 직선(affine space)을 효율적으로 묘사할 수 있는 표현식(basis)을 찾을 수 있다.
+즉, 직선(affine space)을 효율적으로 묘사할 수 있는 표현식을 찾을 수 있다.
 
 가우스 소거법은 다음과 같이 진행된다.
 
@@ -461,7 +465,9 @@ R_1 \leftarrow R_1+R_2\\
 \end{align*}
 $$
 
-그렇게 해서 얻어진 augmented matrix는, 바라던 대로 왼쪽행렬이 reduced row echelon form이 되었다.
+그렇게 해서 얻어진 augmented matrix의 왼쪽행렬은 아까처럼 항등행렬은 아니다.
+대신 reduced row echelon form(RREF)이 되었다.
+RREF는 해를 확정적으로 구할 수 없는 상태에서 얻을 수 있는 최선이다.
 이 augmented matrix를 연립방정식의 형태로 다시 써보면
 
 $$
@@ -472,7 +478,9 @@ x&&&&-\frac23z&=\frac43\\
 $$
 
 이 된다.
-그러면 $x=\frac23z+\frac43$, $y=\frac83z-\frac{11}3$이고, 따라서 이 연립방정식을 만족시키는 점 $(x,y,z)$들의 집합 $A$은
+그러면 $x=\frac23z+\frac43$, $y=\frac83z-\frac{11}3$이다.
+즉, $z$를 free variable로 삼을 수 있다.
+이 연립방정식을 만족시키는 점 $(x,y,z)$들의 집합 $A$은
 
 $$
 \begin{align*}
@@ -483,19 +491,21 @@ A
 &=\left\{z\left(\frac23,\frac83,1\right)+\left(\frac43,-\frac{11}3,0\right):z\in\mathbb R\right\}\\
 &=\left(\frac43,-\frac{11}3,0\right) + \left\langle\left(\frac23,\frac83,1\right)\right\rangle\\
 &=\left(\frac43,-\frac{11}3,0\right) + \left\langle\left(2,8,3\right)\right\rangle\\
+&=(2,-1,1) + \langle(2,8,3)\rangle\\
 \end{align*}
 $$
 
 이 된다.
 이때 $\left\langle\left(\frac23,\frac83,1\right)\right\rangle\$는 벡터 $\left(\frac23,\frac83,1\right)$의 span이다.
 즉 해당 벡터를 basis로 하는 일차원 부분공간을 뜻한다.
+위 계산의 마지막에서 $v+W$가 affine space이고 $w\in W$이면 $v+W=(v+w)+W$임을 활용했고, 이때 $w=\frac13(2,8,3)$으로 두었다.
 따라서 $A$는 일차원 affine space가 된다.
-즉, 이것은 $\left(\frac43,-\frac{11}3,0\right)$을 지나고 벡터 $(2,8,3)$의 방향을 향하는 직선이다.
+즉, 이것은 점 $(2,-1,1)$을 지나고 벡터 $(2,8,3)$의 방향을 향하는 직선이다.
 
 ## 2.2 변수 4개, 식 2개
 
 2.3의 사례도 재미있지만, affine space가 1차원이라는 점에 있어서는 너무 간단한 예이기도 하다.
-affine space가 2차원이 되는 경우, 즉 대응되는 subspace의 basis vector가 두 개 이상인 경우를 살펴보는 것도 의미있을 것이다.
+affine space가 2차원이 이상인 경우, 즉 대응되는 subspace의 basis vector가 두 개 이상인 경우를 살펴보는 것도 의미있을 것이다.
 이번에도 full rank를 가지지 않는 적절한 linear system을 생각하기보다는, 변수의 개수 자체를 식의 개수보다 많게 두려고 한다.
 
 고려하는 것은 다음의 연립방정식이다.
@@ -549,7 +559,7 @@ R_2 \leftarrow \frac15R_2
 \end{matrix}\\
 &\rightarrow
 \begin{bmatrix}
- 1& 0&-\frac1{10}& \frac15&|&\frac45\\
+ 1& 0&-\frac1{10}&-\frac15&|&\frac45\\
  0& 1&-\frac{11}5&-\frac75&|&-\frac{22}5
 \end{bmatrix}
 &&
@@ -565,7 +575,7 @@ $$
 
 $$
 \begin{align*}
-x&&&&-\frac1{10}z+\frac15w&=\frac45\\
+x&&&&-\frac1{10}z-\frac15w&=\frac45\\
 &&y&&-\frac{11}5z-\frac75w&=-\frac{22}3
 \end{align*}
 $$
@@ -576,18 +586,19 @@ $$
 \begin{align*}
 A
 &=\left\{(x,y,z,w):2x-y+2z+w=6,6x+2y-5z-4w=-4\right\}\\
-&=\left\{(x,y,z,w):x=\frac1{10}z-\frac15w+\frac45,y=\frac{11}5z+\frac75w-\frac{22}3\right\}\\
+&=\left\{(x,y,z,w):x=\frac1{10}z+\frac15w+\frac45,y=\frac{11}5z+\frac75w-\frac{22}3\right\}\\
 &=\left(\frac45,-\frac{22}3,0,0\right)
     +\left\langle\left(\frac1{10},\frac{11}5,1,0\right),
-    \left(-\frac15,\frac75,0,1\right)\right\rangle\\
+    \left(\frac15,\frac75,0,1\right)\right\rangle\\
 &=\left(\frac45,-\frac{22}3,0,0\right)
     +\left\langle\left(1,22,10,0\right),
-    \left(-1,7,0,5\right)\right\rangle
+    \left(1,7,0,5\right)\right\rangle
 \end{align*}
 $$
+<!-- (1, 3, 4, -1) -->
 
 이 된다.
-따라서, $A$는 4차원 공간 상에서 $\left(\frac45,-\frac{22}3,0,0\right)$를 지나고 두 벡터 $\left(1,22,10,0\right)$, $\left(-1,7,0,5\right)$를 basis로 하는 평면이다.
+따라서, $A$는 4차원 공간 상에서 $\left(\frac45,-\frac{22}3,0,0\right)$를 지나고 두 벡터 $(1,22,10,0)$, $(1,7,0,5)$를 basis로 하는 평면이다.
 
 
 # 3. code implementation
@@ -639,7 +650,7 @@ gaussianElimination(mat)
 
 무언가 스트레스를 받거나 일신상의 변화가 생기면, 이런 식으로 수학 글을 쓰고 싶어진다.
 이런 걸 순수수학이라고 해야할까, 응용수학이라고 해야 할까.
-순수수학이라고 하기엔 너무 기초적인 수학이고 응용수학이라고 하기엔 나는 성향상 코드 implementation이나 활용방안에 대해 관심이 있기 보다는 해당 주제의 수학적인 원리나 증명에 천착하는 경향이 있다.
+순수수학이라고 하기엔 너무 기초적인 수학이고 응용수학이라고 하기엔 나는 성향상 알고리즘의 활용방안에 대해 관심이 있기 보다는 해당 주제의 수학적인 원리나 증명에 천착하는 경향이 있다.
 결국 돈을 벌거나 '실제로 유용한' 무언가를 해낸다기 보다는 잘 알려져 있는 사실을 잘 정리하여 만족스러운 정도로 서술하는 것에서 만족감을 느낄 뿐이다.
 
 새로 시작하게 된 업무를 위해서는 DDPG를 공부해야 할 필요가 있다.