Vector Spaces & Linear Maps

1. Overview

벡터 공간 및 선형 사상(Vector Spaces & Linear Maps, VLM)은 컴퓨터 과학이 다루는 방대한 데이터를 기하학적 공간으로 투영하여 해석하는 기초 체계입니다.

학습자는 기저(Basis)와 차원(Dimension)을 통해 데이터 공간의 크기와 독립성을 규정하고, 공간 사이의 이동과 변형을 관장하는 **선형 변환(Linear Transformation)**의 물리적 규칙을 배웁니다. 이는 단순히 행렬 계산을 넘어, 고차원 특성(Feature) 공간에서 데이터가 어떻게 배치되고 변환되는지를 이해하는 심미안을 제공하며, 현대 인공지능과 그래픽스의 수리적 언어로서 핵심적인 역할을 수행합니다.

2. Scope & Boundaries

In-Scope

• Vector Space Axioms: 덧셈과 스칼라 곱에 대한 닫힘 및 8대 공리 체계
• Basis & Dimension: 공간을 생성(Span)하는 최소 독립 세트와 좌표계 물리
• Linear Transformations: 선형성을 유지하는 함수 $T(u+v) = T(u) + T(v)$의 역학
• Subspaces & Null Spaces: 커널(Kernel)과 이미지(Image)를 통한 공간의 분해와 제약

Out-of-Scope

• 비선형 변환(Non-linear mapping)의 곡률 분석 (미분기하학 영역)
• 특정 딥러닝 프레임워크의 Tensor 연산 코드 (11-02 DLN 영역으로 위임)

Boundaries

• VLM vs. Calculus: 미적분학이 '국소적인 곡선의 변화'를 본다면, VLM은 공간 전체가 '직선성을 유지하며 변형되는 전역적 구조'에 집중합니다.

3. Counterexample

• 단순히 "수를 나열한 리스트를 벡터라고 부르는 것"은 VLM 학습이 아닙니다. 왜 특정 데이터 벡터들의 집합이 선형 독립(Linearly Independent) 성질을 잃으면 공간의 차원이 축소되고 정보 손실이 물리적으로 발생하는지 설명할 수 있어야 합니다. 또한, 선형 사상이 아닌 변환(예: 원점 이동이 없는 단순 평행이동)을 행렬 곱으로 표현하려 할 때 발생하는 수리적 모순을 지적할 수 있어야 합니다.

4. Prerequisites

• 이산 구조 및 수학적 논리 (Basic): 공리계의 정의와 논리적 증명 기법 이해가 필수입니다. (01. CS&E Root)

5. Learning Map

1. Foundational Space: 벡터 공간의 정의를 통해 데이터가 존재할 수 있는 수리적 영토를 획정합니다.
2. Structural Core: 기저와 차원을 정의하여 데이터 공간의 골격을 파악합니다.
3. Dynamics of Mapping: 한 공간에서 다른 공간으로 데이터를 전이시키는 선형 변환을 정의합니다.
4. Representational Logic: 추상적 선형 사상을 '행렬'이라는 구체적인 연산 장치로 고정합니다.

6. Learning Topics

Basic

Core: 벡터 공간의 공리와 성질 (Vector Space Foundations)

• Why to Learn: 데이터 연산(더하기, 스케일링)이 논리적으로 안전하게 수행될 수 있는 수리적 틀을 확인하기 위함입니다.
• What to Learn:
  • 벡터 공간의 8대 공리: 결합, 분배, 항등원, 역원 등의 물리적 의미
  • 부분 공간(Subspace): 특정 조건을 만족하는 작은 영토의 물리력
  • 영 벡터(Zero Vector)와 덧셈 역원의 존재적 중요성
• How to Learn:
  • RGB 색상 공간이나 연차/연봉 데이터셋이 벡터 공간의 조건을 만족하는지 검증 실습
  • $Ax=b$ 시스템에서 해집합이 부분 공간을 형성하기 위한 조건($b=0$) 탐구
• Implement: 벡터 공간의 닫힘 성질을 검증하는 타입 안전 벡터 클래스 설계

Recommended

Core: 선형 독립과 기저 (Structure & Basis)

• Why to Learn: 데이터 간의 중복을 제거하고 공간을 표현하는 가장 효율적인'눈금(Coordinate)'을 찾기 위해서입니다.
• What to Learn:
  • 선형 조합(Linear Combination)과 생성(Span)의 물리적 확장
  • 선형 독립 vs 종속: 벡터들 사이의 정보 중복 여부 판단
  • 기저(Basis)와 차원(Dimension): 공간을 정의하는 최소한의 도구
• How to Learn:
  • 3차원 공간에서 2개의 벡터만으로 표현 가능한 평면(2D Subspace) 시각화 실습
  • 표준 기저(Standard Basis) 외에 다른 기저를 사용했을 때 좌표값이 어떻게 바뀌는지 계산
• Implement: 주어진 벡터 집합에서 선형 독립인 최선 세트를 추출하는 그램-슈미트 과정 기초

Practical

Core: 선형 사상과 커널 (Transformations & Kernel)

• Why to Learn: 데이터의 형태를 바꾸면서도 그 본질적인 관계(선형성)를 유지하는 물리적 변환을 설계하기 위함입니다.
• What to Learn:
  • 선형 변환의 정의: 중첩 원리(Superposition)의 수학적 구현
  • 커널(Kernel/Null Space): 변환 후 '0'으로 사라지는 정보의 물리적 의미
  • 치역(Range/Image)과 랭크(Rank): 변환 후 살아남는 공간의 크기
• How to Learn:
  • 이미지를 회전시키거나 크기를 조절하는 연산이 왜 선형 변환인지 수식으로 증명
  • 랭크-차원 정리(Rank-Nullity Theorem)를 통해 데이터 압축 시 손실되는 정보량 예측 연습
• Implement: 2D/3D 공간 상의 점들을 특정 선형 규칙에 따라 변환하는 엔진

Advanced

Core: 행렬 표현과 기저 변환 (Coordinate Change)

• Why to Learn: 추상적인 수학 모델을 컴퓨터가 연산 가능한 행렬 데이터로 치환하고, 효율적인 관점으로 데이터를 재해석하기 위해서입니다.
• What to Learn:
  • 선형 변환의 행렬 표현: $[T]_B^D$ 추출 기법
  • 기저 변환 행렬(Change of Basis Matrix): 관점의 이동에 따른 데이터 재배치
  • 동형 사상(Isomorphism): 두 벡터 공간이 본질적으로 동일함을 입증하는 물리
• How to Learn:
  • 전역 좌표계를 로컬 좌표계(Camera space 등)로 변환할 때 기저 변환 행렬이 어떻게 사용되는지 분석
  • 행렬의 곱셈이 '두 선형 사상의 합성'임을 물리적으로 이해하고 계산 실습
• Implement: 서로 다른 기저 사이의 좌표 정보를 즉각 변환해주는 좌표계 전환 매트릭스 계산기

7. Terminology

8. References

Primary

• [P1] CS2023 - DS/Linear Algebra — High-level requirements.
• [P4] DS-BoK - Mathematical Foundations / Linear Algebra — Data science context.

Secondary

• [Linear Algebra and Its Applications] Gilbert Strang — The industry standard pedagogical text.
• [Linear Algebra Done Right] Sheldon Axler — Theoretical focus on linear maps.

Industry

• [Computer Graphics: Principles and Practice] — VLM in 3D rendering.
• [Google PageRank Math Foundations] — VLM in network ranking.

9. Final Checklist

Primary

• 특정 벡터 집합이 주어졌을 때, 선형 독립 여부를 판별하여 해당 공간의 실제 '차원(Dimension)'을 물리적으로 도출할 수 있는 가? (P1)
• 랭크-차원 정리(Rank-Nullity Theorem)를 사용하여 선형 변환 시 소멸되는 정보량(Nullity)을 수학적으로 계산 가능한가? (P1)

Secondary

• 기저 변환(Change of Basis)이 일어날 때, 벡터의 실제 위치는 변하지 않지만 '좌표값'이 어떻게 물리적으로 재정의되는지 설명할 수 있는 가?
• 선형 사상(Linear Map)의 결과가 왜 행렬 곱셈과 완벽한 일대일 대응 관계에 있는지 논리적으로 소통 가능한가?

Industry

• 그래픽스 렌더링 파이프라인에서 '모델 좌표계'에서 '월드 좌표계'로의 변환을 선형 사상 관점에서 설계할 수 있는 가? (SFIA)
• 데이터 전처리 단계에서 상관관계가 높은 다차원 정보를 결합하여, 유효 기저(Basis)만 남기는 '차원 축소'의 타당성을 수학적으로 입증할 수 있는 가?