Optimization Logic & Gradient Descent
손실 함수라는 거대한 수리적 계곡을 따라 가장 낮은 지점(최소 오차)을 찾아가는 최적화의 물리적 여정과, 기계의 학습 속도와 안정성을 결정하는 수치적 기울기 연산의 역학을 다룹니다.
이 용어로 연결된 기록을 섹션별로 살펴봅니다.
손실 함수라는 거대한 수리적 계곡을 따라 가장 낮은 지점(최소 오차)을 찾아가는 최적화의 물리적 여정과, 기계의 학습 속도와 안정성을 결정하는 수치적 기울기 연산의 역학을 다룹니다.
정답이 주어진 데이터 쌍을 통해 예측 함수를 정교하게 다듬고, 선형 회귀부터 앙상블 기법까지 현대 비즈니스 예측의 핵심이 되는 지도 학습의 수리적 알고리즘과 물리적 응용을 다룹니다.
정답 없이도 데이터 스스로가 가진 물리적 유사성과 구조를 수리적으로 발견하고, 방대한 하드웨어 정보를 핵심 정보로 압축하거나 이상 수치를 걸러내는 지능형 발견 물리학을 다룹니다.
목표 함수를 최소화하거나 최대화하는 최적의 변수 조합을 찾는 수리적 방법론과, 전역 최적해를 보장하는 볼록 함수의 기하학적 성질을 다루는 학습 노드입니다.
제한된 디바이스 자원(전력, 메모리, 대역폭) 위에서 동작하는 네이티브 및 크로스플랫폼 시스템의 물리적 구동 원리와 아키텍처 거버넌스를 다룹니다.
고수준 소스 코드를 기계어로 변환하는 멀티 스테이지 파이프라인과 코드 최적화 알고리즘을 다루는 학습 노드입니다.
Optimization 및 Code Generation (LLVM-IR)의 정의, 범위, 선행 지식, 학습 주제, 참고 근거를 정리한 CS&E 학습 노드입니다.