용어7

transformer

이 용어로 연결된 기록을 섹션별로 살펴봅니다.

Attention Mechanism
Transformer의 핵심: 입력 시퀀스의 각 토큰이 다른 모든 토큰과 관계를 계산하여 문맥 의존적 표현을 생성. 동일 입력에 대해 여러 Attention을 병렬 계산 후 연결: 각 헤드가 서로 다른 의미 관계(통사, 의미, 거리 등)를 포착. O(n²·d) —...
2026-04-20machine-learning-ai / llm-rag-engineering / llm-foundations-token-physics / attention-mechanism
Transformer Architecture
"Attention Is All You Need"(2017)에서 제안된 아키텍처. RNN의 순차 처리를 Self-Attention으로 대체하여 병렬 학습과 장거리 의존성 포착을 동시에 달성. 입력 시퀀스의 각 토큰이 다른 모든 토큰과의 관련성을 계산: `√d_k`...
2026-04-19machine-learning-ai / llm-rag-engineering / llm-foundations-token-physics / transformer-architecture
Deep Learning & Transformer
인간 뇌의 뉴런 구조를 수리적으로 모사하여 복잡한 비선형 데이터를 처리하고, 이미지와 시퀀스 데이터에서 물리적 특징을 자동 추출하는 딥러닝의 역학을 다루는 학습 노드입니다.
2026-03-11machine-learning-ai / deep-learning-transformer
CNN & Computer Vision Mechanics
시각적 데이터의 공간적 구조를 보존하며 계층적으로 특징을 추출하는 합성곱 신경망의 물리적 필터링과, 기계가 세상을 '보는' 수리적 메커니즘을 다룹니다.
2026-03-11machine-learning-ai / deep-learning-transformer / cnn-computer-vision-mechanics
Modern Transformer Architectures
고정된 시퀀스의 한계를 넘어 데이터 간의 상관관계를 한꺼번에 주목(Attention)하여 병렬로 처리하고, 현대 LLM의 심장이 된 트랜스포머의 수리적 구조와 물리적 혁신을 다룹니다.
2026-03-11machine-learning-ai / deep-learning-transformer / modern-transformer-architectures
Neural Network Foundations
생물학적 뇌의 뉴런 동작 방식을 수리적으로 모방하여, 다층 구조의 레이어를 통해 복잡한 비선형 패턴을 학습하는 딥러닝의 물리적 근간과 퍼셉트론 원리를 다룹니다.
2026-03-11machine-learning-ai / deep-learning-transformer / neural-network-foundations
RNN & Sequential Data Physics
시간의 흐름이나 배열의 순서가 중요한 시계열 데이터의 상태를 기억하고 전달하며, 과거의 수리적 흐름으로부터 미래를 예측하는 순환 신경망의 물리적 역동성을 다룹니다.
2026-03-11machine-learning-ai / deep-learning-transformer / rnn-sequential-data-physics

Attention Mechanism

Transformer Architecture

Deep Learning & Transformer

CNN & Computer Vision Mechanics

Modern Transformer Architectures

Neural Network Foundations

RNN & Sequential Data Physics