콘텐츠로 바로가기
용어9

deep-learning

이 용어로 연결된 기록을 섹션별로 살펴봅니다.

  1. Attention Mechanism

    Transformer의 핵심: 입력 시퀀스의 각 토큰이 다른 모든 토큰과 관계를 계산하여 문맥 의존적 표현을 생성. 동일 입력에 대해 여러 Attention을 병렬 계산 후 연결: 각 헤드가 서로 다른 의미 관계(통사, 의미, 거리 등)를 포착. O(n²·d) —...

    machine-learning-ai / llm-rag-engineering / llm-foundations-token-physics / attention-mechanism
  2. Transformer Architecture

    "Attention Is All You Need"(2017)에서 제안된 아키텍처. RNN의 순차 처리를 Self-Attention으로 대체하여 병렬 학습과 장거리 의존성 포착을 동시에 달성. 입력 시퀀스의 각 토큰이 다른 모든 토큰과의 관련성을 계산: `√d_k`...

    machine-learning-ai / llm-rag-engineering / llm-foundations-token-physics / transformer-architecture
  3. Machine Learning & AI

    통계적 수학과 대규모 하드웨어 연산을 결합하여 기계가 스스로 규칙을 추출하고, 인간의 고등 추론을 수리적으로 모사하는 인공지능의 모든 계층을 다룹니다.

    machine-learning-ai
  4. Deep Learning & Transformer

    인간 뇌의 뉴런 구조를 수리적으로 모사하여 복잡한 비선형 데이터를 처리하고, 이미지와 시퀀스 데이터에서 물리적 특징을 자동 추출하는 딥러닝의 역학을 다루는 학습 노드입니다.

    machine-learning-ai / deep-learning-transformer
  5. CNN & Computer Vision Mechanics

    시각적 데이터의 공간적 구조를 보존하며 계층적으로 특징을 추출하는 합성곱 신경망의 물리적 필터링과, 기계가 세상을 '보는' 수리적 메커니즘을 다룹니다.

    machine-learning-ai / deep-learning-transformer / cnn-computer-vision-mechanics
  6. Modern Transformer Architectures

    고정된 시퀀스의 한계를 넘어 데이터 간의 상관관계를 한꺼번에 주목(Attention)하여 병렬로 처리하고, 현대 LLM의 심장이 된 트랜스포머의 수리적 구조와 물리적 혁신을 다룹니다.

    machine-learning-ai / deep-learning-transformer / modern-transformer-architectures
  7. Neural Network Foundations

    생물학적 뇌의 뉴런 동작 방식을 수리적으로 모방하여, 다층 구조의 레이어를 통해 복잡한 비선형 패턴을 학습하는 딥러닝의 물리적 근간과 퍼셉트론 원리를 다룹니다.

    machine-learning-ai / deep-learning-transformer / neural-network-foundations