콘텐츠로 바로가기

Endpoint Detection (EDR)

각각의 하드웨어 단말(Endpoint)에서 일어나는 비정상적인 행위를 실시간으로 감시하고, 머신러닝 분석을 통해 지능적 위협을 색출하는 차세대 엔드포인트 보안 물리학을 다룹니다.

7분 읽기
목차 보기22

1. Overview

엔드포인트 탐지 및 대응(Endpoint Detection & Response, EDR)은 단순히 "바이러스가 있는지" 검사하는 수준을 넘어, 서버나 PC 등 개별 하드웨어 단말 내부에서 벌어지는 모든 미세한 물리적 행위(프로세스 생성, 파일 수정, 네트워크 연결)를 수리적으로 기록하고 위협의 꼬리를 잡는 '하드웨어 블랙박스 공학'입니다.

학습자는 알려진 파일 패턴 위주로 막는 **전통적 안티바이러스(AV)**의 한계를 이해하고, "이 파일이 하드웨어에서 무슨 짓을 하는가"에 집중하는 **행위 기반 분석(Behavioral Analysis)**의 물리학을 배웁니다. 특히, 침해 사고 발생 시 해커가 어떤 물리적 경로로 들어와 어떤 데이터를 만졌는지 역추적하는 **위협 헌팅(Threat Hunting)**의 수리적 수순을 익힙니다. 이를 통해 수만 대의 하드웨어가 흩어져 있는 대규모 기업 환경에서도 단 하나의 비정상 징후를 놓치지 않는 하이엔드 엔드포인트 거버넌스 역량을 확보합니다.

2. Scope & Boundaries

In-Scope

  • Telemetry Collection: 커널 수준의 이벤트(Process, Registry, File) 물리 수집 기제
  • Behavior-based Detection: 정상 범주를 벗어난 수치적 이상 행위 식별 (예: 갑작스러운 대량 파일 암호화)
  • Incident Investigation: 사고 시점의 하드웨어 물리 상태 타임라인 재구성
  • Response Actions: 감염된 단말의 네트워크 강제 격리 및 프로세스 수리 종료
  • Endpoint vs XDR: 단말 보안(EDR)이 네트워크 및 이메일(XDR)과 결합되는 수리적 확장 경로

Out-of-Scope

  • 악성코드 파일 자체를 분해하여 코드를 읽는 리버스 엔지니어링 상세 (10-XX-XX 영역으로 이관)
  • 단말기 하드웨어 자체의 물리적 도난 방지 및 관리 (IT 자산관리 영역으로 위임)

Boundaries

  • EDR vs. AV: AV(Antivirus)가 '알려진 나쁜 놈(Signature)'을 입구에서 막는 경비원이라면, EDR은 '건물 안으로 들어온 누군가가 수상한 짓을 하는지 24시간 따라다니며 기록하는 CCTV'로 구분합니다.

3. Counterexample

  • 단순히 "백신 최신 버전 유지"라 설명하는 것은 EDR 학습이 아닙니다. 왜 EDR 솔루션이 수집하는 초당 수만 개의 로그 데이터가 운영 하드웨어의 CPU 및 디스크 I/O에 미치는 물리적 오버헤드를 수리적으로 제어할 수 있어야 하며, **파일리스 공격(Fileless Attack)**과 같이 물리 디스크에 흔적을 남기지 않고 메모리 상에서만 일어나는 수리적 공격을 탐지하는 '메모리 인스펙션'의 원리를 논증하지 못한다면 EDR의 본질을 이해하지 못한 것입니다.

4. Prerequisites

  • Operating Systems & System Mechanics (Basic): 03-01-XX의 프로세스, 스레드, 시스템 콜(System Call) 물리 구조 이해가 필수입니다.
  • Observability & Telemetry Physics (Recommended): 09-04-01의 로그 구조화 및 시계열 데이터 추적 이해가 권장됩니다.

5. Learning Map

  1. The Pulse of Device: 하드웨어 단말 내부에서 일어나는 모든 숨소리(Event)를 기록하는 법을 배웁니다.
  2. Beyond Signatures: 파일 이름이 아닌 '행동의 물리 수치'를 보고 악성 여부를 판단하는 지표를 수립합니다.
  3. Ghost Tracking: 해킹된 흔적을 따라가며, 침입자가 어떤 문을 열고 들어왔는지 수리적 경로를 복원합니다.
  4. Autonomous Triage: 위협 발견 즉시 시스템 스스로 감염된 기기를 격리하고 수술하는 하이엔드 대응 체계를 완성합니다.

6. Learning Topics

Basic

Core: 엔드포인트의 범위와 수집 데이터 (Data Acquisition)

  • Why to Learn: 보안의 마지막 방어선인 개별 하드웨어 기기에서 무슨 일이 일어나는지 수치로 알기 위해서입니다.
  • What to Learn:
    • Endpoint Definition: 서버, 노트북, 모바일, IoT 등 모든 물리적 끝점
    • Event Telemetry: 프로세스 실행, 네트워크 소켓 연결, 파일 쓰기 물리 기록
    • Agent Physics: 단말 내부에서 자원을 적게 쓰면서 데이터를 올리는 저수준 물리 기제
  • How to Learn:
    • Sysmon을 윈도우에 설치하고, 메모장을 켰을 때 발생하는 'Process Create' 이벤트의 수리적 세부 데이터(PID, Parent) 확인 실습
    • 기기 한 대가 하루에 생성하는 보안 로그의 물리적 용량(GBGB)을 계산하고 보관 비용 산출
  • Implement: 현재 실행 중인 프로세스의 트리 구조를 출력하는 기초 ProcessObserver

Core: 행위 기반 탐지와 머신러닝 (Behavioral Insight)

  • Why to Learn: 해커가 파일명을 바꾸거나 암호화하여 백신을 속일 때, 그들의 '수법'을 수리적으로 잡아내기 위함입니다.
  • What to Learn:
    • IOA (Indicator of Attack): 공격이 진행 중임을 나타내는 수리적 실시간 징후
    • Base-lining: 평소 사용자의 하드웨어 사용 패턴을 통계적 정규분포로 정의
    • ML Clustering: 수조 개의 이벤트 속에서 '희귀한 물리적 사건'을 찾아내는 알고리즘
  • How to Learn:
    • 랜섬웨어가 파일을 암호화하는 속도(IOPSIOPS)를 시뮬레이션하고, 특정 수치를 넘을 때 시스템이 이를 '공격'으로 수리 확정하는 수순 연구
    • 웹 브라우저가 갑자기 'CMD.exe'를 실행하는 등의 물리적 연쇄 행위 차단 실습
  • Implement: 특정 행동 패턴(예: 대량 파일 삭제) 감지 시 점수를 매기는 RiskEvaluator

Practical

Core: 가시성 확보와 침해 사고 추적 (Forensics & Hunting)

  • Why to Learn: "언제부터 뚫렸나?"라는 질문에 수리적이고 물리적인 증거로 대답하기 위해서입니다.
  • What to Learn:
    • Root Cause Analysis (RCA): 최초 침투 지점(Patient Zero)을 찾는 물리 역추적
    • Timeline Analysis: 사고 전후의 시스템 상태를 수리적 선상에 나열
    • Threat Hunting: 공격자가 아직 숨어있을 것이라 가정하고 선제적으로 하드웨어를 수색하는 수순
  • How to Learn:
    • 가상의 해킹 시나리오 로그를 보고, 공격자가 실행한 명령어를 시간순으로 조립하여 물리적 이동 경로 리포트 작성 실습
    • IOC (Indicator of Compromise) 해시값을 전사 하드웨어 기기에 검색하여 추가 감염 단말을 수치적으로 파악하는 훈련
  • Implement: 로그 파일들을 시간순으로 병합하여 특정 프로세스의 부모-자식 관계를 재구성하는 TraceBacker

Advanced

Core: 자동화된 대응과 격리 거버넌스 (Automated Response)

  • Why to Learn: 사람이 대응하기도 전에 위협이 하드웨어를 타고 번지는 '랜섬웨어 확산'의 물리적 속도를 이기기 위함입니다.
  • What to Learn:
    • Network Isolation: 기기의 인터넷을 끊되 보안 서버와만 물리 연결을 유지하는 법
    • Remote Remediation: 원격지 하드웨어의 감염 파일을 수리적으로 삭제/복구하는 기술
    • Sandbox Integration: 수상한 파일을 클라우드 가상 하드웨어에서 먼저 돌려보고 결과를 받는 물리 루프
  • How to Learn:
    • EDR API를 연동하여, 위험 점수가 90점 이상일 때 해당 기기의 방화벽 규칙을 즉각 '전부 차단'으로 수리 변경하는 환경 구축 실습
    • 1만 대의 단말에 동시에 보안 패치를 적용할 때 발생하는 네트워크 하드웨어 부하와 가용성 상관관계 연구
  • Implement: 위험 탐지 직후 프로세스를 죽이고 단말 상태를 스냅샷으로 저장하는 GuardianScript

7. Terminology

Term (EN / ko, abbr) 1문장 정의 단계(기본/권장/실무/심화) 역할/맥락 관련 개념 유사/대비/함께 사용 오해 포인트 Evidence(Primary/Secondary/Industry) Flags(core)
EDR 엔드포인트 기기에서 데이터를 수집, 분석하여 지능적 위협을 상시 감시하는 물리적 보안 체계입니다. 기본 단말 보안 Telemetry / Hunting Antivirus 단순 차단보다 '탐지'에 강점 P3:CyBOK core
IOC 시스템이 해킹당했음을 증명하는 파일 해시, IP 주소 등의 물리적/수리적 흔적 지표입니다. 추천 사고 증거 Footprint / Hash IOA 이미 벌어진 사건의 증거 Industry core
IOA 공격이 현재 진행 중임을 시사하는 수리적/논리적 행위 위주의 침입 징후입니다. 실무 실시간 방어 Behavior / Pattern IOC '파일'이 없어도 성립 가능 Industry core
Fileless Attack 물리 디스크에 파일을 남기지 않고 메모리나 정상 시스템 도구만 이용해 수행하는 하이엔드 수리 공격입니다. 심화 지능형 위협 Memory / Living-off-the-land Malware 백신(AV)이 못 잡는 경우가 많음 Industry core

8. References

Primary

Secondary

  • [Practical Endpoint Security] — Implementation and hunting guide.
  • [The Art of Memory Forensics] — For fileless attack analysis physics.

Industry

  • [Gartner: Magic Quadrant for Endpoint Protection Platforms] — Industry trends.
  • [MITRE ATT&CK Framework] — The global standard for behavior classification.

9. Final Checklist

Primary

  • '전통적 백신'이 '행위 기반 EDR'보다 '파일리스 공격'의 물리적 감지에 왜 취약한지 수리적으로 설명 가능한가? (P3)
  • 'EDR'이 수집하는 '커널 이벤트'가 하위 운영체제 하드웨어 아키텍처와 어떻게 수리적으로 결합되는지 기술할 수 있는 가? (P3)

Secondary

  • '중심성 지표'를 활용해 사고 전후의 프로세스 관계망에서 '공격자의 최초 진입로'를 수치적으로 역추적할 수 있는 가?
  • EDR 에이전트의 리소스 점유율 임계치 설정을 통해 시스템 가용성과 보안 정밀도 사이의 물리적 균형을 제안할 수 있는 가?

Industry

  • 실무 환경에서 '오탐'으로 인해 전사 노트북이 차단되는 사고를 막기 위한 'Safe-listing' 거버넌스 수순을 제안할 수 있는 가? (SFIA)
  • MITRE ATT&CK 매트릭스를 활용해 우리 팀의 EDR 탐지 영역(Coverage)이 어느 물리적 전술에 취약한지 수치 분석할 수 있는 가?

태그

edrendpoint-securitymalwarebehavior-analysisantivirusxdrthreat-huntingendpoint-detection-edrsecuritycryptographyinfrastructureplatform-securitynetworkinfrastructure-security

Network & Infrastructure Security

5 / 7