콘텐츠로 바로가기

IoT & Edge Intelligence

사물인터넷 기기의 저전력 하드웨어 아키텍처부터 엣지 단에서의 실시간 데이터 처리 및 AI 추론 기술을 다루는 학습 노드입니다.

Article
M

Me

hyunyoun's Blog

computer-architecture-embedded-systemscomputer-architectureembedded-systemsio-tedge-intelligencearchitecture-hardwarelearningiot9 min read

1. Overview

IoT 및 엣지 인텔리전스(IoT & Edge Intelligence, IEI)는 수십억 개의 분산된 초소형 디바이스가 수집하는 방대한 아날로그 물리 데이터를 디지털로 변환하고, 이를 지연 시간(Latency) 없이 현장(Edge)에서 즉시 처리 및 판단하는 분산 시스템 아키텍처를 다룹니다.

모든 원시 데이터를 중앙 클라우드로 전송하는 구조는 대역폭 포화, 치명적인 응답 지연, 그리고 데이터 프라이버시 노출이라는 물리적/구조적 한계에 부딪힙니다. 학습자는 동전 크기의 배터리로 수년을 버텨야 하는 초저전력(Ultra-low power) 하드웨어 설계부터, 센서 노드에서 곧바로 경량화된 AI 모델을 구동하는 엣지 지능(TinyML), 대규모 장치 군을 안전하게 연결하는 IoT 통신 프로토콜(MQTT/CoAP), 그리고 하드웨어 신뢰점(RoT) 기반의 보안 부팅 및 펌웨어 배포(OTA)에 이르는 풀스택 엔지니어링을 학습합니다. 이를 통해 중앙 집중형 클라우드의 종속성을 탈피하고 물리 세계와 가장 맞닿은 최전선에서 스스로 동작하는 자율 사물망을 설계합니다.

2. Scope & Boundaries

In-Scope

  • 초저전력 디바이스 아키텍처: MCU 전력 프로파일 최적화, 딥 슬립(Deep Sleep) 및 웨이크업(Wake-up) 로직, Duty Cycling 물리.
  • 엣지 컴퓨팅 트폴로지: 로컬 엣지 게이트웨이(Gateway) 계층 설계, 데이터 지역적 필터링/집계(Aggregation) 및 오프라인 생존성 보장 로직.
  • 온디바이스 AI (TinyML): 머신러닝 모델의 하드웨어 양자화(Quantization) 및 가지치기(Pruning), MCU 내부 NPU(Neural Processing Unit) 가속기 연동.
  • IoT 통신 및 메시징 물리: BLE, LoRaWAN 등의 저전력 통신 계층 특성, MQTT(Pub/Sub) 및 CoAP 프로토콜의 대역폭/신뢰성 보장 메커니즘.
  • 기기 보안 및 프로비저닝: 물리적 훼손 대응 하드웨어 보안(TPM/Secure Element), 암호화된 OTA(Over-the-Air) 펌웨어 업데이트 흐름.

Out-of-Scope

  • 대형 클라우드 컴퓨팅 인프라: AWS/GCP의 데이터 센터 라우팅 설계, 서버리스 오토스케일링 및 분산 스토리지 아키텍처 → 07. System Architecture 영역으로 위임.
  • 범용 머신러닝 및 딥러닝 훈련: 트랜스포머(Transformer) 구조 설계, GPU 클러스터를 이용한 대규모 데이터셋 기반 모델 훈련(Training) 파이프라인 → 11. Machine Learning 영역으로 위임.
  • 프론트엔드 UI/UX 개발: 클라우드에 수집된 센서 데이터를 시각화하는 웹 대시보드(React/Vue) 개발 → 14. Web 영역으로 위임.

Boundaries

  • IEI vs Network (08): Network 도메인이 '대규모 이더넷이나 인터넷을 거치는 패킷의 라우팅과 교환 대역폭'에 초점을 맞춘다면, IEI는 '전력(Power)과 연산 능력이 극도로 제한된 마이크로컨트롤러 칩 내부에서 패킷 생성 오버헤드를 줄이고, 슬립 모드를 통해 배터리를 아끼는 물리적 무선 송수신 전략'에 집중합니다.

3. Counterexample

  • 스마트폰 앱 기반의 단순 데이터 업로더 구현: 모바일 폰의 풍부한 CPU 자원과 무제한에 가까운 Wi-Fi/LTE 망을 이용해 JSON 데이터를 REST API로 클라우드 서버에 올리는 것을 IEI 학습이라 할 수 없습니다. IEI 엔지니어는 전원 플러그가 없는 배터리 구동 센서 노드가 2년 이상 생존하기 위해 수면 모드 간의 Duty Cycle 하드웨어 타이머를 설계하고, 인터넷이 끊긴 사막(오프라인) 한가운데서도 온디바이스 AI(TinyML) 로직을 통해 펌프 고장 징후를 스스로 차단할 수 있도록 최적화해야 합니다.
  • 무조건적인 고주사율 폴링(Polling): "데이터 손실을 막기 위해 1밀리초 단위로 온도 센서를 읽어 클라우드로 보내자"는 설계는 며칠 내로 배터리 고갈과 무선 모듈의 과열을 초래합니다. 물리적 환경의 변화 속도를 분석해 최적의 인터럽트 주기를 산출하고, 엣지 게이트웨이 단위에서 데이터를 미니 배치(Mini-batch)로 묶어 송신 오버헤드를 극적으로 감축해야 합니다.

4. Prerequisites

  • 디지털 논리 및 프로세서 물리 (Basic): MCU의 핵심 페리페럴(ADC, GPIO, Timer) 구조 및 인터럽트 동작 원리의 이해가 필수적입니다. (02-01. DLP)
  • 하드웨어-소프트웨어 인터페이스 (Recommended): 베어메탈 드라이버와 센서 통신(I2C, SPI) 타이밍에 대한 하위 계층 통제 지식이 선행되어야 합니다. (02-05. HSI)

5. Learning Map

Sequence Core Cluster Objective & Description Evidence (BoK)
1 MCU & Low-Power Design 초소형 MCU 아키텍처의 전력 도메인을 이해하고, 배터리 수명을 극대화하는 Sleep 모드를 설계합니다. P1/IoT
2 IoT Connectivity & Messaging 대역폭이 극히 좁은 환경(LoRa/BLE)에서 MQTT/CoAP 프로토콜을 통한 무손실 메시징 체계를 다룹니다. P1/IoT
3 Edge Gateway Architecture 모든 데이터를 클라우드로 보내지 않고, 엣지 장비에서 데이터를 1차 필터링하고 시스템을 오프라인 제어합니다. P5
4 TinyML & On-Device AI 무거운 인공지능 모델을 양자화하여 수 KB의 RAM을 가진 MCU 위에서 직접 추론 연산을 수행합니다. Industry

6. Learning Topics

Basic

Core Topic 01: MCU 하드웨어 아키텍처와 초저전력 제어 (MCU & Low-Power Design)

  • Why to Learn: 스마트 워치나 야외 농업용 센서처럼 전원 공급이 불가능한 극한 환경에서 디바이스가 배터리 교체 없이 수년간 자율 동작하도록 설계하기 위함입니다.
  • What to Learn:
    • Concepts: ARM Cortex-M / RISC-V 소형 코어 구조, 페리페럴 전원 도메인, 듀티 사이클(Duty Cycle).
    • Skills: Active / Sleep / Deep-Sleep 모드 별 물리적 전류 차이(mA vs uA) 분석, 인터럽트 기반의 웨이크업(Wake-up from Sleep) 로직 구현.
    • Tools: 전력 프로파일러(Power Profiler), 하드웨어 멀티미터.
    • Trade-offs: Deep Sleep으로 진입 시 배터리를 획기적으로 보존하는 이득 vs 깊은 잠에서 깰 때 코어가 RAM 상태를 복원하고 레지스터를 재초기화하는 데 걸리는 시간적 오버헤드(Wake-up Latency).
  • How to Learn:
    • 1단계: 마이크로컨트롤러(예: ESP32, STM32) 데이터시트의 전력 소비 표를 열어, 각 슬립 모드에서 차단되는 페리페럴(ADC, 클록)과 유지되는 페리페럴(RTC 타이머)의 차이를 구조적으로 분석합니다.
    • 2단계: 무한 루프(while(1))로 1초마다 LED를 깜빡이는 코드의 전류를 측정하고, 이를 하드웨어 타이머로 교체한 뒤 루프 내에서 Sleep 명령(WFI)을 호출했을 때 전류 소모량이 몇 백분의 일로 급감하는지 관측합니다.
  • Implement: 외부 RTC 타이머에 의해 정확히 10분에 한 번씩만 깨어나 5ms 동안 센서를 읽고 즉시 최고 깊이의 Sleep 모드로 되돌아가는 배터리 최적화 펌웨어 스캐폴딩.

Core Topic 02: IoT 연결 역학과 경량 메시징 (IoT Connectivity & Protocols)

  • Why to Learn: 통신 환경이 열악하고 칩셋 리소스가 빈약한 상황에서도, 수만 개의 센서 데이터를 신뢰성 있게 엣지 게이트웨이나 클라우드로 송수신하기 위해서입니다.
  • What to Learn:
    • Concepts: 메시징 프로토콜(MQTT의 Pub/Sub 패턴, CoAP), 저전력 광역 통신망(LPWAN, LoRaWAN, NB-IoT), BLE(Bluetooth Low Energy).
    • Skills: MQTT의 QoS(0, 1, 2) 수준에 따른 메시지 보장(Ack/Retry) 메커니즘 설계, 페이로드 바이트 크기 최적화.
    • Tools: 네트워크 패킷 캡처 도구(Wireshark), 로컬 MQTT 브로커(Mosquitto).
    • Trade-offs: MQTT QoS 2(정확히 한 번 전송)가 보장하는 절대적 데이터 무결성 vs 추가적인 Ack 패킷 왕복으로 인해 발생하는 무선 모듈 전력 낭비 및 네트워크 대역폭 점유율 폭증.
  • How to Learn:
    • 1단계: HTTP REST API로 1바이트의 온도를 전송할 때 붙어 나가는 방대한 헤더 크기(Overhead)와, MQTT 프로토콜로 동일한 데이터를 전송할 때의 초경량 패킷 사이즈를 Wireshark로 비교 분석합니다.
    • 2단계: LoRaWAN 노드가 게이트웨이와의 거리(수십 km)에 따라 확산 대역폭(Spreading Factor)을 조절하여 속도와 도달 거리 사이의 물리적 타협점을 찾는 원리를 파악합니다.
  • Implement: 센서 노드 환경을 모사하여, 네트워크가 일시적으로 끊겼을 때 센서 데이터를 플래시 메모리에 임시 큐잉(Queueing)해 두었다가, 연결 재개 시 MQTT QoS 1으로 보장 전송하는 모듈 구현.

Practical

Core Topic 03: 엣지 컴퓨팅 트폴로지와 오프라인 게이트웨이 (Edge Computing & Gateways)

  • Why to Learn: 모든 원시 데이터를 구름(Cloud)으로 무작정 쏘아 올릴 경우 발생하는 막대한 클라우드 트래픽 비용과 판단 지연을 막고, 국소적인 구역(Edge) 내에서 독립적인 처리 인프라를 구축하기 위함입니다.
  • What to Learn:
    • Concepts: 포그/엣지 컴퓨팅(Fog/Edge Computing), 엣지 게이트웨이 아키텍처, 데이터 집계(Aggregation) 및 프로토콜 변환.
    • Skills: 시계열 스트림 데이터의 지역적 윈도잉(Windowing/Mini-batching), 보안 부팅(Secure Boot) 및 암호화된 무선 펌웨어 업데이트(OTA).
    • Tools: 엣지 디바이스(Raspberry Pi 수준), Docker 기반 엣지 컨테이너 환경.
    • Trade-offs: 엣지 게이트웨이에 높은 컴퓨팅 연산력을 부여하여 얻는 강력한 로컬 판단력 vs 엣지 기기의 발열 증가, 비용 상승, 오작동 시 유지보수를 위한 물리적 접근 난이도 증가.
  • How to Learn:
    • 1단계: 10개의 진동 센서가 매초 1,000건의 데이터를 보낼 때, 이를 곧바로 클라우드망에 태우지 않고 엣지 게이트웨이에서 1초간 평균/최댓값만 추출(Aggregation)하여 단 1건의 JSON으로 압축 송신하는 파이프라인 다이어그램을 설계합니다.
    • 2단계: 클라우드 연결이 물리적으로 단절된 오프라인 상황(선박, 광산)에서도, 엣지 서버 내부의 로컬 룰 엔진(Rule Engine)이 특정 센서 임계치를 인식하여 액추에이터에 차단 명령을 내리는 생존 로직을 분석합니다.
  • Implement: 중앙 서버에서 새 펌웨어 바이너리(Signed Image)를 다운로드 받아 해시 무결성을 검증하고, 재부팅 시 구형 버전을 신형으로 덮어쓰는 엣지 디바이스 OTA(Over-the-Air) 업데이트 플로우 모의 스크립트.

Advanced

Core Topic 04: 엣지 지능과 TinyML (On-Device AI & TinyML)

  • Why to Learn: 인터넷 연결이라는 불확실한 외부에 의존하지 않고, 카메라 영상이나 진동 패턴을 칩 내부에서 자체 AI 모델로 즉각 추론하여 사물의 지능화를 완성하기 위함입니다.
  • What to Learn:
    • Concepts: TinyML, 모델 양자화(Model Quantization), 가지치기(Pruning), 엣지 AI 가속기(NPU).
    • Skills: 32비트 Float 딥러닝 모델을 8비트 정수(Int8)로 압축 변환하는 기법, MCU 캐시 및 SRAM 한계 돌파를 위한 메모리 풋프린트 최소화.
    • Tools: TensorFlow Lite for Microcontrollers, CMSIS-NN 라이브러리, 에지 임펄스(Edge Impulse).
    • Trade-offs: 신경망 가중치(Weight)를 극도로 단순화(양자화)하여 얻는 압도적 연산 속도 및 초저전력 소모율 vs 양자화 오차로 인해 특정 엣지 케이스에서 불가피하게 하락하는 추론 정확도 간의 타협.
  • How to Learn:
    • 1단계: 수백 MB에 달하는 음성 인식 모델을 가지치기(네트워크 내의 무의미한 노드 연결 삭제)와 8비트 양자화(실수 소수점 연산을 정수로 축소)를 통해 100KB 이하로 압축하는 원리를 수학적/메모리적 관점에서 서술합니다.
    • 2단계: MCU 내부에 탑재된 NPU(Neural Processing Unit)가 어떻게 단순 행렬 곱(MAC, Multiply-Accumulate) 연산을 범용 코어보다 수십 배 적은 전력으로 처리해 내는지 하드웨어 데이터 패스를 분석합니다.
  • Implement: 미리 양자화된 머신러닝 모델 배열을 C 헤더 파일 형태로 로드하고, 가속도 센서 입력 배열을 인퍼런스 엔진(TFLite)에 통과시켜 로봇의 동작 상태(걷기/뛰기/넘어짐) 판단 값을 즉시 도출해 내는 마이크로 추론 코드.

7. Terminology

Term (EN / ko, abbr) 1문장 정의 단계(기본/권장/실무/심화) 역할/맥락 관련 개념 유사/대비/함께 사용 오해 포인트 Evidence(Primary/Secondary/Industry) Flags(core/misused/legacy)
TinyML mW 단위의 전력으로 MCU 레벨에서 머신러닝 추론을 수행하는 기술입니다. 실무 지능화 Quantization Edge AI 클라우드 AI와 연산량 동일시 Industry Org core
Duty Cycle (듀티 사이클) 전체 주기 중 시스템이 활성 상태로 유지되는 비율로, 전력 설계 값입니다. 기본 전력 관리 Deep Sleep Throughput 성능 지표로만 오해함 P1:CS2023/Internet core
LPWAN 낮은 전력으로 수 킬로미터 이상의 통신 거리를 보장하는 광역 통신 기술입니다. 추천 원거리 통신 LoRa, Sigfox Wi-Fi / LTE 고속 통신망으로 오해 Industry IoT core
OTA (무선 업데이트) 망을 통해 디바이스의 펌웨어를 원격으로 수정/보안하는 기술입니다. 실무 유지 보수 Bootloader Provisioning 데이터 송수신과 구분을 못함 Industry IoT Docs core

8. References

Primary References

Secondary References

  • [IoT Fundamentals] David Hanes et al., Cisco Press — Comprehensive guide.
  • [TinyML: Machine Learning with TensorFlow Lite] Pete Warden — Hands-on embedded AI.

Industry References

  • [Arm IoT Education Kit] — Learning paths for MCU and IoT systems.
  • [Azure/AWS IoT Documentation] — Modern enterprise edge architectures.

9. Final Checklist

Primary Checklist

  • IoT 노드의 전력 소비 프로파일을 분석하여 배터리 수명을 예측하고 'Duty Cycle'을 설계할 수 있는가? (P1)
  • 데이터의 성격(Latency, Privacy)에 따라 클라우드와 엣지의 처리 역할을 물리적으로 분담 가능한가? (P1, P5)

Secondary Checklist

  • 제한된 메모리 환경에서 AI 모델을 양자화하여 MCU에 올리고 추론 정확도를 검증할 수 있는가?
  • 신뢰성 없는 네트워크 환경에서 특정 메시지의 도달을 보장하기 위한 Ack/Retry 메커니즘을 설계했는가?

Industry Checklist

  • 하드웨어 고유 인증서를 활용하여 다수의 IoT 디바이스를 안전하게 인증(Provisioning)할 수 있는가? (SFIA)
  • LoRa 등 LPWAN 환경에서 페이로드 크기 제약을 고려한 효율적인 상향 링크(Uplink)를 설계할 수 있는가?

Architecture Hardware

8 / 9