[기획자의 하드웨어 5분 스터디] #009. Edge AI (엣지 AI)

💡 하드웨어와 AI 도메인으로 시야를 넓혀가는 서비스 기획자의 5분 스터디 기록입니다.

 

[개념]

보통 AI라고 하면 거대한 데이터 센터(Cloud)로 정보를 보내 처리하는 것을 떠올리지만, '엣지 AI'는 데이터가 발생하는 현장(기기 자체)에서 즉시 AI연산을 수행하는 기술이다. 데이터를 클라우드(중앙 서버)로 보내지 않고, 기기(Edge) 내부에서 즉시 연산하는 방식을 말한다. 스마트폰의 얼굴 인식이나 자율주행차의 장애물 감지가 대표적이라고 한다.요리를 할 때로 비유하자면, 모든 재료를 멀리 있는 대형 식당(Cloud)에서 보내서 조리해오는 것이 아니라 내 주방(Edge)에서 바로 칼질하고 볶는 것과 같다. 훨씬 빠르고 재료(데이터)가 외부로 유출될 걱정이 없다.

 

[최신 트렌드]

온디바이스 AI(On-Device AI): 최근 보안 카메라들은 '사람'과 '동물'을 카메라 자체에서 구분한다. 서버를 거치지 않으니 알림 속도가 획기적으로 빠르고 통신비가 들지 않는다. 갤럭시 S24나 아이폰의 실시간 통번역 기능이 대표적이다. 서버를 거치지 않기 때문에 비행기 모드에서도 사용할 수 있고 속도가 매우 빠른 편이다.지능형 CCTV: 영상 보안 도메인에서 매우 중요하다. 수상한 침입자가 감지되었을 때 영상을 클라우드로 보내서 분석 결과를 기다리는 게 아니라, 카메라 자체가 즉시 '사람'임을 인식하고 경보를 울리는 방식이다.

 

[오늘의 인사이트] 

기획자는 언제 '클라우드 AI'를 쓰고 언제 '엣지 AI'를 쓸지 결정해야 한다. 그럴 때 다음 세 가지 요소를 고려하면 좋다.

지연 시간(Latency) 제로: 자율 주행차나 보안 로봇처럼 0.1초의 판단이 사고로 이어지는 서비스라면 반드시 엣지 AI가 필요하다. '생사가 걸린 결정은 현장에서 한다'는 원칙이다.

프라이버시와 보안: 영상 보안 기획 시 사용자의 거실 영상이 외부 서버로 전송되는 것 자체에 거부감을 느낄 수 있다. '데이터는 기기 밖으로 나가지 않습니다'라는 메시지는 강력한 마케팅 포인트가 될 수 있다. 하지만 요즘처럼 개인정보가 공공정보라고 우스개소리를 하는 시대에는 '보안'이라는 말이 진짜 보안의 역할을 한다고 어느 소비자가 진심으로 믿을까. 이미 홈캠이 해킹되는 사례부터 통신3사도 모두 털려서 브랜드 신뢰도를 지키는 것도 굉장히 중요한 것 같다. 

운영 비용 절감: 모든 영상을 클라우드로 전송하면 막대한 서버 비용과 통신비가 발생한다. 엣지에서 의미있는 이벤트(예: 침입 발생)만 선별해서 클라우드로 보냄으로써 비즈니스 수익성을 극대화할 수 있다. 선별에서 필요한 영상이 누락될 수도 있으니까 예외 방지 차원에서 이런 선별을 시스템에서도 하고 용량을 한정해서 고객이 직접 선별해서 할 수도 있게 하면 좋을 것 같다. 

내가 기획하려는 서비스에서 반드시 현장에서 즉시 처리해야 하는 순간이 언제인가? 그리고 나중에 서버에서 천천히 분석해도 되는 데이터는 무엇인가?를 고민해보고 클라우드와 엣지를 적절히 하이브리드로 섞어서 쓰면 좋을 것 같다.