엣지 AI란 무엇인가요?

엣지 AI란 무엇인가요?

 

엣지 인공지능은 센서나 사물인터넷 (IoT) 기기 와 같은 로컬 엣지 디바이스에 AI 알고리즘과 AI 모델을 직접 배포하는 것을 의미하며 , 이를 통해 클라우드 인프라에 지속적으로 의존하지 않고 실시간 데이터 처리 및 분석이 가능해집니다.

 

본질적으로 엣지 AI, 또는 "엣지에서의 AI"는 엣지 컴퓨팅 과 인공지능을 결합하여 상호 연결된 엣지 디바이스에서 직접 머신러닝 작업을 수행하는 것을 의미합니다 . 엣지 컴퓨팅을 통해 데이터는 디바이스 위치 가까이에 저장될 수 있으며, AI 알고리즘은 인터넷 연결 여부와 관계없이 네트워크 엣지에서 바로 처리를 가능하게 합니다. 이러한 기능 덕분에 데이터 처리가 밀리초 단위로 이루어져 실시간 피드백을 제공할 수 있습니다.

 

자율주행 자동차, 웨어러블 기기, 보안 카메라, 스마트 가전제품 등은 엣지 AI 기능을 활용하여 사용자가 가장 필요로 할 때 실시간 정보를 신속하게 제공하는 기술의 예입니다.

 

엣지 AI는 산업계에서 워크플로우 최적화, 비즈니스 프로세스 자동화, 혁신 촉진 등 다양한 용도로 활용되면서 점차 인기를 얻고 있습니다. 동시에 지연 시간, 보안, 비용 절감과 같은 중요한 문제 해결에도 도움을 줍니다.

 

엣지 AI와 분산형 AI 비교

 

엣지 AI는 현장에서 의사결정을 내릴 수 있도록 지원하여, 데이터를 중앙 위치로 지속적으로 전송하고 처리를 기다릴 필요성을 없애고 비즈니스 운영 자동화를 간소화합니다. 그러나 AI 파이프라인을 재학습하고 업데이트된 모델을 배포하기 위해서는 여전히 데이터를 클라우드로 전송해야 합니다.

 

이러한 패턴을 여러 위치와 다양한 애플리케이션에 배포하는 것은 데이터 집중도, 이질성, 규모 및 자원 제약과 같은 문제를 야기합니다. 분산형 AI는 지능형 데이터 수집 통합, 데이터 및 AI 수명주기 자동화, 스포크의 적응 및 모니터링, 데이터 및 AI 파이프라인 최적화를 통해 이러한 장애물을 극복하는 데 도움을 줍니다.

 

분산형 인공지능(DAI)은 다중 에이전트 환경 내에서 작업, 목표 또는 의사 결정의 성과를 분산, 조정 및 예측하는 역할을 담당합니다. DAI는 애플리케이션을 여러 스포크에 걸쳐 확장하고 AI 알고리즘이 엣지에서 여러 시스템, 도메인 및 장치에 걸쳐 자율적으로 처리할 수 있도록 지원합니다.

 

영상과 소스 원문 링크 https://www.ibm.com/think/topics/edge-ai

 

엣지 AI와 클라우드 AI 비교

 

현재 클라우드 컴퓨팅 과 애플리케이션 프로그래밍 인터페이스(API)는 머신러닝 모델을 학습시키고 배포하는 데 사용됩니다. 엣지 AI는 예측 분석, 음성 인식, 이상 탐지 등의 머신러닝 작업을 사용자 가까이에서 수행하며, 기존 클라우드 서비스와 여러 면에서 차별화됩니다. 애플리케이션 개발 및 실행이 전적으로 클라우드에서 이루어지는 대신, 엣지 AI 시스템은 데이터가 생성된 지점과 더 가까운 곳에서 데이터를 처리하고 분석합니다.

 

머신러닝 알고리즘은 엣지에서 실행될 수 있으며, 정보는 개인 데이터 센터 나 클라우드 컴퓨팅 시설이 아닌 IoT 기기 자체에서 처리될 수 있습니다.

 

실시간 예측 및 데이터 처리가 필요한 경우 엣지 AI가 더 나은 선택으로 떠오릅니다. 최근 자율주행차 기술의 발전을 예로 들어보겠습니다. 이러한 차량의 안전한 주행과 잠재적 위험 회피를 위해서는 신호등, 난폭 운전자, 차선 변경 등 다양한 요소를 신속하게 감지하고 대응해야 합니다. 또한 보행자, 연석 및 기타 여러 변수도 고려해야 합니다.

 

엣지 AI는 차량 내에서 이러한 정보를 로컬로 처리할 수 있으므로 클라우드 기반 AI를 통해 원격 서버로 데이터를 전송할 때 발생할 수 있는 연결 문제 위험을 줄여줍니다. 이처럼 신속한 데이터 반응이 생사를 좌우할 수 있는 상황에서는 차량의 빠른 반응 속도가 매우 중요합니다.

 

반대로 클라우드 AI는 AI 알고리즘과 모델을 클라우드 서버에 배포하는 것을 의미합니다. 이 방식은 데이터 저장 용량과 처리 능력을 향상시켜 더욱 정교한 AI 모델의 학습 및 배포를 용이하게 합니다.

 

엣지 AI와 클라우드 AI의 주요 차이점

 

컴퓨팅 능력

 

클라우드 AI는 엣지 AI에 비해 더 뛰어난 연산 능력과 저장 용량을 제공하여 더욱 복잡하고 고급스러운 AI 모델의 학습 및 배포를 용이하게 합니다. 엣지 AI의 처리 능력은 디바이스 크기 제약에 의해 제한됩니다.

 

지연 시간

 

지연 시간은 생산성, 협업, 애플리케이션 성능 및 사용자 경험에 직접적인 영향을 미칩니다. 지연 시간이 높을수록(응답 시간이 느릴수록) 이러한 영역의 성능이 저하됩니다. 엣지 AI는 디바이스에서 직접 데이터를 처리하여 지연 시간을 줄이는 반면, 클라우드 AI는 데이터를 원격 서버로 전송하기 때문에 지연 시간이 증가합니다.

 

네트워크 대역폭

 

대역폭은 전 세계적으로 주고받는 공용 네트워크 트래픽의 데이터 전송량을 의미합니다. 엣지 AI는 기기 내에서 데이터를 로컬로 처리하기 때문에 낮은 대역폭을 필요로 하는 반면, 클라우드 AI는 데이터를 원거리 서버로 전송해야 하므로 더 높은 네트워크 대역폭을 요구합니다.

 

보안

 

엣지 아키텍처는 민감한 데이터를 기기에서 직접 처리하여 개인 정보 보호를 강화하는 반면, 클라우드 AI는 데이터를 외부 서버로 전송하여 민감한 정보가 제3자 서버에 노출될 가능성을 높입니다.

 

엣지 AI가 최종 사용자에게 제공하는 이점

 

Grand View Research, Inc. 의 보고서에 따르면, 2022년 전 세계 엣지 AI 시장 규모는 147억 8,750만 달러였으며, 2023년에는 6,647만 달러로 성장할 것으로 예상됩니다. 사물인터넷(IoT) 기반 엣지 컴퓨팅 서비스에 대한 수요 증가와 엣지 AI의 고유한 장점들이 엣지 컴퓨팅의 빠른 확장을 견인하고 있습니다. 엣지 AI의 주요 이점은 다음과 같습니다.

 

지연 시간 감소

 

완전한 온디바이스 처리를 통해 사용자는 원격 서버에서 정보가 전송될 때까지 발생하는 지연 없이 빠른 응답 속도를 경험할 수 있습니다.

 

대역폭 감소

 

엣지 AI는 데이터를 로컬에서 처리하므로 인터넷을 통해 전송되는 데이터 양을 최소화하여 인터넷 대역폭을 절약합니다. 대역폭 사용량이 줄어들면 데이터 연결은 더 많은 양의 데이터를 동시에 송수신할 수 있습니다.

 

실시간 분석

 

사용자는 시스템 연결 및 통합 없이도 기기에서 실시간 데이터 처리를 수행할 수 있으므로, 다른 물리적 위치와의 통신 없이 데이터를 통합하여 시간을 절약할 수 있습니다. 그러나 엣지 AI는 특정 AI 애플리케이션에 필요한 방대한 양과 다양한 데이터를 처리하는 데 어려움을 겪을 수 있습니다. 이러한 한계를 극복하기 위해서는 클라우드 컴퓨팅의 리소스와 기능을 활용하기 위해 클라우드 컴퓨팅과 통합해야 합니다.

 

데이터 개인정보 보호

 

데이터가 다른 네트워크로 전송되어 사이버 공격에 취약해지는 것을 방지하기 때문에 개인정보 보호가 강화됩니다. 엣지 AI는 기기 내에서 정보를 로컬로 처리함으로써 데이터 오용 위험을 줄입니다. 데이터 주권 규정이 적용되는 산업에서는 엣지 AI를 통해 지정된 관할 구역 내에서 데이터를 로컬로 처리하고 저장함으로써 규정 준수를 지원할 수 있습니다.

 

하지만 중앙 집중식 데이터베이스는 잠재적 공격자에게 매력적인 표적이 될 수 있으므로 엣지 AI는 여전히 보안 위험에 노출되어 있습니다.

 

확장성

 

엣지 AI는 클라우드 기반 플랫폼과 OEM(Original Equipment Manufacturer) 기술의 내재된 엣지 기능을 활용하여 시스템을 확장하는 기술로, 소프트웨어와 하드웨어 모두를 포괄합니다. OEM 업체들은 자사 장비에 엣지 기능을 기본적으로 통합하기 시작했으며, 이로 인해 시스템 확장이 더욱 용이해졌습니다. 또한, 이러한 확장을 통해 상위 또는 하위 노드에 장애가 발생하더라도 로컬 네트워크의 기능을 유지할 수 있습니다.

 

비용 절감

 

클라우드 기반 AI 서비스 이용에 따른 비용은 상당할 수 있습니다. 엣지 AI는 값비싼 클라우드 리소스를 즉각적인 현장 작업에 사용하는 대신, 후속 분석을 위한 데이터 축적 저장소로 활용할 수 있는 옵션을 제공합니다. 이는 클라우드 컴퓨터와 네트워크의 부하를 줄여줍니다.

 

CPU, GPU 및 메모리 사용량은 작업 부하가 엣지 디바이스에 분산됨에 따라 크게 감소하며, 이는 엣지 AI가 기존 AI 방식보다 비용 효율적인 옵션임을 보여줍니다.

 

클라우드 컴퓨팅이 서비스에 필요한 모든 연산을 처리할 때, 중앙 집중식 서버는 상당한 작업 부하를 감당해야 합니다. 네트워크는 중앙 서버로 데이터를 전송하기 위해 높은 트래픽을 견뎌야 합니다. 머신들이 작업을 실행할 때마다 네트워크는 다시 활성화되어 사용자에게 데이터를 전송합니다. 엣지 디바이스는 이러한 지속적인 데이터 전송 과정을 없애줍니다. 결과적으로 네트워크와 머신 모두 모든 연산을 처리해야 하는 부담에서 벗어나 스트레스를 줄일 수 있습니다.

 

더욱이, 엣지 AI의 자율적인 특성은 데이터 과학자의 지속적인 관리 감독 필요성을 없애줍니다. 데이터의 궁극적인 가치와 그 결과를 결정하는 데 있어 인간의 해석이 중요한 역할을 하지만, 엣지 AI 플랫폼이 이러한 책임의 일부를 대신하게 됩니다. 이러한 변화는 궁극적으로 기업의 비용 절감으로 이어집니다.

 

엣지 AI 기술은 어떻게 작동하나요?

 

엣지 AI는 신경망 과 딥러닝을 사용하여 제공된 데이터 내의 객체를 정확하게 인식, 분류 및 설명하는 모델을 학습시킵니다. 이러한 학습 과정은 일반적으로 중앙 집중식 데이터 센터 또는 클라우드를 활용하여 모델 학습에 필요한 방대한 양의 데이터를 처리합니다.

 

엣지 AI 모델은 배포 후 시간이 지남에 따라 점진적으로 성능이 향상됩니다. AI가 문제를 만나면 문제가 발생한 데이터는 종종 클라우드로 전송되어 초기 AI 모델을 추가로 학습하는 데 사용되며, 궁극적으로 이 클라우드 기반 AI 모델이 엣지의 추론 엔진을 대체하게 됩니다. 이러한 피드백 루프는 모델 성능 향상에 크게 기여합니다.

 

산업별 엣지 AI 활용 사례

 

현재 엣지 AI의 일반적인 예로는 스마트폰, 웨어러블 건강 모니터링 기기(예: 스마트워치), 자율주행 차량의 실시간 교통 정보, 커넥티드 디바이스 및 스마트 가전제품 등이 있습니다. 다양한 산업 분야에서도 비용 절감, 프로세스 자동화, 의사 결정 개선 및 운영 최적화를 위해 엣지 AI 애플리케이션을 점점 더 많이 도입하고 있습니다.

 

의료 서비스

 

의료 서비스 제공업체들은 엣지 AI의 실질적인 구현과 최첨단 기기 도입을 통해 상당한 변화를 겪고 있습니다. 이러한 기술이 더욱 발전한다면, 환자의 개인정보를 보호하고 대응 시간을 단축하면서 더욱 스마트한 의료 시스템을 구축할 수 있을 것입니다.

 

웨어러블 건강 모니터는 내장된 AI 모델을 사용하여 심박수, 혈압, 혈당 수치 및 호흡과 같은 지표를 평가합니다. 웨어러블 엣지 AI 기기는 환자가 갑자기 넘어지는 것을 감지하고 보호자에게 알림을 보낼 수도 있는데, 이는 이미 시중에 나와 있는 일반적인 스마트워치에 포함된 기능입니다.

 

응급 차량에 신속한 데이터 처리 기능을 탑재함으로써, 구급대원은 건강 모니터링 장치에서 유용한 정보를 추출하고 의사와 협의하여 효과적인 환자 안정화 전략을 결정할 수 있습니다. 동시에 응급실 의료진은 환자 개개인의 맞춤형 치료 요구 사항에 대비할 수 있습니다. 이러한 상황에 엣지 AI를 통합하면 중요한 의료 정보를 실시간으로 교환하는 데 도움이 됩니다.

 

조작

 

전 세계 제조업체들은 제조 공정을 혁신하고 효율성과 생산성을 향상시키기 위해 엣지 AI 기술 통합에 착수했습니다.

 

센서 데이터를 활용하면 이상 징후를 사전에 파악하고 기계 고장을 예측할 수 있는데, 이를 예측 유지보수 라고 합니다 . 장비 센서는 결함을 감지하고 중요한 수리 사항에 대해 관리자에게 즉시 알림으로써 적시에 문제를 해결하고 운영 중단을 방지할 수 있습니다.

 

엣지 AI는 품질 관리, 작업자 안전, 생산량 최적화, 공급망 분석 및 현장 최적화와 같은 이 산업의 다른 필요 영역에도 적용될 수 있습니다.

 

소매

 

전자상거래와 온라인 쇼핑의 인기 상승으로 기업들이 엄청난 변화를 겪고 있다는 것은 이미 잘 알려진 사실입니다. 전통적인 오프라인 소매점들은 고객에게 원활한 쇼핑 경험을 제공하고 고객 참여를 유도하기 위해 혁신을 거듭해야 했습니다. 이러한 변화 속에서 '픽앤고(pick-and-go)' 매장, 센서가 장착된 스마트 쇼핑 카트, 스마트 계산대와 같은 새로운 기술들이 등장했습니다. 이러한 솔루션들은 엣지 AI 기술을 활용하여 고객의 기존 매장 경험을 향상시키고 속도를 높입니다.

 

스마트 홈

 

현대의 주거 환경은 초인종, 온도 조절 장치, 냉장고, 엔터테인먼트 시스템, 제어식 전구 등과 같은 "스마트" 기기로 가득 차 있습니다. 이러한 스마트 홈은 엣지 AI를 활용하여 거주자의 삶의 질을 향상시키는 기기 생태계를 구축하고 있습니다.

 

거주자가 현관에 온 사람을 식별해야 하거나 기기를 통해 집안 온도를 조절해야 하는 경우, 엣지 기술은 현장에서 데이터를 신속하게 처리할 수 있습니다. 이러한 전략은 정보를 중앙 원격 서버로 전송할 필요성을 없애고, 거주자의 개인 정보를 보호하며, 개인 데이터에 대한 무단 접근 위험을 줄입니다.

 

보안 및 감시

 

보안 영상 분석에서 속도는 매우 중요합니다. 수많은 컴퓨터 비전 시스템은 실시간 분석에 필요한 속도를 갖추지 못하고 있습니다. 이러한 시스템들은 보안 카메라에서 캡처한 이미지나 영상을 로컬에서 처리하는 대신, 고성능 처리 기능을 갖춘 클라우드 기반 시스템으로 전송합니다. 데이터를 로컬에서 처리하지 않으면 클라우드 기반 시스템은 데이터 업로드 및 처리 지연으로 인한 지연 시간 문제를 겪게 됩니다.

 

엣지 AI의 컴퓨터 비전 애플리케이션과 객체 감지 기능은 스마트 보안 기기에서 의심스러운 활동을 식별하고, 사용자에게 알림을 보내며, 경보를 울립니다. 이러한 기능은 거주자에게 더욱 강화된 안전감과 안심을 제공합니다.

 

 

원문 참고자료는 다음 링크를 참고하였습니다.

 

참고 자료: https://www.ibm.com/think/topics/edge-vs-cloud-ai

 

https://www.ibm.com/think/topics/edge-ai

 

https://mukul04-sk.medium.com/edge-ai-vs-distributed-ai-154060456f1b