IoT Greengrass ML 추론을 선택해야 하는 이유
AWS IoT Greengrass를 사용하면 클라우드에서 생성, 훈련, 최적화된 모델을 통해 디바이스에서 로컬로 기계 학습(ML) 추론을 쉽게 수행할 수 있습니다. AWS IoT Greengrass는 Amazon SageMaker에서 훈련된 기계 학습 모델을 사용하거나 Amazon S3에 저장된 사전 학습된 모델을 가져오는 등 유연성이 뛰어납니다.
기계 학습에서는 기존 데이터로부터 학습할 수 있는 통계 알고리즘을 사용하여(훈련이라고 하는 프로세스) 새로운 데이터에 대한 의사 결정을 내립니다(추론이라고 하는 프로세스). 트레이닝 과정에서 모델 개발을 위한 데이터 패턴 및 관계가 발견됩니다. 이 모델을 사용하면 시스템에서 지금까지 다룬 적 없는 데이터에 대해 지능형 의사 결정을 내릴 수 있습니다. 모델을 최적화하면 모델 크기가 압축되어 실행 속도가 빨라집니다. 기계 학습 모델의 트레이닝 및 최적화는 대량의 컴퓨팅 리소스가 필요하므로 당연히 클라우드에 적합합니다. 하지만 일반적으로 추론에서는 컴퓨팅 파워를 훨씬 적게 사용하고 새로운 데이터가 제공될 때 실시간으로 수행될 때가 많습니다. 따라서 IoT 애플리케이션이 로컬 이벤트에 신속하게 대응할 수 있으려면 매우 짧은 대기 시간으로 추론 결과를 확보하는 것이 중요합니다.
AWS IoT Greengrass를 통해 두 가지 측면의 장점을 모두 누릴 수 있습니다. 클라우드에서 개발과 훈련을 거쳐 최적화된 기계 학습 모델을 사용하여 디바이스의 로컬에서 추론을 실행합니다. 예를 들어 장면 탐지 분석을 위한 SageMaker에서 예측 모델을 개발하여 카메라에서 실행하도록 최적화한 후 의심스러운 활동을 예측해 알림 메시지를 전송할 목적으로 배포할 수 있습니다. AWS IoT Greengrass에서 추론을 실행하여 수집된 데이터는 다시 SageMaker로 전송되고, 여기에서 태그 지정을 통해 기계 학습 모델의 품질을 계속해서 높이는 데 사용됩니다.
이점
유연성
AWS IoT Greengrass에는 Amazon SageMaker Neo Deep Learning Runtime(DLR), Apache MXNet, TensorFlow, 인텔 Atom 기반 디바이스에 사용되는 Chainer 패키지, NVIDIA Jetson TX2 그리고 Raspberry Pi가 사전 개발되어 제공되기 때문에, 처음부터 기계 학습 프레임워크를 구축하여 디바이스에 구성할 필요가 없습니다. 또한 PyTorch 및 Caffe2를 비롯하여 인기 있는 기타 프레임워크와 호환됩니다. AWS IoT Greengrass와 함께 Amazon SageMaker Neo를 사용할 경우 이러한 프레임워크에서 작성된 모델은 Neo 런타임을 포함하는 AWS IoT Greengrass 디바이스에서 실행할 이식 가능한 코드로 변환되므로, 엣지 영역에서 추가로 튜닝할 필요가 없습니다.
몇 단계를 통해 커넥티드 디바이스에 모델 배포
AWS IoT Greengrass를 사용하면 기계 학습 모델을 클라우드에서 디바이스로 손쉽게 배포할 수 있습니다. AWS IoT Greengrass 콘솔에서 클릭 몇 번으로 Amazon SageMaker 또는 Amazon S3에서 훈련된 모델을 찾아 원하는 모델을 선택한 후 대상 디바이스에 배포할 수 있습니다. 선택한 모델은 원하는 커넥티드 디바이스에 배포됩니다.
추론 성능 가속화
Amazon SageMaker와 Neo Deep Learning Compiler를 함께 통합하면 기계 학습 프레임워크를 수동으로 튜닝하거나 사용할 때와 비교해 최대 2배까지 빠른 속도로 실행되어 최적의 런타임으로 기계 학습 모델을 배포할 수 있습니다. 또한 AWS IoT Greengrass에서는 공통 기계 학습 프레임워크를 비롯해 Nvidia Jetson TX2 보드 같은 대상 디바이스에 사전 개발된 런타임을 제공하여 디바이스에 설치된 GPU 같은 하드웨어 가속기도 이용할 수 있습니다.
추가 디바이스에서 추론 실행
Amazon SageMaker 및 Neo 컴파일러와의 통합으로 모델이 1/10보다 작은 메모리 공간으로 최적화되기 때문에 홈 보안 카메라나 액추에이터 같이 리소스 제약이 큰 디바이스에서도 실행 가능합니다.
커넥티드 디바이스에서 더 쉽게 추론 실행
AWS IoT Greengrass가 실행되는 디바이스에서 로컬로 추론을 수행하면 클라우드로 디바이스 데이터를 보내 예측하는 지연 시간과 비용이 줄어듭니다. 기계 학습 추론을 수행하기 위해 모든 데이터를 클라우드로 전송하지 않고서도 디바이스에서 직접 추론을 실행할 수 있습니다.
더욱 정확한 모델 구축
AWS IoT Greengrass를 사용하면 추론을 수행하여 결과를 수집하고, 이상치를 탐지한 후 데이터를 다시 클라우드와 Amazon SageMaker로 전송할 수 있습니다. 그러면 여기에서 데이터를 다시 분류하고 태그를 지정하며 기계 학습 모델의 정확성을 높이기 위해 관련 모델에 사용할 수 있습니다.
사용 사례
주요 고객
Yanmar는 AWS IoT Greengrass를 통해 채소의 주요 성장 상태를 자동으로 탐지 및 인식하여 더 많은 작물을 재배함으로써 비닐하우스 작업의 인텔리전스 수준을 늘리는 데 도움을 받고 있습니다.
Electronic Caregiver는 AWS IoT Greengrass ML 추론을 통해 고품격 간병 서비스를 제공하는 것은 물론, 기계 학습 모델을 에지 디바이스에 직접 푸시하고 환자를 더 안전하게 관리할 수 있습니다.
Vantage Power는 AWS IoT Greengrass를 통해 기계 학습 모델을 개별 차량으로 푸시하고 배터리 결함을 1개월 먼저 탐지합니다.
주요 파트너
