Yolov5l 모델을 이용한 객체 탐지 진행 시 FPS 문의

현재 NPU 여러장을 효과적으로 사용하기 위한 가이드를 작성하고 있습니다. 해당 가이드를 통해 더 자세한 설명을 드리겠습니다.

간략하게는 Model Zoo에서 제공되어지는 모델은 NPU의 PE를 fusion 하여 사용하고 있는 모델이기 때문에(자료 참조 - 32~35p), PE를 나누어서 사용하시고 이미지에 대한 처리를 Multiprocessing 기능을 이용하셔서 병렬로 처리하신다면(PE 당 하나의 프로세스) 더 높은 FPS를 얻으실 수 있습니다.

가이드는 빠르게 작성해서 공유 드리겠습니다.

2 Likes