Npu 사용 실패 에러 (양자화 이후에 발생)

안녕하세요.
프로메디우스 김민준 연구원입니다.

npu로 inference를 진행하려는데, 다음과 같은 오류가 발생합니다.

Calibration 까지는 정상적으로 진행되었고, 이후 과정에서 생긴 오류입니다.

현재 npu 상태이고,
Screenshot from 2024-06-27 15-19-11

sdk 버전 상태입니다.
Screenshot from 2024-06-27 15-19-49

도움 주시면 감사하겠습니다.
김민준 드림.

안녕하세요?

현재 로그를 보면 npu0:0-1 장치로 설정되어 있는데 실제로 해당 장치가 없어서 그런것으로 보입니다.

furiosactl list를 보면 2, 15번 장치가 있는 것 같습니다. 장치를 명시적으로 지정하지 않으면 보통 런타임에서 가용한 장치를 찾아 동작하는데요.

Runtime을 시작하는 부분에 장치를 아예 지정하지 않거나 장치를 지정하신 부분 코드만 공유 주시면 더 자세한 가이드를 드릴 수 있을 것 같네요.

1 Like