Calibration 수행 시, 모델에 1차원 정수형 데이터를
Calibration.collect_data에 파라미터로 넣는 경우 Panic Exception이 발생합니다.
mmpose quantized 예제 코드를 참고하였으며, 사용된 모델은 CNN 기반 TextClassification 모델입니다.
안녕하세요, FuriosaAI 김종욱입니다.
해당 에러메시지를 보아 onnx파일의 batch size가 dynamic하게 설정되어 있어 발생하는 문제로 보입니다.
혹시 onnx 파일 생성시 batch size를 static하게 설정해주셨는지요?
현재 버전의 SDK에서는 static한 입력 사이즈만 지원하고 있습니다. 불편함을 드려 죄송합니다.
2 Likes
답변 감사합니다. 해당 사항은 수정하여 에러가 발생하지 않지만,
아래의 Panic Exception(not implemented) 은 동일하게 발생합니다.
관련 메소드도 찾아봤는데 nd.array를 재귀적으로 호출하는 부분 말고는 찾을 수가 없어 다시한번
문의를 남깁니다.
해당 메서드 파라미터에 제한된 타입 같은 것이 있나요?
현재 입력으로 들어가는 input의 shape이 (1,20)이 맞으신지요? tensor_review의 shape은 input의 shape과 동일하고, calibrator.collect_data([[tensor_review]]) 로 데이터를 넘겨주셔도 동일한 에러가 발생하시나요?
해당 문제는 현재 SDK가 입력 텐서가 int64일 경우 지원하지 있어서 발생하는 것 같습니다. 혹시 int16과 같은 타입으로 입력을 바꿀 수 있는 상황이신가요?
text classification을 위해서는 int32가 최소 타입인 듯 합니다.
그래서 다른 구성의 모델을 찾아봐야 할듯 싶습니다.
혹시 지원되는 입력 텐서 타입이 어떻게 되나요?
int64만 지원이 안되고 있는 것으로 알고있습니다!
int32는 지원이 가능한 것으로 알고 있어 한번 시도가능하실까요?