furiosa.quantizer를 사용해 onnx를 양자화해야지만 furiosa-compile 명령어로 컴파일이 가능한건가요?
아니면 onnx 양자화 기법을 사용해 양자화를 진행하여도 furiosa-compile 명령어로 컴파일이 가능한건지 문의드립니다.
안녕하세요, 퓨리오사에이아이 이지수입니다.
furiosa-compile 명령어를 사용하기 위해서는 컴파일러에 알맞은 양자화 형태가 필요하기 때문에 furiosa quantizer를 사용해 onnx를 양자화해야만 합니다. 관련 설명은 sdk 문서에서, 예제는 링크에서 확인하실 수 있습니다.
감사합니다.
1 Like
Warboy의 경우 말씀 처럼 양자화가 필수적입니다.