Python code with Image 로 16G에서 동작시키는건 안되나요
#8
by
dwko
- opened
트랜스포머 44.2 로는 메모리부족이 뜨고
46.2로는 C:\actions-runner_work\pytorch\pytorch\builder\windows\pytorch\aten\src\ATen\native\cuda\Indexing.cu:1308: block: [167,0,0], thread: [32,0,0] Assertion srcIndex < srcSelectDimSize failed.
C:\actions-runner_work\pytorch\pytorch\builder\windows\pytorch\aten\src\ATen\native\cuda\Indexing.cu:1308: block: [167,0,0], thread: [33,0,0] Assertion srcIndex < srcSelectDimSize failed.
라는 에러 메시지가 발생합니다.
양자화 모델 다운로드가 안되어서, 8비트로 낮춰서 Text 생성 테스트는 느리게 동작했는데, 이미지 테스트는 동일한 에러가 발생합니다.
원본 모델로도 에러가 발생해서, 이미지 쪽에 크기 제한 같은게 있나요? 가로,세로 크기라든가