TypeError: GenerationMixin._get_logits_warper() missing 1 required positional argument: 'device'
#64
by
strange007
- opened
如果升级到transformers新版本，会出现这个问题（如果用旧版，会有其他问题TypeError: transformers..generate() argument after ** must be a mapping, not Tensor）
所以，需要修改代码modeling_chatglm.py
其中
logits_warper = self._get_logits_warper(generation_config)
改为（增加device=self.device）
logits_warper = self._get_logits_warper(generation_config,device=self.device)
现在已经更新到4.42.4了，这个版本能用吗，因为transformers这两个版本之间有一定改动，现在还有问题吗
现在我退回到transformers 4.41.2之后，这个问题又没有了
但是会出现另外问题：
ValueError: too many values to unpack (expected 2)
另外，还没有试过更新的版本，是需要把模型中更新的几个文件都下载吗
是的我们更新了并要更新到4.42.4，我们的技术文档一直都有公告
zRzRzRzRzRzRzR
changed discussion status to
closed