描述错误
当我尝试使用alpaca进行量化时，我遇到了一个错误：
"File "C:\Users\Training\AppData\Local\Programs\Python\Python311\Lib\site-packages\sentencepiece_init_.py", line 310, in LoadFromFile
return _sentencepiece.SentencePieceProcessor_LoadFromFile(self, arg)
^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^
TypeError: not a string
"
错误
硬件详细信息
3090 32GB内存，400GB分页内存。
软件版本
Windows 11 CUDA 12.1最新开发版。
重现方法
重现此行为的方法：
- 尝试使用alpaca脚本对deepseek进行量化。
将命令提示符作为txt文件。
1条答案
按热度按时间3phpmpom1#
我不确定问题出在哪里，可能是你的模型路径。你应该使用huggingface id而不是手动从缓存中使用路径。如果你已经拥有它，它不会重新下载，而是会从本地缓存中使用正确的路径。
但是第二件事是，我认为模型并不期望alpaca格式，所以这可能不是最好的脚本。你可能应该基于这些示例构建自己的脚本，而不是仅仅使用它们。无论如何，尝试使用id代替，在这种情况下为 "m-a-p/OpenCodeInterpreter-DS-6.7B"。