AutoGPTQ

AutoGPTQ+ 关注

文章：0|问答：0|关注：0

暂无介绍

7回答
139浏览
AutoGPTQ [BUG]在安装源代码时，Windows 11操作系统遇到了一个问题 AutoGPTQ
Windows gwbalxhn4个月前浏览 (139)4个月前
1回答
59浏览
AutoGPTQ [BUG] Quant with alpaca AutoGPTQ
其他 m1m5dgzv4个月前浏览 (59)4个月前
1回答
76浏览
AutoGPTQ 当我设置use_marlin=True时出现的错误信息 AutoGPTQ
其他 11dmarpk4个月前浏览 (76)4个月前
4回答
61浏览
AutoGPTQ 量化LoRa羊驼(带有适配器的模型) AutoGPTQ
其他 vshtjzan5个月前浏览 (61)5个月前
9回答
69浏览
AutoGPTQ 它是否支持Chatglm-6b模型？希望支持Chatglm 6b, AutoGPTQ
其他 nbnkbykc5个月前浏览 (69)5个月前
8回答
69浏览
AutoGPTQ GPTQ支持MPT模型 AutoGPTQ
其他 e5njpo685个月前浏览 (69)5个月前
5回答
71浏览
AutoGPTQ CUDA推理：当group_size = 1024且desc_act为False时出现问题(Triton不受影响), AutoGPTQ
其他 4si2a6ki5个月前浏览 (71)5个月前
8回答
59浏览
AutoGPTQ 添加 pre_layer 参数和预编译的轮子 AutoGPTQ
其他 628mspwn5个月前浏览 (59)5个月前
1回答
73浏览
AutoGPTQ Error when quantizing GPT2-XL AutoGPTQ
其他 xwmevbvl5个月前浏览 (73)5个月前
8回答
68浏览
AutoGPTQ 无法完成因式分解，因为输入不是正定的, AutoGPTQ
其他 y4ekin9u5个月前浏览 (68)5个月前
1回答
64浏览
AutoGPTQ [特性]为 https://huggingface.co/BlinkDL/rwkv-4-raven 添加支持, AutoGPTQ
其他 63lcw9qa5个月前浏览 (64)5个月前
4回答
115浏览
AutoGPTQ [BUG] 运行时错误："LayerNormKernelImpl"未为'Half'实现 AutoGPTQ
其他 h6my8fg25个月前浏览 (115)5个月前
3回答
73浏览
AutoGPTQ TypeError: forward() 缺少一个必需的位置参数：'hidden_states'[BUG] ? AutoGPTQ
其他 wnrlj8wa5个月前浏览 (73)5个月前
5回答
62浏览
AutoGPTQ为什么没有量化lm_head层？ AutoGPTQ
其他 eqqqjvef5个月前浏览 (62)5个月前
1回答
64浏览
[特性]将vllm扩展的Marlin内核回溯移植到autogptq, AutoGPTQ
其他 hiz5n14c5个月前浏览 (64)5个月前
6回答
73浏览
AutoGPTQ Llama-3 8B指令量化为8位，在transformers模型的generate()中输出乱码，但在vLLM中正常工作？ AutoGPTQ
其他 3bygqnnd5个月前浏览 (73)5个月前

热门标签

Java query python Node 开发语言 request Util 数据库 Table 后端算法 Logger Message Element Parser

最新问答

xxl-job 安全组扫描到执行器端口服务存在信息泄露漏洞
回答(1) 发布于 4个月前
xxl-job 不能和nacos兼容？
回答(3) 发布于 4个月前
xxl-job 任务执行完后无法结束，日志一直转圈
回答(3) 发布于 4个月前
xxl-job-admin页面上查看调度日志样式问题
回答(1) 发布于 4个月前
xxl-job 参数512字符限制能否去掉
回答(1) 发布于 4个月前