mlc-llm

mlc-llm+ 关注

文章：0|问答：0|关注：0

暂无介绍

2回答
71浏览
mlc-llm Prefill rate degradation between old mlc llm stack and new mlc llm stack via Windows Vulkan mlc-llm
Windows 50pmv0ei5个月前浏览 (71)5个月前
1回答
49浏览
mlc-llm [Model Request] OpenELM mlc-llm
其他 goucqfw65个月前浏览 (49)5个月前
3回答
63浏览
mlc-llm [问题] 2比特量化是否可能？ mlc-llm
其他 5q4ezhmt5个月前浏览 (63)5个月前
1回答
46浏览
mlc-llm [模型请求] MPT 7B(2k和8k)和MPT 30B(8k) mlc-llm
其他 z8dt9xmd5个月前浏览 (46)5个月前
2回答
53浏览
mlc-llm [功能请求]支持InternLM部署 mlc-llm
其他 f0brbegy5个月前浏览 (53)5个月前
3回答
55浏览
mlc-llm [Feature Request] Python packages on PyPI mlc-llm
Python 8fq7wneg5个月前浏览 (55)5个月前
5回答
51浏览
mlc-llm [功能请求]为whisper支持语音交互 mlc-llm
其他 nszi6y055个月前浏览 (51)5个月前
2回答
51浏览
mlc-llm [Feature Request] Machine translation for interaction mlc-llm
Mac xoefb8l85个月前浏览 (51)5个月前
1回答
93浏览
mlc-llm [Feature Request] Docker container for REST mlc-llm
Docker hiz5n14c5个月前浏览 (93)5个月前
4回答
45浏览
mlc-llm 模型请求跟踪 mlc-llm
其他 0lvr5msh5个月前浏览 (45)5个月前
1回答
54浏览
mlc-llm [功能请求] BERT模型支持/编码器 mlc-llm
其他 llmtgqce5个月前浏览 (54)5个月前
1回答
47浏览
mlc-llm [模型请求] 打开聊天3.5 mlc-llm
其他 bpsygsoo5个月前浏览 (47)5个月前
6回答
63浏览
mlc-llm [Bug] gemma-2b for Android. OpenCL错误代码=-54: CL_INVALID_WORK_GROUP_SIZE mlc-llm
Android yk9xbfzb5个月前浏览 (63)5个月前
2回答
52浏览
mlc-llm ``` [模型请求] qualcom的稳定扩散和控制网络 ``` mlc-llm
其他 qlfbtfca5个月前浏览 (52)5个月前
1回答
46浏览
mlc-llm [Bug] 基于Qwen-72B的一些llamafied模型兼容性测试 mlc-llm
其他 6qftjkof5个月前浏览 (46)5个月前
1回答
46浏览
mlc-llm [问题] HQQ半二次量化是提高了MLC LLM的大小、速度还是质量？ mlc-llm
其他 2q5ifsrm5个月前浏览 (46)5个月前
2回答
45浏览
mlc-llm [Feature Request] Bert Model support mlc-llm
其他 ldioqlga5个月前浏览 (45)5个月前
2回答
47浏览
mlc-llm [Bug] [OpenCL] 当head_dim不能被32整除时，OpenCL出现错误, mlc-llm
其他 ygya80vv5个月前浏览 (47)5个月前
1回答
47浏览
mlc-llm [问题]我们是否将批处理性能与vllm进行比较？ mlc-llm
其他 rkkpypqq5个月前浏览 (47)5个月前
6回答
55浏览
mlc-llm [功能请求]将OpenAI协议的默认值更改为NOT_GIVEN mlc-llm
其他 vd8tlhqk5个月前浏览 (55)5个月前
1回答
48浏览
mlc-llm [问题] 解码函数,在两个相邻的操作符操作之间存在哪些操作？ mlc-llm
其他 j7dteeu85个月前浏览 (48)5个月前
2回答
57浏览
mlc-llm [Bug] 未处理的CUDA错误，与ROCm 5.7相关 mlc-llm
其他 atmip9wb5个月前浏览 (57)5个月前
1回答
52浏览
mlc-llm ``` adaptive_softmax, SinusoidalPositionalEmbedding ops are not supported ``` mlc-llm
其他 5jdjgkvh5个月前浏览 (52)5个月前
6回答
42浏览
mlc-llm [模型请求] Phi-3-Vision mlc-llm
其他 ilmyapht5个月前浏览 (42)5个月前
4回答
128浏览
mlc-llm 当不使用tvm.relax.transform.FuseOps()和tvm.relax.transform.FuseTIR()转换时，Phi-2 q4f16_1的运行速度更快, mlc-llm
SEO xj3cbfub5个月前浏览 (128)5个月前
1回答
48浏览
mlc-llm [功能请求] phi-3小型发布 -> 性能比Phi-3迷你版高两倍 mlc-llm
其他 cczfrluj5个月前浏览 (48)5个月前
5回答
48浏览
mlc-llm 无法使用mlc_llm包命令从Hugging Face下载和编译自定义模型, mlc-llm
其他 i7uq4tfw5个月前浏览 (48)5个月前
6回答
52浏览
mlc-llm [Bug] 在Qwen2-1.5B-Instruct上进行量化后，大型模型的性能精度严重下降，请修复它, mlc-llm
其他 qjp7pelc5个月前浏览 (52)5个月前
5回答
51浏览
mlc-llm [Bug] MLC LLM是否支持函数调用？ mlc-llm
其他 py49o6xq5个月前浏览 (51)5个月前
8回答
89浏览
mlc-llm 如何使用Lava模型构建Android演示应用程序？ mlc-llm
Android hlswsv355个月前浏览 (89)5个月前

热门标签

Java query python Node 开发语言 request Util 数据库 Table 后端算法 Logger Message Element Parser

最新问答

xxl-job 安全组扫描到执行器端口服务存在信息泄露漏洞
回答(1) 发布于 3个月前
xxl-job 不能和nacos兼容？
回答(3) 发布于 3个月前
xxl-job 任务执行完后无法结束，日志一直转圈
回答(3) 发布于 3个月前
xxl-job-admin页面上查看调度日志样式问题
回答(1) 发布于 3个月前
xxl-job 参数512字符限制能否去掉
回答(1) 发布于 3个月前