问题是什么?
这是我第一次尝试使用gguf文件创建模型,但失败了。
model.modelfile
操作系统
Windows
GPU
Nvidia
CPU
Intel
Ollama版本
0.3.6
uhry853o1#
Somebody help me😭
yhuiod9q2#
你从哪里得到model.gguf的?
model.gguf
jm2pwxwz3#
你从哪里得到model.gguf的?这是一个朋友给我的个人模型,那么gguf文件有问题吗?
9cbw7uwe4#
一些GGUF文件需要在ollama中尚未支持的功能或辅助文件。
0lvr5msh5#
你的gguf包含什么内容?你能取前几个字节让我们大致了解它是什么类型的gguf吗?在Windows上,它应该是这样的PowerShell命令:
Format-Hex -Count 64 -Path .\model.gguf
cpjpxq1n6#
你的gguf包含什么?你能把前几个字节,所以我们可以得到一个什么样的gguf的感觉?在Windows上,在powershell中应该是这样的
你提供的命令在我运行powerShell时出错了,所以我使用了ChatGPT告诉我的另一个命令。
Get-Content -Path .\model.gguf -Encoding Byte -TotalCount 64 | Format-Hex
这能为你提供有用的信息吗?如果不行,我很抱歉😥
wb1gzix07#
这看起来像一个PyTorch文件,可能是一个微调适配器。
7条答案
按热度按时间uhry853o1#
Somebody help me😭
yhuiod9q2#
你从哪里得到
model.gguf
的?jm2pwxwz3#
你从哪里得到
model.gguf
的?这是一个朋友给我的个人模型,那么gguf文件有问题吗?
9cbw7uwe4#
一些GGUF文件需要在ollama中尚未支持的功能或辅助文件。
0lvr5msh5#
你的gguf包含什么内容?你能取前几个字节让我们大致了解它是什么类型的gguf吗?
在Windows上,它应该是这样的PowerShell命令:
cpjpxq1n6#
你的gguf包含什么?你能把前几个字节,所以我们可以得到一个什么样的gguf的感觉?
在Windows上,在powershell中应该是这样的
你提供的命令在我运行powerShell时出错了,所以我使用了ChatGPT告诉我的另一个命令。
这能为你提供有用的信息吗?如果不行,我很抱歉😥
wb1gzix07#
这看起来像一个PyTorch文件,可能是一个微调适配器。