pytorch 在Git Bash中通过Rest API提示Vertex AI端点时出现ModelNotFoundException

31moq8wy  于 2023-10-20  发布在  Git
关注(0)|答案(2)|浏览(124)

使用Vertex AI,我试图通过Git Bash提示连接到微调GPT-2模型(pytorch)的端点。在导入模型时,我没有设置任何预测模式。我认为模型应该接受Tensor。
下面是我的代码:

$ curl \
-X POST \
-H "Authorization: Bearer $(gcloud auth print-access-token)" \
-H "Content-Type: application/json" \
https://us-central1-aiplatform.googleapis.com/v1/projects/${PROJECT_ID}/locations/us-central1/endpoints/${ENDPOINT_ID}:predict \
-d "@${INPUT_DATA_FILE}"
   %  Total  % Received    %   Xferd  Average   Speed    Time     Time     Time    Current
                                        Dload  Upload    Total    Spent    Left    Speed
 100    230  0       93  100   137        387     570  --:--:-- --:--:-- --:--:--  970{
  "code": 404,
  "type": "ModelNotFoundException",
  "message": "Model not found: model"
}

我知道我没有按照建议使用Google Cloud SDK Shell,但我在尝试使用该Shell时遇到了“ACCESS_TOKEN_TYPE_UNHIBORTED”错误。我会再试一次,但我怀疑我会得到与Git Bash相同的错误。消息Model not found: model是否意味着我以某种方式错误地部署了端点?或者是在将模型导入模型注册表时发生了故障?任何提示将不胜感激。

nkoocmlb

nkoocmlb1#

错误消息**“Model not found:model”通常表示未找到您尝试在Vertex AI端点中使用的模型。
确保在API请求中使用正确的模型名称。PROJECT_IDENDPOINT_ID应该正确设置,模型名称应该与部署的模型名称匹配。也有可能是在将微调的GPT-2模型部署到Vertex AI的过程中出现了问题。您应该确保模型已成功部署,并且在模型注册中心中可用。
您提到您正在使用
Git Bash**,在使用Google Cloud SDK Shell时遇到了**“ACCESS_TOKEN_TYPE_UNDERPORTED”错误。确保您具有访问模型和端点所需的权限。请确保您使用正确的凭据和访问令牌。此外,请验证PROJECT_IDus-central 1**位置是否与部署模型的项目和位置匹配。确保您尝试访问的端点处于“服务”状态。如果终结点未部署或处于错误状态,则可能会遇到此错误。如果部署了同一模型的多个版本,请确保在请求中指定了正确的模型版本。
要解决此问题,您应该检查上述要点,并确保在Vertex AI中正确设置了模型和端点。如果您继续遇到问题,您可能需要通过检查Google Cloud Console中的日志或使用Google Cloud SDK Shell来进一步了解错误消息,以获取更详细的错误信息。

vh0rcniy

vh0rcniy2#

curl -X POST \
-H "Authorization: Bearer $(gcloud auth print-access-token)" \
-H "Content-Type: application/json" \
"https://us-central1-aiplatform.googleapis.com/v1/projects/${PROJECT_ID}/locations/us-central1/endpoints/${ENDPOINT_ID}:predict" \
-d '{
  "instances": [{"input_text": "Your input text goes here."}]
}'

相关问题