如何确定使用JumpStart创建的SageMaker端点所使用的Docker映像

jvlzgdj9 于 2023-10-16 发布在 Docker

关注(0)|答案(1)|浏览(123)

我已经使用SageMaker Jumpstart服务创建了一个LLM端点。我已经测试过了，一切都很好。但是我应该在哪里检查使用的是哪个Docker镜像？
例如，在端点配置中，我只能找到这些变量：

Key                                                     Value

sagemaker:user-profile-arn                               My User id
    
aws-jumpstart-inference-model-uri                        s3://jumpstart-cache-prod-us-east-1/meta-infer/infer-meta-textgeneration-llama-2-7b.tar.gz

sm-jumpstart-monitor                                     True

sm-jumpstart-id                                          JumpStart ID

sagemaker:domain-arn                                     domain

我确实需要Docker镜像来通过CloudFormation部署端点。
问候，沃洛季米尔

docker

来源：https://stackoverflow.com/questions/77198849/how-can-i-determine-the-docker-image-used-by-a-sagemaker-endpoint-created-with-j