mlc-llm 如何使用cpp在项目中?

jtw3ybtb  于 6个月前  发布在  其他
关注(0)|答案(1)|浏览(43)

❓ 一般问题

我该如何在CPP文件夹中使用代码?有教程文档吗?

s5a0g9ez

s5a0g9ez1#

如果你对使用C++ API感兴趣,或许最简单的方法是利用JSON FFI。你可以尝试深入研究Swift绑定作为示例,https://github.com/mlc-ai/mlc-llm/blob/main/ios/MLCSwift/Sources/ObjC/LLMEngine.mm展示了如何使用它。

相关问题