你好，我是这篇论文的作者之一。感谢你对我们的工作感兴趣！我们计划很快发布代码，希望在几周内。

@ramyaprabhu-alt 我只是好奇代码发布是否会是一个单独的项目，还是针对vLLM的PR?我认为这是一个PR,对吗？

我们的初步发布将作为vLLM的较旧版本上的单独项目。但不久之后，我们也可以针对vLLM-latest发起PR。