请问是否计划支持 VLLM 的 Dynamic Connector

[flpanbin]

我看现在适配 vLLM 需要 patch vLLM 代码，增加 KVConnector 的实现，现在 vLLM 支持 dynamic-connector，应该是不需要在 vLLM 基础上进行修改，可以直接使用外部的 KVConnector，请问这个方案有计划实现？

[linhu-nv]

感谢关注！我们当前已经提了pr到vllm里（https://github.com/vllm-project/vllm/pull/30917），合并进去之后就不需要手动打patch了。这个dynamic-connector 我们之前确实没有做，后面也会尝试通过这种方式接入

[YconquestY]

@flpanbin 你好，FlexKV将支持动态KV connector加载，请等待一段时间。