混合推理

通过混合推理赋能本地 AI 构建者

混合推理是一项实验性功能。 可以在此处提供反馈此处

为什么使用混合推理?

混合推理提供了一种快速简单的方式来卸载本地生成需求。


可用模型


集成

更新日志

内容

文档分为三个部分:

< > Update on GitHub