// 论文详情
JOVE:面向资源感知LLM任务图的联合执行与验证
复杂推理查询可以分解为有向无环任务图,并分布在异构LLM上,通过并行性降低延迟,使较小的模型能够解决复杂任务。然而,在实践中,LLM对给定子任务的适用性可能是先验未知的
复杂推理查询可以分解为有向无环任务图,并分布在异构LLM上,通过并行性降低延迟,使较小的模型能够解决复杂任务。然而,在实践中,LLM对给定子任务的适用性可能是先验未知的
- 作者
- 机构
// 论文详情
复杂推理查询可以分解为有向无环任务图,并分布在异构LLM上,通过并行性降低延迟,使较小的模型能够解决复杂任务。然而,在实践中,LLM对给定子任务的适用性可能是先验未知的
复杂推理查询可以分解为有向无环任务图,并分布在异构LLM上,通过并行性降低延迟,使较小的模型能够解决复杂任务。然而,在实践中,LLM对给定子任务的适用性可能是先验未知的