Beam Search思想介绍：如何通俗的理解beam search？ - 知乎 (zhihu.com)

技术出处：vLLM: Easy, Fast, and Cheap LLM Serving with PagedAttention | vLLM Blog

PPL LLM只支持baichuan、chatglm、llama三个模型，Tensor-LLM支持几乎所有大模型。