vllm推理THUDM/chatglm3-6b-128k 无法停止
fiei3ece1#
你需要添加
stop_token_ids = [151329, 151336, 151338]
试了一下，还是不行
camsedfj2#
zbq4xfa03#
$x^{1}a_{0}b_{1}x$
3条答案
按热度按时间fiei3ece1#
你需要添加
试了一下，还是不行
camsedfj2#
zbq4xfa03#
你需要添加
$x^{1}a_{0}b_{1}x$