vllm `yarn_linear_ramp_mask()`函数缺少一个必需的位置参数:'device',

ddrv8njm  于 2个月前  发布在  Yarn
关注(0)|答案(1)|浏览(91)

在vlm/model_executor/layers/rotary_embedding.py中,函数_yarn_linear_ramp_mask需要一个参数device,但它没有默认值。然而,在第307行:inv_freq_mask = (1 - _yarn_linear_ramp_mask(low, high, self.rotary_dim // 2, dtype=torch.float)) * self.extrapolation_factor并未使用这个参数。

yyhrrdl8

yyhrrdl81#

+1,也许我们应该在这个项目的GitHub Actions中部署一个静态语法检查器。

相关问题