Repository Issue Activity (beta)

#738 [讨论] 能否兼顾 MTP 无损投机解码与高接受率

#736 DFlash2 backbone TP 在全同构 GPU 上被 equal-ratio 守卫跳过（force 后 +8% decode，4×2080Ti）

#735 4GPU 运行 Qwen3.8 27B FP8 ,第一个GPU的利用率持续攀高

#728 [Bug]--开启mtp会导致 (qwen3_5 / Qwen3.8-27B)长上下文下思考无限循环

#636 不支持Qwen3-32B-GPTQ-Int4模型的部署

#725 [custom all-reduce] arrival-order rendezvous can pair different tensors across ranks (silent wrong results / out-of-range read)

#722 [Bug+修复方案] 双卡 TP + MTP 长上下文 prefill 永久卡死：偶数 TP 缺少 NCCL 主机提交会合 + 分页参数阻塞上传

#726 `cudaErrorIllegalAddress` / Xid 13 crash with DFlash2 speculative decoding caused by missing stream sync in `FastllmCudaDFlashAttention`

#724 [custom all-reduce] missing pointer-alignment guard faults on the device (cudaErrorMisalignedAddress / Xid 13)

#723 [Bug] --device cuda --moe_device cpu 在线性注意力 MoE 模型（qwen3_5）上崩溃

#719 项目主页的微信群二维码过期了

#718 Token Pay合作邀请

#717 [Bug] Qwen3.8-Flash-Next (qwen4_exp) --mtp 1 aborts during warmup: cudaErrorInvalidValue (cudaMemcpy2D) -> cublas error on RTX 3090 (SM86)

#690 pip安装rocm版本只更新到0.1.5.1

#666 【Bug】DeepSeek-V4-Flash-FP8-Q4 使用 multicuda:0,1 输出乱码，单卡正常

#714 [Bug] V100 (SM70) 加载 AWQ 模型：权重 Load 100% 后 GPU 静默挂死，服务永不启动

#700 希望尽快发布 Windows 版 0.1.7.0 wheel，以支持 Qwen3.5/Qwen3.6 系列模型

#712 Heap buffer overflows loading a crafted .safetensors model

#711 deepseek v4工具調用期間卡死

#709 8259cl + 2080ti 混推 deepseek v4 flash 0731 moe dtype int4g 报错

#670 ROCm编译问题

#704 Deepseek V4 Flash 混合推理OOM

#703 一个新的量化想法

#701 Out-of-bounds read in ModelLoader::ReadString when loading a crafted .flm model

#652 Unsupported model type qwen3_5_moe