Repository Issue Activity (beta)

#42 train_multimodal_from_scratch的冻结部分似有问题

#41 kimi attnres预训练后，测试答案一直重复

#40 train_multimodal_from_scratch的sft脚本现在运行会报错

#39 code-r1 生成的代码乱七八糟

#37 有关ppo reward被mask掉的问题

#35 A slight issue in train_llm_from_scratch

#36 有关PPO的value model

#34 有一个小小的提议，感谢发言

#33 DPO 标签 shift

#30 train_multimodall_from_scratch中自己遇到的一个小问题

#31 想问下code执行服务url如何开启？

#29 ValueError: No available memory for the cache blocks. Try increasing `gpu_memory_utilization` when initializing the engine.

#17 最简洁完整的适合LLM学习的代码没有之一

#28 推理时警告:Some weights of Qwen2ForCausalLM were not initialized from the model checkpoint 的解决办法

#27 DPO对应代码

#25 RuntimeError: shape '[8, -1, 4608]' is invalid for input of size 6718464

#26 deep_research项目代码疑问

#14 可否提供多卡训练版本，模型稍微大一些就会显存溢出

#22 我在训练多模态模型时遇到的问题

#4 关于loss的走势？

#23 请问grpo复现代码如何支持更大的模型进行训练，用多张显卡进行加速如何设置

#21 MLA的KV_cache问题

#20 deepseek MTP实现

#18 谢谢up🔥

#16 学习资料