Repository Issue Activity (beta)

#494 DPO/OPD 训练入口可复现性修复：seed/revision 传递、参数去重、冻结验证

#492 请问sft训练几个epoch比较好呢

#330 单机多卡sft deepspeed zero3 训练一直卡在训练阶段

#374 ppo训练时出现问题：UserWarning: KL divergence is starting to become negative: -233.50

#383 大佬，DPO可以改成inputIds和attention_mask 输入吗

#386 增量预训练PT与有监督微调SFT的疑问

#415 sharegpt_gpt4的看了数据跟医疗没有关系，为什么也可以用于医疗多轮对话的微调呢？

#418 请教下数据处理部分，tokenizer分词后的position_ids字段是怎么生成的

#430 增量预训练时，加载chat模型的问题

#248 有没有支持mistral 7b的计划

#357 使用deepspeed 全参数sft后，inference 回答的都为空，有解决办法吗

#409 关于奖励模型训练数据的构成

#428 baichuan2词表扩充后进行pt所遇问题

#461 您好，对Deepseek-R1进行增量预训练，输出重复，而且也不思考了

#281 关于GLM3微调细节

#453 先增强预训练后SFT，grad_norm为0

#392 请问是否支持最新的InternLM 2.5？

#421 耗时过长

#489 老师您好，请问双卡使用run_sft_accelerate.sh进行sft，数据使用200万medical，max_train_samples=400000 ，per_device_train_batch_size=2， gradient_accumulation_steps=8，学习率=2e-5。为什么训练时候最大进度显示100000，但是训练到12500teps时候学习率就降到0不变了？第二次使用tochrun 使用run_sft.sh脚本，同样的设置，最大进度显示12500。

#488 老师您好，请问双卡使用run_sft_accelerate.sh进行sft，数据使用200万medical，max_train_samples=400000 ，per_device_train_batch_size=2， gradient_accumulation_steps=8，学习率=2e-5。为什么训练时候最大进度显示100000，但是训练到12500teps时候学习率就降到0不变了？第二次使用tochrun 使用run_sft.sh脚本，同样的设置，最大进度显示12500。

#487 佬，后面打算往多模态靠吗？或者有什么类似多模态项目推荐吗

#462 老师您好，请问本项目是否支持多机多卡的分布式训练，是否有SFT的多机多卡Demo

#439 reward model 训练数据量的问题

#445 CPT阶段，采用36w条医疗数据集，训练一轮后loss从23.1-17.5左右正常吗

#413 请问支持llama 3.1 微调？