license: apache-2.0
datasets: mdb
language: English
为了实现InstructGPT的SFT-RW-PPO
此repo采用GPT2作为SFT模型,经过GPT2生成的文字再经过DistilBERT加以评估取生成positive的分数,再经过PPO优化
license: apache-2.0
datasets: mdb
language: English
为了实现InstructGPT的SFT-RW-PPO
此repo采用GPT2作为SFT模型,经过GPT2生成的文字再经过DistilBERT加以评估取生成positive的分数,再经过PPO优化