ChatGPT 学习笔记 - 1

1、相比于 GPT-3，GPT-4 产生不允许内容的概率下降了 %82，产生内容的真实性上升了 40%；

2、InstructGPT 是 ChatGPT 的默认语言模型，有 1.3B 的参数。在执行英语指令上，产生的结果比 GPT-3(175B 参数)更好。

3、InstructGPT 使用的技术是 RLHF（来自用户反馈的强化学习）；

4、两个目标：提高输出结果的有用性 和 真实性，降低有害性和偏差；

5、在 GPT3 的 prompt 中加入前缀，可以让 GPT3 进入遵循指令模式