• 使用 PPO 算法进行 RLHF 的 N 步实现细节

    当下，RLHF/ChatGPT 已经变成了一个非常流行的话题。我们正在致力于更多有关 RLHF 的研究，这篇博客尝试复现 OpenAI 在 2019 年开源的原始 RLHF 代码库，其仓库位置位于 openai/lm-human-preferences。尽管它具有 “tensorflow-1.x” 的特性，但 OpenAI 的原始代码库评估和基准测试非常完善，使其成为研究 RLHF 实现工程细节的好地方。

    我们的目标是:

    1. 复现 OAI 在风格化任务中的结果，并匹配 openai/lm-human-preferences 的学习曲线。

    1. 提供一个实现细节的清单，类似于 近端优化策略的 37 个实施细节 (The 37 Implementation Details of Proximal Policy Optimization) 和 没有痛苦折磨的调试 RL (Debugging RL, Without the Agonizing Pain) 的风格;

    1. 提供一个易于阅读且简洁的 RLHF 参考实现;

    这项工作仅适用于以教育/学习为目的的。对于需要更多功能的高级用户，例如使用 PEFT 运行更大的模型， huggingface/trl 将是一个不错的选择。

    • 然后我们深入探讨了与复现 OAI 的工作相关的实现细节。在 总体实现细节 中，我们讨论了基本细节，像如何生成奖励/值和如何生成响应。在 奖励模型实现细节 中，我们讨论了诸如奖励标准化之类的细节。在 策略训练实现细节 中，我们讨论了拒绝采样和奖励“白化”等细节。

    • 接下来，我们检查了在奖励标签由 gpt2-large 生成的情况下，训练不同基础模型 (例如 gpt2-xl, falcon-1b) 的效果。

    • 最后，我们通过讨论一些限制来总结我们的研究工作。

    以下是一些重要链接:

    匹配学习曲线

    我们的主要贡献是在风格化任务中复现 OAI 的结果，例如情感和描述性。如下图所示，我们的代码库 (橙色曲线) 能够产生与 OAI 的代码库 (蓝色曲线) 几乎相同的学习曲线。

    关于运行 openai/lm-human-preferences 的说明

    为了直观比较，我们运行了原始的 RLHF 代码，其仓库位置位于 openai/lm-human-preferences，它将提供宝贵的指标，以帮助验证和诊断我们的复现。我们能够设置原始的 TensorFlow 1.x 代码，但它需要一个非常特定的设置:

    • OAI 的数据集部分损坏/丢失 (所以我们用类似的 HF 数据集替换了它们，这可能会或可能不会导致性能差异)

    • 它不能在 1 个 V100 上运行，因为它没有实现梯度累积。相反，它使用一个大的 BS (批量大小)，并在 8 个 GPU 上分割 batch (批量)，仅在 1 个 GPU 上就会出现 OOM (内存溢出)。

    • 它不能在 8 个 A100 上运行，因为它使用的是 TensorFlow 1.x，与 Cuda 8+ 不兼容。

    • 它不能在 8 个 V100 (16GB) 上运行，因为它会 OOM (内存溢出)。

    • 它只能在 8 个 V100 (32GB) 上运行，这种配置仅由 AWS 以 p3dn.24xlarge 实例的形式提供。

    总体实现细节

    我们现在深入探讨与复现 OAI 工作相关的技术实现细节。在这个部分，我们讨论了一些基本细节，例如奖励/值是如何生成的，以及响应是如何生成的。以下是这些细节，不按特定顺序列出:

    1. 奖励模型和策略的价值头将 query 和 response 的连接作为输入

    • 举例来说，如果 query = "他在想某事，但他的眼神很难读懂"。 ，和 response = "他看着他的左手，手臂伸在他的前面。" ，那么奖励模型和策略的价值会对query_response = "他在想某事，但他的眼神很难读懂。他看着他的左手，手臂伸在他的前面。" 进行前向传递，并产生形状为 (B, T, 1) 的奖励和价值，其中 B 是 BS (批量大小)，T 是序列长度，而 1 代表奖励头的输出结构的维度为 1 (lm_human_preferences/rewards.py#L105-L107, lm_human_preferences/policy.py#L111)。

    • T 意味着每个 token 都有与其和前文关联的奖励。例如，eyes token 将有一个与他在想某事，但他的眼神很难读懂 相对应的奖励。

    1. 使用特殊的填充 token 来填充和截断输入。

    • 关于 HF 的 transformers — 填充 token 的注解。 根据 (transformers#2630#issuecomment-578159876)，在 GPT 和 GPT-2 的预训练期间没有使用填充 token; 因此，transformer 的 gpt2 模型与其分词器没有关联的官方填充 token。通常的做法是设置 tokenizer.pad_token = tokenizer.eos_token ，但在这项工作中，我们将区分这两个特殊 token 以匹配 OAI 的原始设置，所以我们将使用 tokenizer.add_special_tokens({"pad_token": "[PAD]"}) 。

    • 注意，没有填充 token 是解码器模型的默认设置，因为它们在预训练期间使用“打包”训练，这意味着许多序列被连接并由 EOS token 分隔，这些序列的块在预训练期间始终具有最大长度并被馈送到模型中。

    • 当把所有事物放在一起时，这里有一个例子

    1. import transformers
    2. tokenizer = transformers.AutoTokenizer.from_pretrained("gpt2", padding_side="right")
    3. tokenizer.add_special_tokens({"pad_token": "[PAD]"})
    4. query_length = 5
    5. texts = [
    6.     "usually, he would",
    7.     "she thought about it",
    8. ]
    9. tokens = []
    10. for text in texts:
    11.     tokens.append(tokenizer.encode(text)[:query_length])
    12.  
    13. print("tokens", tokens)
    14. inputs = tokenizer.pad(
    15.     {"input_ids": tokens},
    16.     padding="max_length",
    17.     max_length=query_length,
    18.     return_tensors="pt",
    19.     return_attention_mask=True,
    20. )
    21. print("inputs", inputs)
    22.  
    23. """prints are
    24. tokens [[23073, 11, 339, 561], [7091, 1807, 546, 340]]
    25. inputs {'input_ids': tensor([[23073, 11, 339, 561, 50257],
    26.         [ 7091, 1807, 546, 340, 50257]]), 'attention_mask': tensor([[1, 1, 1, 1, 0],
    27.         [1, 1, 1, 1, 0]])}
    28. """

    相应地调整填充 token 的位置索引

    1. 在计算 logits 时，OAI 的代码通过适当地屏蔽填充 token 来工作。这是通过找出与填充 token 相对应的 token 索引来实现的 (lm_human_preferences/language/model.py#L296-L297)，然后相应地调整它们的位置索引 (lm_human_preferences/language/model.py#L320)。

    1. 例如，如果 query=[23073, 50259, 50259] 和 response=[11, 339, 561] ，其中 ( 50259 是 OAI 的填充 token)，它会创建位置索引为 [[0 1 1 1 2 3]] 并且如下的 logits。注意填充 token 对应的 logits 如何保持不变！这是我们在复制过程中应该追求的效果。

    1. all_logits [[[ -35.28693 -34.2875 -38.16074 ... -41.595802 -41.082108
    2.     -35.36577 ]
    3. [ -35.28693 -34.2875 -38.16074 ... -41.595802 -41.082108
    4.     -35.36577 ]
    5. [ -35.28693 -34.2875 -38.16074 ... -41.595802 -41.082108
    6.     -35.36577 ]
    7. [-111.303955 -110.94471 -112.90624 ... -113.13064 -113.7788
    8. -109.17345 ]
    9. [-111.51512 -109.61077 -114.90231 ... -118.43514 -111.56671
    10. -112.12478 ]
    11. [-122.69775 -121.84468 -128.27417 ... -132.28055 -130.39604
    12. -125.707756]]] (1, 6, 50257)

    关于 HF 的 transformers — position_ids 和 padding_side 的注解。 我们可以通过 1) 左填充和 2) 传入适当的 position_ids ，使用 Hugging Face 的 transformer 复制精确的 logits:

    1. import torch
    2. import transformers
    3. tokenizer = transformers.AutoTokenizer.from_pretrained("gpt2", padding_side="right")
    4. tokenizer.add_special_tokens({"pad_token": "[PAD]"})
    5. pad_id = tokenizer.pad_token_id
    6. query = torch.tensor([
    7.     [pad_id, pad_id, 23073],
    8. ])
    9. response = torch.tensor([
    10.     [11, 339, 561],
    11. ])
    12. temperature = 1.0
    13.  
    14. query = torch.tensor(query)
    15. response = torch.tensor(response).long()
    16. context_length = query.shape[1]
    17. query_response = torch.cat((query, response), 1)
    18. pretrained_model = transformers.AutoModelForCausalLM.from_pretrained("gpt2")
    19. def forward(policy, query_responses, tokenizer):
    20.     attention_mask = query_responses != tokenizer.pad_token_id
    21.     position_ids = attention_mask.cumsum(1) - attention_mask.long() # exclusive cumsum
    22.     input_ids = query_responses.clone()
    23.     input_ids[~attention_mask] = 0
    24.     return policy(
    25.         input_ids=input_ids,
    26.         attention_mask=attention_mask,
    27.         position_ids=position_ids,
    28.         return_dict=True,
    29.         output_hidden_states=True,
    30.     )
    31. output = forward(pretrained_model, query_response, tokenizer)
    32. logits = output.logits
    33. logits /= temperature
    34. print(logits)
    35.  
    36. """
    37. tensor([[[ -26.9395, -26.4709, -30.0456, ..., -33.2208, -33.2884,
    38.         -27.4360],
    39.         [ -27.1677, -26.7330, -30.2386, ..., -33.6813, -33.6931,
    40.         -27.5928],
    41.         [ -35.2869, -34.2875, -38.1608, ..., -41.5958, -41.0821,
    42.         -35.3658],
    43.         [-111.3040, -110.9447, -112.9062, ..., -113.1306, -113.7788,
    44.         -109.1734],
    45.         [-111.5152, -109.6108, -114.9024, ..., -118.4352, -111.5668,
    46.         -112.1248],
    47.         [-122.6978, -121.8447, -128.2742, ..., -132.2805, -130.3961,
    48.         -125.7078]]], grad_fn=)
    49. """

    • 关于 HF 的 transformers ——在 生成 过程中的 position_ids 的注解: 在生成过程中，我们不应传入 position_ids ，因为在 transformers 中， position_ids 已经以某种方式被调整了。当我在生成过程中也传入 position_ids 时，性能会灾难性地恶化。

    • 通常情况下，我们几乎从不在 transformers 中传递 position_ids 。所有的遮蔽 (masking) 和移位 (shifting) logic 已经实现，例如，在 generate 函数中 (需要永久的代码链接)。

    • 生成固定长度响应的响应生成不需要填充。

    • 关于 HF 的 transformers 的注解 — 在 eos_token 处采样可能会停止: 在 transformers 中，生成可能会在 eos_token 处停止 (src/transformers/generation/utils.py#L2248-L2256)，这与 OAI 的设置不同。为了对齐设置，我们需要设置 pretrained_model.generation_config.eos_token_id = None, pretrained_model.generation_config.pad_token_id = None 。请注意， transformers.GenerationConfig(eos_token_id=None, pad_token_id=None, ...) 不起作用，因为 pretrained_model.generation_config 会覆盖并设置一个 eos_token 。

    1. import torch
    2. import transformers
    3. tokenizer = transformers.AutoTokenizer.from_pretrained("gpt2", padding_side="right")
    4. tokenizer.add_special_tokens({"pad_token": "[PAD]"})
    5. pad_id = tokenizer.pad_token_id
    6. query = torch.tensor([
    7.     [pad_id, pad_id, 23073],
    8. ])
    9. response = torch.tensor([
    10.     [11, 339, 561],
    11. ])
    12. response_length = 4
    13. temperature = 0.7
    14. pretrained_model = transformers.AutoModelForCausalLM.from_pretrained("gpt2")
    15. pretrained_model.generation_config.eos_token_id = None # disable `pad_token_id` and `eos_token_id` because we just want to
    16. pretrained_model.generation_config.pad_token_id = None # generate tokens without truncation / padding
    17. generation_config = transformers.GenerationConfig(
    18.     max_new_tokens=response_length,
    19.     min_new_tokens=response_length,
    20.     temperature=temperature,
    21.     top_k=0.0,
    22.     top_p=1.0,
    23.     do_sample=True,
    24. )
    25. context_length = query.shape[1]
    26. attention_mask = query != tokenizer.pad_token_id
    27. input_ids = query.clone()
    28. input_ids[~attention_mask] = 0 # set padding tokens to 0
    29. output = pretrained_model.generate(
    30.     input_ids=input_ids,
    31.     attention_mask=attention_mask,
    32.     # position_ids=attention_mask.cumsum(1) - attention_mask.long(), # generation collapsed if this was turned on. TODO: why does generation collapse with this?
    33.     generation_config=generation_config,
    34.     return_dict_in_generate=True,
    35. )
    36. print(output.sequences)
    37.  
    38. """
    39. tensor([[ 0, 0, 23073, 16851, 11, 475, 991]])
    40. """

    • 奖励模型和策略训练的学习率退火。

    • 正如 Ziegler 等人 (2019) 建议的，奖励模型只训练一个 epcho，以避免过度拟合有限量的人类注释数据 (例如，descriptiveness 任务只有大约 5000 个标签)。在这个单一的 epcho 中，学习率会退火至零 (lm_human_preferences/train_reward.py#L249)。

    • 为不同的进程使用不同的种子

    • 在生成 8 个 GPU 进程进行数据并行时，OAI 为每个进程设置了不同的随机种子 (lm_human_preferences/utils/core.py#L108-L111)。在实现上，这是通过 local_seed = args.seed + process_rank * 100003 完成的。种子会让模型产生不同的响应并得到不同的分数，例如。

    奖励模型实现细节

    在本节中，我们讨论了奖励模型特定的实现细节。我们讨论了诸如奖励归一化和层初始化等细节。以下是这些细节，不按特定顺序排列:

    • 奖励模型只输出最后一个 token 的值。

    • 请注意，在对 query 和 response 的连接进行前向传递后获得的奖励将具有形状 (B, T, 1) ，其中 B 是 BS(批量大小)，T 是序列长度 (始终相同; 在 OAI 的设置中，它是 query_length + response_length = 64 + 24 = 88 ，用于风格任务，参见 launch.py#L9-L11)，1 是奖励头其维度为 1。对于 RLHF (Reinforcement Learning from Human Feedback，通过人类反馈进行强化学习) 的目的，原始代码库提取最后一个 token 的奖励 (lm_human_preferences/rewards.py#L132)，因此奖励将只具有形状 (B, 1) 。

    • 奖励头层初始化

    • 奖励模型的前后归一化

    • 在论文中，Ziegler 等人 (2019) 提到“为了保持训练过程中奖励模型的规模一致，我们将其归一化，使其在 �∼�,�∼�(·|�) 的情况下，均值为 0，方差为 1”。为了执行归一化过程，代码首先创建了 reward_gain 和 reward_bias ，以便可以通过 reward = reward * reward_gain + reward_bias 来计算奖励值 (lm_human_preferences/rewards.py#L50-L51)。

    • 我们用�� 来表示实证均值，用�� 表示实证标准差，用� 表示 reward_gain ，用� 表示 reward_bias ，用��=0 表示 目标均值，用��=1 表示 目标标准差。然后我们有以下公式。

    策略训练实现细节

    在本节中，我们将深入探讨诸如层初始化、数据后处理和 dropout 设置等细节。我们还将探讨一些技术，如拒绝采样和奖励 “白化”，以及自适应 KL。以下是这些细节，排列不分先后:

    • 通过采样温度来缩放 logits

    • 在计算响应的对数概率时，模型首先输出响应中 token 的 logits，然后用采样温度除以这些 logits (lm_human_preferences/policy.py#L121)。即 logits /= self.temperature

    • 在一个非正式的测试中，我们发现如果不进行此缩放，KL 散度会比预期更快地上升，性能会下降。

    • 价值头层的初始化

    • 选择以句号开始和结束的查询文本

    • 这是数据预处理的一部分:

    • 对于书籍数据集，我们使用 https://huggingface.co/datasets/bookcorpus，我们发现没有必要提取以句号开始和结束的句子，因为数据集已经是这样预处理过的 (例如，"usually , he would be tearing around the living room , playing with his toys." ) 为此，我们为 sentiment 和 descriptiveness 任务设置 start_text=None, end_text=None 。

    • 禁用 dropout

    • 拒绝采样

    • Ziegler 等人 (2019) 建议: “我们使用拒绝采样来确保在第 16 和 24 个 token 之间有一个句号，然后在那个句号处截断 (这是‘句子结束’的粗略近似。我们选择它是因为它很容易集成到 RL 循环中，即使是粗略的近似也足以使人类评估任务变得稍微容易一些)。在 RL 微调期间，我们对没有这样的句号的延续给予固定奖励 -1。”

    • 具体来说，通过以下步骤实现此目的:

    • 代码注释: “中心示例: 将截断 token 后的所有 token 替换为填充 token”

    • 在截断响应上运行奖励模型: 在 token 截断过程将响应截断后，代码然后在 截断的响应 上运行奖励模型。

    • 代码注释: “中心示例: 确保样本包含 truncate_token “

    • 代码注释: “只对通过该功能的响应进行人类查询”

    • 在 descriptiveness 中举一些例子:

    • 折现因子 (discount factor) = 1

    • 训练循环的术语: PPO 中的批次和小批次

    1. import numpy as np
    2. batch_size = 8
    3. nminibatches = 2
    4. gradient_accumulation_steps = 2
    5. mini_batch_size = batch_size // nminibatches
    6. micro_batch_size = mini_batch_size // gradient_accumulation_steps
    7. data = np.arange(batch_size).astype(np.float32)
    8. print("data:", data)
    9. print("batch_size:", batch_size)
    10. print("mini_batch_size:", mini_batch_size)
    11. print("micro_batch_size:", micro_batch_size)
    12. for epoch in range(4):
    13.     batch_inds = np.random.permutation(batch_size)
    14.     print("epoch:", epoch, "batch_inds:", batch_inds)
    15.     for mini_batch_start in range(0, batch_size, mini_batch_size):
    16.         mini_batch_end = mini_batch_start + mini_batch_size
    17.         mini_batch_inds = batch_inds[mini_batch_start:mini_batch_end]
    18.         
    19.         # `optimizer.zero_grad()` set optimizer to zero for gradient accumulation
    20.         for micro_batch_start in range(0, mini_batch_size, micro_batch_size):
    21.             micro_batch_end = micro_batch_start + micro_batch_size
    22.             micro_batch_inds = mini_batch_inds[micro_batch_start:micro_batch_end]
    23.             print("____⏩ a forward pass on", data[micro_batch_inds])
    24.         # `optimizer.step()`
    25.         print("⏪ a backward pass on", data[mini_batch_inds])
    26.  
    27. # data: [0. 1. 2. 3. 4. 5. 6. 7.]
    28. # batch_size: 8
    29. # mini_batch_size: 4
    30. # micro_batch_size: 2
    31. # epoch: 0 batch_inds: [6 4 0 7 3 5 1 2]
    32. # ____⏩ a forward pass on [6. 4.]
    33. # ____⏩ a forward pass on [0. 7.]
    34. # ⏪ a backward pass on [6. 4. 0. 7.]
    35. # ____⏩ a forward pass on [3. 5.]
    36. # ____⏩ a forward pass on [1. 2.]
    37. # ⏪ a backward pass on [3. 5. 1. 2.]
    38. # epoch: 1 batch_inds: [6 7 3 2 0 4 5 1]
    39. # ____⏩ a forward pass on [6. 7.]
    40. # ____⏩ a forward pass on [3. 2.]
    41. # ⏪ a backward pass on [6. 7. 3. 2.]
    42. # ____⏩ a forward pass on [0. 4.]
    43. # ____⏩ a forward pass on [5. 1.]
    44. # ⏪ a backward pass on [0. 4. 5. 1.]
    45. # epoch: 2 batch_inds: [1 4 5 6 0 7 3 2]
    46. # ____⏩ a forward pass on [1. 4.]
    47. # ____⏩ a forward pass on [5. 6.]
    48. # ⏪ a backward pass on [1. 4. 5. 6.]
    49. # ____⏩ a forward pass on [0. 7.]
    50. # ____⏩ a forward pass on [3. 2.]
    51. # ⏪ a backward pass on [0. 7. 3. 2.]
    52. # epoch: 3 batch_inds: [7 2 4 1 3 0 6 5]
    53. # ____⏩ a forward pass on [7. 2.]
    54. # ____⏩ a forward pass on [4. 1.]
    55. # ⏪ a backward pass on [7. 2. 4. 1.]
    56. # ____⏩ a forward pass on [3. 0.]
    57. # ____⏩ a forward pass on [6. 5.]
    58. # ⏪ a backward pass on [3. 0. 6. 5.]

    • 基于每个标记的 KL 惩罚

    • 以 “usually, he would” 为例，它被标记化为 [23073, 11, 339, 561] 。假设我们使用 [23073] 作为查询，[11, 339, 561] 作为响应。然后在默认的 gpt2 参数下，响应标记将具有参考策略的对数概率 logprobs=[-3.3213, -4.9980, -3.8690] 。

    • 在第一个 PPO 更新时期和小批次更新时，激活策略将具有相同的对数概率new_logprobs=[-3.3213, -4.9980, -3.8690] 。因此，每个标记的 KL 惩罚将为 kl = new_logprobs - logprobs = [0., 0., 0.] 。

    • 但是，在第一个梯度反向传播后，我们可能会得到 new_logprob=[3.3213, -4.9980, -3.8690] ，因此每个标记的 KL 惩罚变为 kl = new_logprobs - logprobs = [-0.3315, -0.0426, 0.6351] 。

    • 随后，non_score_reward = beta * kl ，其中 beta 是 KL 惩罚系数 ����，它被添加到从奖励模型获得的 score 中，以创建用于训练的 rewards 。score 仅在每个回合 ( episode ) 结束时给出，可能类似于 [0.4] ，然后我们有 rewards = [beta * -0.3315, beta * -0.0426, beta * 0.6351 + 0.4] 。

    • 每个小批次的奖励和优势白化，可选择均值平移

    • OAI 实现了一个名为 whiten 的函数，如下所示，基本上通过减去其均值然后除以其标准差来对 values 进行归一化。可选地，whiten 可以通过 shift_mean=True 将白化后的 values 平移到均值。

    1. def whiten(values, shift_mean=True):
    2.     mean, var = torch.mean(values), torch.var(values, unbiased=False)
    3.     whitened = (values - mean)* torch.rsqrt(var + 1e-8)
    4.     if not shift_mean:
    5.         whitened += mean
    6.     return whitened

    • 优化注意事项: 如果小批次的数量为一 (在此复现中是这种情况)，我们只需要对奖励进行白化、计算并对优势进行一次白化，因为它们的值不会改变。

    • TensorFlow vs PyTorch 注意事项: tf.moments 与 torch.var 的不同行为: 由于方差计算方式不同，Torch 和 TensorFlow 中的白化行为不同:

    1. import numpy as np
    2. import tensorflow as tf
    3. import torch
    4.  
    5. def whiten_tf(values, shift_mean=True):
    6.     mean, var = tf.nn.moments(values, axes=list(range(values.shape.rank)))
    7.     mean = tf.Print(mean, [mean], 'mean', summarize=100)
    8.     var = tf.Print(var, [var], 'var', summarize=100)
    9.     whitened = (values - mean)* tf.rsqrt(var + 1e-8)
    10.     if not shift_mean:
    11.         whitened += mean
    12.     return whitened
    13.  
    14. def whiten_pt(values, shift_mean=True, unbiased=True):
    15.     mean, var = torch.mean(values), torch.var(values, unbiased=unbiased)
    16.     print("mean", mean)
    17.     print("var", var)
    18.     whitened = (values - mean)* torch.rsqrt(var + 1e-8)
    19.     if not shift_mean:
    20.         whitened += mean
    21.     return whitened
    22.  
    23. rewards = np.array([
    24.     [1.2, 1.3, 1.4],
    25.     [1.5, 1.6, 1.7],
    26.     [1.8, 1.9, 2.0],
    27. ])
    28.  
    29. with tf.Session() as sess:
    30.     print(sess.run(whiten_tf(tf.constant(rewards, dtype=tf.float32), shift_mean=False)))
    31.     print(whiten_pt(torch.tensor(rewards), shift_mean=False, unbiased=True))
    32.     print(whiten_pt(torch.tensor(rewards), shift_mean=False, unbiased=False))

    • 裁剪值函数

    • 自适应 KL 散度

    • KL 散度惩罚系数 � 根据当前策略与先前策略之间的 KL 散度自适应修改。如果 KL 散度超出预定的目标范围，则调整惩罚系数以使其更接近目标范围 (lm_human_preferences/train_policy.py#L115-L124)。它的实现如下:

    1. class AdaptiveKLController:
    2.     def __init__(self, init_kl_coef, hparams):
    3.         self.value = init_kl_coef
    4.         self.hparams = hparams
    5.  
    6.     def update(self, current, n_steps):
    7.         target = self.hparams.target
    8.         proportional_error = np.clip(current / target - 1, -0.2, 0.2)
    9.         mult = 1 + proportional_error * n_steps / self.hparams.horizon
    10.         self.value *= mult

    • 对于本工作中研究的 sentiment 和 descriptiveness 任务，我们使用了 init_kl_coef=0.15, hparams.target=6, hparams.horizon=10000 。

    PyTorch Adam 优化器与 RLHF 相关的数值问题

    • 这个实现细节非常有趣，值得专门一节来讨论。

    • PyTorch 的 Adam 优化器 (torch.optim.Adam.html) 与 TensorFlow 的 Adam 优化器 (TF1 Adam 在 tensorflow/v1.15.2/adam.py，TF2 Adam 在 keras/adam.py#L26-L220) 有不同的实现方式。具体来说， PyTorch 遵循了 Kingma 和 Ba 的 Adam 论文中的算法 1 (arxiv/1412.6980)，而 TensorFlow 使用了该论文第 2.1 节前的公式，这里提到的 epsilon 在论文中称为 epsilon hat 。在伪代码比较中，我们有以下内容:

    1. ### pytorch adam implementation:
    2. bias_correction1 = 1 - beta1 ** step
    3. bias_correction2 = 1 - beta2 ** step
    4. step_size = lr / bias_correction1
    5. bias_correction2_sqrt = _dispatch_sqrt(bias_correction2)
    6. denom = (exp_avg_sq.sqrt() / bias_correction2_sqrt).add_(eps)
    7. param.addcdiv_(exp_avg, denom, value=-step_size)
    8.  
    9. ### tensorflow adam implementation:
    10. lr_t = lr * _dispatch_sqrt((1 - beta2 ** step)) / (1 - beta1 ** step)
    11. denom = exp_avg_sq.sqrt().add_(eps)
    12. param.addcdiv_(exp_avg, denom, value=-lr_t)

    让我们比较一下 PyTorch 风格和 TensorFlow 风格 Adam 的更新方程。按照 Adam 论文 (Kingma 和 Ba，2014) 的符号表示，我们可以得到 PyTorch Adam (Kingma 和 Ba 论文的算法 1) 和 TensorFlow 风格 Adam (Kingma 和 Ba 论文第 2.1 节前的公式) 的梯度更新规则如下:

    • 上面的方程强调了 PyTorch 和 TensorFlow 实现之间的区别在于它们的 归一化项，即 �1−�2� 和 �^。如果我们设置 �^=�1−�2�，则这两个版本是等价的。然而，在 PyTorch 和 TensorFlow 的 API 中，我们只能通过 eps 参数设置 � (PyTorch) 和 �^ (TensorFlow)，从而导致它们的更新方程存在差异。如果我们将 � 和 �^ 都设置为相同的值，比如 1e-5 会发生什么？那么对于 TensorFlow Adam，归一化项 �^=1e-5 就是一个常数。但对于 PyTorch Adam，归一化项 �1−�2� 随着时间的推移而变化。重要的是，当时间步 � 较小时，该项 �1−�2� 明显小于 1e-5，随着时间步增加，逐渐接近 1e-5。下面的图表比较了这两个归一化项随着时间步的变化情况:

    norma_const_comparison.png

    • 上图显示，如果我们在 PyTorch Adam 和 TensorFlow Adam 中设置相同的 eps ，那么在训练的早期阶段，PyTorch Adam 使用的归一化项要比 TensorFlow Adam 小得多。换句话说，PyTorch Adam 在训练的早期采用了 更激进的梯度更新。我们的实验证明了这一发现，如下所示。

    • 由于某种原因， PyTorch 的 Adam 生成了更激进的更新。以下是一些证据:

    • PyTorch 的 Adam 的 logprob_diff_var 高出 6 倍。这里的 logprobs_diff = new_logprobs - logprobs 是经过两个训练周期后，初始策略和当前策略之间的标记对数概率差异。具有更大的 logprob_diff_var 意味着对数概率变化的幅度比 OAI 的 TF1 Adam 大。

    • PyTorch 的 Adam 呈现更极端的最大和最小比率。这里的 ratio = torch.exp(logprobs_diff) 。具有 ratio_max=1.8121057748794556 意味着对于某些标记，在当前策略下抽取该标记的概率要比 OAI 的 TF1 Adam 高 1.8 倍，而后者仅为 1.2 倍。

    • 更大的 policy/approxkl 和 policy/clipfrac。由于激进的更新，比率被剪切的次数 多 4.4 倍，近似的 KL 散度大 6 倍。

    • 这种激进的更新可能会导致进一步的问题。例如，PyTorch 的 Adam 中的logprob_diff_mean 要大 1.7 倍，这将对下一个奖励计算中的 KL 惩罚产生 1.7 倍大的影响; 这可能会被累积。实际上，这可能与著名的 KL 散度问题有关—— KL 惩罚远大于它应该的值，模型可能会更多地关注它并进行更多优化，从而导致负的 KL 散度。

    • 更大的模型受到更多影响。我们进行了一些实验，比较了 PyTorch 的 Adam (代号 pt_adam ) 和我们自定义的类似 TensorFlow 风格的 Adam (代号 tf_adam ) 在 gpt2 和 gpt2-xl 上的性能。我们发现在 gpt2 下性能大致相似; 但是在 gpt2-xl 下，我们观察到了更激进的更新，这意味着更大的模型受到了更多的影响。

    • 当在 gpt2-xl 中初始策略更新更为激进时，训练动态会受到影响。例如，我们发现使用 pt_adam 时，sentiment 的 objective/kl 和 objective/scores 峰值要大得多， 在其中一个随机种子中，最大的 KL 值达到了 17.5 ，这表明了不希望的过度优化。

    • 此外，由于 KL 更大，许多其他训练指标也受到影响。例如，我们观察到更大的 clipfrac (ratio 被 PPO 的目标裁剪系数 0.2 裁剪的时间比例) 和 approxkl 。

    adam_gpt2.png

    adam_gpt2_xl.png

    局限性

    注意到这项工作没有尝试复现 CNN DM 中的摘要工作。这是因为我们发现训练耗时且不稳定。

    我们的特定训练运行显示 GPU 利用率较低 (约 30%)，因此一个训练运行需要近 4 天的时间，这非常昂贵 (只有 AWS 销售 p3dn.24xlarge，每小时费用为 31.212 美元)。

    此外，训练也很不稳定。虽然奖励值上升，但我们发现难以复现 Ziegler 等人 (2019 年) 报告的“智能复制”行为。以下是一些样本输出 — 显然，智能体出现了某种程度的过拟合。请查看 https://wandb.ai/openrlbenchmark/lm-human-preferences/runs/1ab47rqi/logs 以获取更完整的日志。

    tldr1.png

    tldr2.png

    总结

    在这项工作中，我们深入研究了 OpenAI 的原始 RLHF (Reinforcement Learning from Human Feedback) 代码库，并编制了其实施细节的列表。我们还创建了一个最小的基础版本，当数据集和超参数受控制时，可以复现与 OpenAI 原始 RLHF 代码库相同的学习曲线。此外，我们还识别了一些令人惊讶的实施细节，比如 Adam 优化器的设置，它会导致在 RLHF 训练的早期出现激进的更新。

    文章转载自：HuggingFace

    原文链接：https://www.cnblogs.com/huggingface/p/17836295.html

  • 相关阅读:
    2009(408)数据结构有关链表代码题
    idea-Tabnine
    C++ 11 模板改进
    环形缓冲区-----适合在通信中接收数据（例如uart）
    rapidocr_paddle[gpu]：GPU端推理库来了
    【45. 状态压缩DP（最短Hamilton路径）】
    docker network create命令
    springboot属性注入增强（一）背景/需求
    GEEM2引擎微端架设基本教程
    Kubernetes学习笔记-保障集群内节点和网络安全（4）隔离pod的网络20220911
  • 原文地址：https://blog.csdn.net/sdgfafg_25/article/details/134455513