LLM护栏通过提供补充训练过程的安全边界，与来自人类反馈 (RLHF) 的强化学习进行交互。RLHF用于通过允许人类反馈来加强良好行为并纠正不良输出来微调模型。护栏通过确保任何学习行为符合道德，法律和安全标准，在这种设置中起着至关重要的作用。
在RLHF过程中，人类反馈可以指导模型生成更相关，安全和上下文适当的响应。护栏可以在有害或有偏见的输入到达模型的学习循环之前将其过滤掉，从而确保仅将安全有用的反馈集成到系统中。例如，如果人类反馈导致模型产生有偏见或令人反感的内容，则护栏可以阻止这些输出成为模型学习行为的一部分。
通过与RLHF一起工作，护栏确保加固不会导致不良后果。它们有助于在基于反馈提高绩效与保持安全、中立和遵守道德准则之间取得平衡。它们共同实现了更强大、更负责任的学习过程。