LLMs中的护栏通过技术组合来指导模型行为和输出。这些措施包括在精选数据集上微调模型，使其与特定的道德标准或应用程序需求保持一致。具有人类反馈的强化学习 (RLHF) 也用于奖励理想的输出并阻止有害的输出。
其他机制包括输入验证，实时监控和后处理过滤器，以动态查看和调整输出。Prompt engineering还可以通过以降低有害或不相关响应风险的方式构建用户查询来充当轻量级护栏。
这些技术一起确保模型生成安全、准确和上下文适当的内容。通过结合预培训，微调和运行时保护措施，护栏使llm成为可靠且用户友好的工具。