护栏通过过滤和监视输入和输出来防止llm无意中暴露安全信息。例如，如果用户请求机密数据 (例如专有公司信息或私人用户数据)，则护栏可以检测到这些请求并阻止可能危及安全性的任何输出。这在医疗保健、法律和金融等领域尤为重要，在这些领域，敏感信息必须得到保护。
此外，护栏可以使用上下文感知机制来确保LLM不会生成可能无意中引用或泄露安全数据的输出。如果LLM是在包含安全或敏感信息的数据集上训练的，则护栏可以识别何时可以在模型的输出中暴露此类信息，并防止其被共享。
护栏还可以包括检查，以防止模型生成包含特定关键字 (如加密密钥、密码或其他机密术语) 的输出。通过实时监视模型的输出并使用高级检测算法，系统可以防止可能嵌入在用户查询或响应中的安全信息的泄漏。