尽管存在一些挑战，但护栏可以与llm的边缘部署兼容。边缘计算涉及在本地设备上运行模型，与基于云的系统相比，这限制了可用的计算资源。为了确保护栏在这样的环境中有效地起作用，经常采用轻量级过滤算法和优化的护栏模型。这些模型旨在在功能较弱的硬件上运行，在不牺牲安全性的情况下保持性能。
例如，通过将轻量级内容过滤过程直接嵌入到设备上，可以将护栏集成到edge模型中，从而确保在本地阻止敏感或有害的输出。然而，由于资源限制，边缘部署可能无法利用与云部署一样复杂或精密的护栏。
为了应对这些挑战，边缘部署通常使用混合方法，在需要时将一些内容审核或合规性任务卸载到集中式系统，同时在边缘维护基本防护。即使在资源受限的环境中，此方法也可确保实时应用程序的效率和安全性。