在医疗保健应用中，llm必须遵守严格的道德标准，以确保患者的安全和隐私。一个重要的护栏是防止医疗错误信息的产生。应该对模型进行培训，以识别并避免提供医疗建议，诊断或治疗建议，除非内容基于经过验证的权威来源。这可以防止潜在的危险后果，例如用户收到不正确或有害的建议。
另一个关键的护栏是确保遵守隐私法规，例如美国的HIPAA或欧洲的GDPR。医疗保健中使用的LLMs必须设计为避免生成或保留敏感的个人健康信息。可以实施护栏来阻止模型处理或输出可识别的健康数据，确保它不会违反患者的机密性。
此外，llm应配备内容审核过滤器，以防止与心理健康相关的有害语言，例如促进自我伤害或污名化条件。在讨论敏感的健康话题时，护栏应该鼓励善解人意和负责任的语言，确保该模型在医疗机构中提供支持性、准确和非判断性的反应。