如果LLMs的训练数据包含有偏见或不适当的材料，则会产生有害或令人反感的内容。例如，如果在训练期间暴露于有毒语言，模型可能会在其输出中无意中复制这种行为。同样，制作不当的提示可能会导致产生有害的响应。
开发人员通过应用内容审核技术来降低此风险，例如在精选数据集上微调模型或实施安全过滤器以阻止有害输出。例如，OpenAI的模型包括保护措施，以减少产生攻击性材料的可能性。
尽管有这些预防措施，但没有一个模型是完全没有风险的。持续监控，定期更新和用户反馈对于最大程度地减少有害内容生成的机会并确保模型符合道德准则至关重要。