10. 大模型应用安全合规
# 前言 你将答疑机器人开放给内部员工测试,新问题很快出现了。你发现有人在诱导机器人讲述涉黄、涉暴内容,或发表政治评论。这些输入如不加以防范,很...
# 前言 你将答疑机器人开放给内部员工测试,新问题很快出现了。你发现有人在诱导机器人讲述涉黄、涉暴内容,或发表政治评论。这些输入如不加以防范,很...
1. 提示词框架 1.1 基本要素 当和大模型在交流时,可以将它想象是一个经过“社会化训练的”人,交流方式应当和人与人之间传递信息的方式一样。你的需求需要...
课程目标 学完本节课程后,你将能够: 如何自动化大模型应用评测。 如何通过 Ragas 对 RAG 应用进行评测。 如何通过 Ragas 分数来定位并解决问题。
你发现答疑机器人不能很好的回答「张伟是哪个部门的?」。因为公司有好几个张伟, 所以张伟相关的文档数量会很多 1. 初步优化检索效果 正如前言提到的,你...
1. 业务需求分析 业务需求分析是成功部署大模型的第一步。不同的业务场景对模型的功能性需求和非功能性需求差异巨大。如果业务场景不清晰,可能会导致以...