通过RAG增强大模型回答原本无法回答的问题
前言你报名参与了导游志愿者活动，但对景点并不熟悉的你很难给出令游客满意的景点介绍。你意识到可以通过查询资料来帮助你完成导游工作，这时的你不再扮演知识的输出者，而是知识的总结者。同样地，给大模型配备知识库，也可以让它参考查询到的信息回答原本无法回答的问题。这种结合了信息检索与文本生成的方法就是我们本节课程要介绍的检索增强生成（RAG)
小智学院
借助 API 让大模型自动化地处理任务
前言假设公司对客户发起产品调研，而你需要分析问卷，找出待改进之处。例如：价格过高、售后支持不足或产品体验不佳。如果问卷较少，可以人工阅读，或一次性交由大模型分析。但面对上万份问卷时，这些方法便不再适用。使用大模型服务的API可以有效解决这个问题。本章将介绍如何使用大模型服务的API自动处理批量任务。课程目标学完本课程后，你将能够：
通过插件增强大模型的能力
你已经熟练使用大模型的;来自动处理各种批量任务。不过，你可能也发现，并不是所有任务大模型都能完美解决。例如，当你给大模型一批小学难度的计算题，比如393乘以285，它竟然给出了错误答案。就像不擅长数学的人可以使用计算器来解决复杂的算术问题一样，大模型也可以借助插件这种工具来解决它原本难以解决的问题。
通过微调改善大模型在垂直领域的表现
微调类似于考生应对闭卷考试的过程，考生需要在考试前经过老师的教学，把书本上的内容吃透，才能写出正确答案。通常只看一遍书不够，要反复看书，多做习题，查漏补缺，及时纠正错误的认知。这种临时抱佛脚的过程，会让很多人精疲力尽，考完试什么事也不想做了。微调也是这样，准备微调数据集的过程已经比较复杂了，微调工作中需要反复尝试，不断寻找最优参数组合，因此整体成本通常比较高。
借助 Agent 让大模型应用思考、决策并执行任务
你也许尝试过让大模型基于你的工作总结写一份周报，然后你再手动发送周报的邮件给你老板。如果有一个程序可以接收这样的输入，把你的工作总结转化为周报，还能通过电子邮件发送给你的老板，这样的程序就是本章节即将介绍的“Agent”。接下来，我们将带你拆解Agent背后的实现思路，并探索单Agent、多Agent在现实世界的应用。
大模型应用的安全合规
了解大模型的多种优化方法后，你可能已经准备将其引入到业务中。但在正式应用和上线之前，你应该充分了解引入大模型后可能存在的风险以及应对策略。课程目标学习完本课程后，你将能够：认识大模型的个人信息、内容安全、模型安全和知识产权风险了解大模型的个人信息、内容安全、模型安全和知识产权风险的治理策略了解大模型应用的备案要求和方法1大模型的风险随着生成式人工智能技术的广泛应用，其在保护用户个人
拓展学习：多模态大模型、MoE混合专家模型、大小模型云端协同
1多模态大模型1.1什么是多模态大模型每一种信息的来源或者形式，都可以称为一种模态（Modality）。例如，人类会通过色香味点评食物，并通过文字和图片记录。这里的视觉、嗅觉、味觉、文字、图片都是不同的模态。而在大模型领域，模态指的是数据或信息的类型或表达形式，文本、图像、视频、音频等都是不同的模态。多模态，顾名思义，就是指结合两种及以上的模态，进行更综合的数据处理和分析。