课后思考 #3 - 评测应用:大模型评测、安全、应用
题目
请就以下题目展开自己的思考和理解,每道题回答不少于100字(共3题)。
- 大模型安全与攻防:通过课上所学知识,列举并简要描述几种常见的大模型攻击方式,并讨论相应的防守方法。你认为哪些防守方式最有效?为什么?
- AI偏见与公平性问题:假设一个大模型在招聘过程中被用来筛选候选人,结果显示它在评估女性候选人时比男性候选人得分低。你认为这种偏见是如何产生的?请分析大模型偏见产生的原因、可能造成的后果,并讨论如何通过技术手段、数据处理和社会政策来缓解这种偏见。
- 大模型社会影响与伦理治理:你认为大模型在某些不当使用场景下可能带来哪些社会问题?例如假新闻传播、恶意自动化攻击、诈骗、政治操控等。请讨论如何通过技术手段、法律法规、道德框架等多种方式防止这些滥用行为。
要求
请同学们按照以下三个步骤完成作业:
- 闭卷阶段:在不借助任何工具书和大模型的情况下,写出自己对题目的理解
- 开卷阶段:在可以查看PPT的情况下,再次写出自己的理解
- 参考模型:将任务输给大模型,获得大模型视角下的理解
将以上三部分内容整理到一个文档中,加上比较和分析,最终在 Canvas 平台上提交一份 PDF 文档