
大模型科研智能体风险识别与安全防护虚拟仿真实验
- 开课时间: 2026-11-07 至 2027-01-08
- 学时:8
- 学分:0.5
- 负责人:董永权
- 联系电话 :15152816579
本实验依托《智能体开发与应用》课程,以“科研助手协作完成学生学习行为分析报告”为任务载体,设置知识库问答、工具调用和多智能体协作三个安全场景,将任务建模与知识库安全、工具调用安全、多智能体协作安全、综合验证与总结组织为四个模块、24个交互步骤、8学时的递进式虚拟仿真实验。学生既作为使用者核对资料、统计和报告,又作为开发者配置权限、编写Python校验代码并解释执行结果;通过模拟身份、隔离副本与快照恢复,观察身份泄露、文件覆盖、未授权执行等不可逆操作的后果,反复开展“预测—运行—防护—复测”探究训练,掌握科研智能体工作流的基本组成及其安全控制方法。系统本地部署大模型与授权知识库,独立教学辅助智能体按概念、定位、验证三级提示引导;按24步计100分综合评价,结合越权执行率、敏感标记泄露率、正常任务成功率与误拦截率四项指标支持过程性评价。
教师团队
THE TEACHING TEAM
学情分析
学习完成情况
共有 5 人次参与学习
其中 0 人次完成
共有 5 人次未完成
