# 隐私、幻觉与学术诚信

Chapter 7 of 8 of the course [高校教师 AI 实用入门](https://wuming.si/courses/ai-for-teachers/).

## 什么不能给 AI

你输入的内容，会被服务方看到，可能用于改进模型，也可能被存储。这不是阴谋论——大多数平台的服务协议里就这么写。

**绝对不要上传：**

| 类型 | 具体例子 | 风险 |
|---|---|---|
| 学生个人信息 | 姓名 + 成绩 + 联系方式的组合 | 隐私泄露，违反教育数据保护规定 |
| 未发表的科研成果 | 尚未投稿的论文初稿 | 可能泄露或被他人使用 |
| 学校内部文件 | 内部政策、财务数据 | 机密外泄 |
| 可识别的学生案例 | "2023 级计算机 3 班的小明……" | 个人隐私 |

**安全做法：**

```
✅ 把"2023 级计算机班学生甲"改成"某班，学生编号 001"
✅ 上传班级数据前，先删掉姓名列
✅ 优先用学校采购的、签了数据协议的企业版 AI
❌ 直接上传含学生姓名的成绩表到公开 AI 平台
❌ 把未发表论文全文粘给 AI 润色
```

关于版权：AI 生成的内容在国内现阶段不受著作权保护；你在其基础上做的实质性创作属于你。相关法律仍在演进，对 AI 的使用保持透明是最稳妥的做法。

## AI 幻觉：怎么识别

**最容易出错的五类内容：**

| 高风险 | 例子 |
|---|---|
| 具体数字和统计 | "2022 年某行业规模为 XXX 亿" |
| 参考文献引用 | 格式完美但文章不存在 |
| 历史细节 | 时间、地点、人名 |
| 最新事件 | AI 的知识有截止日期 |
| 法律条款原文 | 条款号和精确表述 |

**四种验证方法：**

```
一、交叉验证
   让它给出来源，再去原始来源核实。数字、引用、法条必查。

二、追问细节
   "这个数据来自哪个报告？哪一年？第几页？"
   给不出具体来源的，一律存疑。

三、反向提问
   "你确定吗？有没有相反的观点？"
   诚实的 AI 会说"我不确定"；一味坚持的，更要怀疑。

四、专业判断
   你是这个领域的专业人士。AI 说的和你的专业知识矛盾时，相信自己。
```

**一个自测练习：**问 AI 一个你明确知道答案的本专业问题，看它答得准不准。这件事做一次，比读十遍警告有用。

## 学生用 AI 怎么管

这个问题没有标准答案，但有一个好用的判断标准：

> **看学习目标有没有被绕过。**

| 情况 | 判断 |
|---|---|
| 写作课的作文，用 AI 生成后交 | 违规——写作本身就是目标 |
| 编程课作业用 AI 查语法错误 | 可以——语法不是这门课的目标 |
| 文献综述用 AI 筛选论文 | 可以——但综述正文要自己写 |
| 用 AI 直接生成实验数据 | 严重违规——学术不端 |

同一个行为在不同课上结论不同。所以**边界要由你这门课的老师来划，并且提前告诉学生**。

### 四种应对策略

**一、明确声明制度。**在课程大纲和每次作业要求里写清三件事：允许用 AI 做什么、禁止用 AI 做什么、用了要怎么声明。

**二、改作业设计。**让 AI 不好代劳的作业：

- 要求结合**本人**的具体经历、实习、实验数据
- 要求引用**课堂上**讲过的具体案例和讨论
- 过程性考核：交提纲 → 交初稿 → 交终稿，看过程
- 口头答辩：写的东西要能当面讲清楚、答得上追问

**三、把 AI 变成作业的一部分。**比较有意思的一种：

> 本次作业请用 AI 生成一份初稿，附在最后。然后写一份 800 字的批判性分析：AI 的初稿有哪些错误、哪些地方过于笼统、哪些观点你不同意，以及你最终怎么改写的。

这样学生必须真的懂，才能挑出 AI 的毛病。

**四、课堂上明确说清。**第一堂课花五分钟讲：

> "我不禁止你们用 AI，我禁止你们用 AI 代替思考。这门课考核的是你的判断力——AI 能做的部分，本来就不是我要给你们打分的东西。但有一件事我必须说清楚：用 AI 生成的内容直接交上来，按学术不端处理。"

## 一份使用前的检查清单

```
用之前：
□ 这件事交给 AI 合适吗？
□ 我要输入的内容里，有没有不该外传的信息？
□ 需要去掉哪些个人信息？

用的时候：
□ 我给够上下文了吗？
□ 这是 AI 容易出错的领域吗？

用完之后：
□ 事实、数字、引用，我核实了吗？
□ 这些内容符合我的专业判断吗？
□ 需要向谁声明我用了 AI？
□ 最终责任在我，不在 AI —— 我认这个账吗？
```

最后一条是全部的核心。**AI 出的错，署的是你的名字。**

## 动手练习

为你的一门课写一段**AI 使用规范**，直接能放进课程大纲。

至少包含：

- [ ] 这门课的学习目标是什么（决定了边界画在哪）
- [ ] 允许用 AI 的三个场景
- [ ] 禁止用 AI 的三个场景
- [ ] 学生使用后的声明要求
- [ ] 违规的后果