结合 2026 方案 19 条 · AI 听评课存在的问题与不足

AI 听评课能做的是"把证据找出来",还做不到"替专家下结论"

以下六个问题全部来自本项目 2026 年 8 月至 10 月在真实课堂数据上的实测,每一条都有数字和出处。三个课堂实例在后半部分。

六个问题

一、拍不到的,AI 会当成没有

AI 只能看镜头拍到、话筒收到的内容。学生没入镜、学生发言没被拾音,AI 就看不到互动和反应,于是把"录不到"当成"没发生",这些课被系统性压分。

更隐蔽的是反向错误:说话人分离把视频里的纪录片解说当成学生发言,一堂真实学生发言为零的课被记成 19.6% 学生占比。

Q10 互动Q13 对话Q17 感染力
8 门
220 批普查中无学生机位的录播课被系统性低估,扣的分对应拍摄方式,不是教学
146 / 726
2026 批专家自标:47 门无学生入镜,99 门仅部分可见;另 121 门学生发言听不清

二、听错的,AI 会当真

语音转写是所有判断的上游。转写把教师讲对的话写成错话,AI 再去核验,就会"核出"一个教师根本没犯的错误;转写把历史人名转成网络粗俗词,合规筛查就会把一堂正常课冻结。

实测里,合规筛查误报的 31% 根子在转写;事实核验 7 条出单里 2 条是转写致误。对比实验也证实:换一版转写对结果的影响,比换提问方式大一个量级。

Q5 事实准确Q5 立场Q13 不照本宣科
48%
合规筛查条目级精度(29 条人审判 14 条属实);每 100 门约 27 门冻结待人裁,六成会被放回
57% → 75%
事实核验对教师的精度,换更保守的提问口径后提高,但丢掉一条真错

三、同一堂课评三遍,分数不一样

大模型每次评分都带随机性。同样材料、同样提示词,让 课程评价专用模型独立评三遍,三次极差平均 6.5 分,最差的一堂课三次分别是 63、78、80 分。约 15% 的课单次评分可能漂一整个档位。

排序相对稳(单次与三次均值的秩相关 0.95),但"这堂课多少分"单看一次是不可信的。方案里的总分和 grade 直接受此影响。

总分grade
63 / 78 / 80
同一堂课、同一模型、三次独立评分(20 门噪声实验中极差最大的一门)
7.4 分
同一教师同一节内容两次近逐字重讲(0924 / 1119),AI 评分差 7.4(70.7 vs 63.3)

四、与专家一致性低,认不出极好的课

AI 课程分与专家分的秩相关只有 0.17(2026 批)到 0.25(2025 批)。

在高分区间,AI 的排序和专家基本无关。AI 能把明显差的课筛出来,但分不出"好"和"极好"。

Q16 说服力Q17 感染力grade
0.17 / 0.25
AI 课程分与专家分的 Spearman(2026 批 721 门 / 2025 批 783 门)
ρ≈0
极值区间内 AI 排序与专家排序的相关

五、立场和价值判断,AI 会给教师找理由

涉及政治方向和价值表述的判断,模型倾向于用"教学性模拟""反衬手法"替教师辩护。人审第一批里就出现了模型辩护未被采信的判例。这类判断的终点必须是人。

Q5 立场Q15 引领力
11 / 16
合规误报中 AI 自身误判 11 条、转写致误 5 条(天理工 53 场人审)

六、一堂课看不出的东西,AI 也看不出

19 条里有 25 分 AI 根本没有证据:学情清单、教案课件(Q1–Q4、Q14,15 分)语料里没有;学生"思想受撞击、情感触动"(Q17,10 分)本来就不可观测。另有 30 分只能评一部分:理论功底、读书量、热爱事业、关注学生差异,都是"一堂课推断不了教师整体"的素养项,AI 只能拿课堂表现当代理。

Q1–Q4Q9Q11–Q14Q15Q17
45 / 30 / 25
19 条按权重:可评 / 部分可评 / 不可评(详见"19 条 AI 可评性"页)
三个课堂实例
实例 1 · 互动明明存在,AI 判"不可观测"
中国民航大学 · 2025-11-17 · 编号 CAUC-XSX-T04

材料开头写了一句"本课录音以教师话筒为主,学生发言基本未被收录"。模型照这句话把互动直接判为"不可观测",放弃读转写。

逐句核实转写:教师点名 12 次、对学生回答做实质回应 52 次。

"有没有同学可以举手"
"刚才谁先举手的,好像那位同学……那你来吧"
"哎,非常好啊,请坐啊"
"他说,毛泽东同志在延安为中央党校提了实事求是四个大字" ← 教师复述学生回答
AI 判互动不可观测实际学生举手、点名、作答、教师肯定并复述

同批 30 门课里 27 门被标"不可观测",25 门其实可判。原因是判据按"录音条件"写、不按"证据有没有"写,服从定义的模型反而错了。
对应 Q10、Q13、Q17。

实例 2 · 转写把"商鞅"写成"沙雕",正常课被冻结
天津理工大学 53 场人审批 · 2025 批

合规筛查把两堂课冻结,理由是教师言语"身份不符"。人审回听:教师讲的是"商鞅变法",转写把历史人名转成了网络粗俗词,教师根本没说。

"商鞅" → 转写成 "沙雕"(两门课都中招)
"太多了,也不太听得清" → 转写成 "我眼睛瞎了,看不见"(整句幻觉级失真)
AI 判言语不当 · 整课冻结实际教学内容正常,转写错误

这一批 5 条转写矫正里 4 条来自身份不符误报。29 条合规条目人审后只有 14 条属实,21 门涉及课时里 13 门放回评分线。
对应 Q5 立场、Q13 话语体系。

实例 3 · 一字之差,AI 标了"重要差错",人也得回听
2025 批独立验证集 · 编号 C25-130_13687640096 · 课程分 76

AI 事实核验在 0:53 处标出一条"重要"差错,F2(理论阐释与内容准确性)因此从 3 级降到 2 级并挂起待核。

教师原话(转写):"提出了教育、科技、人才,他们是全面建成社会主义现代化国家的基础性和战略性支撑。"
教材与课件的规范表述是"全面建设社会主义现代化国家"。
AI 判重要差错 · 待回听实际"建设 / 建成"一字之差,是教师口误还是转写听错,不回听原音无法定

同类情况在 20 门核验实验里反复出现:"11 亿吨"被听成"11 吨"、"开通"被听成"开工",AI 的判断本身是对的,错在转写。所以本项目口径是:模型自报的疑似错误一律不进分数,只走核验通道。
对应 Q5 事实准确。

这些问题意味着 AI 听评课该怎么用

  1. AI 做初筛和定位,不做终审。它最可靠的产出是"第几分几秒、哪句话、可能有什么问题",让专家直接跳到那里回听,而不是替专家打分。
  2. 凡涉及立场、事实差错、冻结课的判定,终点必须是人。实测精度五成上下,人审是流程的必要组成,不是兜底。
  3. 单次分数不发布。要么多次评分取稳定值,要么只发分档和排序,并附不确定性。
  4. 拍不到学生的课,互动与感染力标 N/A,不扣分。先过"录制条件门",再谈学生证据。
  5. 转写质量是第一杠杆。改进转写(热词、重转、人名词典)比改进模型提示词更有效,省下的是人审工作量。
  6. 19 条里缺材料的 15 分,让学校补交材料就能评;拍不到的 10 分,要靠现场听课或学生端数据。
数据出处

互动可观测性判据复盘 互动可观测性定义错误_2026-08-02.md;无学生机位 8 门、纪录片解说 19.6%、极值区 ρ≈0 章节锚定评价方案_v2.md;合规闸精度 48%、商鞅/沙雕、"打一仗"判例 2026-08-18_站2人审第一批_合规闸真实精度.md;事实核验 57%/75%、11 亿吨 2026-08-28_事实核验判读口径AB与结论核验否定.md;课程评价专用模型三次评分 63/78/80 2026-08-31 评分噪声测量决策记录;同一教师重测对差 7.4 分 评价工作总体方案_v4.md;AI 与专家 Spearman 0.167/0.252 f9_infer/f9_summary.json;建设/建成 0:53 f9_infer/f9_courses.json;2026 批可观测性 47/99/121 门 726 批 06_专家标注结果。