以下六个问题全部来自本项目 2026 年 8 月至 10 月在真实课堂数据上的实测,每一条都有数字和出处。三个课堂实例在后半部分。
AI 只能看镜头拍到、话筒收到的内容。学生没入镜、学生发言没被拾音,AI 就看不到互动和反应,于是把"录不到"当成"没发生",这些课被系统性压分。
更隐蔽的是反向错误:说话人分离把视频里的纪录片解说当成学生发言,一堂真实学生发言为零的课被记成 19.6% 学生占比。
语音转写是所有判断的上游。转写把教师讲对的话写成错话,AI 再去核验,就会"核出"一个教师根本没犯的错误;转写把历史人名转成网络粗俗词,合规筛查就会把一堂正常课冻结。
实测里,合规筛查误报的 31% 根子在转写;事实核验 7 条出单里 2 条是转写致误。对比实验也证实:换一版转写对结果的影响,比换提问方式大一个量级。
大模型每次评分都带随机性。同样材料、同样提示词,让 课程评价专用模型独立评三遍,三次极差平均 6.5 分,最差的一堂课三次分别是 63、78、80 分。约 15% 的课单次评分可能漂一整个档位。
排序相对稳(单次与三次均值的秩相关 0.95),但"这堂课多少分"单看一次是不可信的。方案里的总分和 grade 直接受此影响。
AI 课程分与专家分的秩相关只有 0.17(2026 批)到 0.25(2025 批)。
在高分区间,AI 的排序和专家基本无关。AI 能把明显差的课筛出来,但分不出"好"和"极好"。
涉及政治方向和价值表述的判断,模型倾向于用"教学性模拟""反衬手法"替教师辩护。人审第一批里就出现了模型辩护未被采信的判例。这类判断的终点必须是人。
19 条里有 25 分 AI 根本没有证据:学情清单、教案课件(Q1–Q4、Q14,15 分)语料里没有;学生"思想受撞击、情感触动"(Q17,10 分)本来就不可观测。另有 30 分只能评一部分:理论功底、读书量、热爱事业、关注学生差异,都是"一堂课推断不了教师整体"的素养项,AI 只能拿课堂表现当代理。
材料开头写了一句"本课录音以教师话筒为主,学生发言基本未被收录"。模型照这句话把互动直接判为"不可观测",放弃读转写。
逐句核实转写:教师点名 12 次、对学生回答做实质回应 52 次。
"有没有同学可以举手"
"刚才谁先举手的,好像那位同学……那你来吧"
"哎,非常好啊,请坐啊"
"他说,毛泽东同志在延安为中央党校提了实事求是四个大字" ← 教师复述学生回答
同批 30 门课里 27 门被标"不可观测",25 门其实可判。原因是判据按"录音条件"写、不按"证据有没有"写,服从定义的模型反而错了。
对应 Q10、Q13、Q17。
合规筛查把两堂课冻结,理由是教师言语"身份不符"。人审回听:教师讲的是"商鞅变法",转写把历史人名转成了网络粗俗词,教师根本没说。
"商鞅" → 转写成 "沙雕"(两门课都中招)
"太多了,也不太听得清" → 转写成 "我眼睛瞎了,看不见"(整句幻觉级失真)
这一批 5 条转写矫正里 4 条来自身份不符误报。29 条合规条目人审后只有 14 条属实,21 门涉及课时里 13 门放回评分线。
对应 Q5 立场、Q13 话语体系。
AI 事实核验在 0:53 处标出一条"重要"差错,F2(理论阐释与内容准确性)因此从 3 级降到 2 级并挂起待核。
教师原话(转写):"提出了教育、科技、人才,他们是全面建成社会主义现代化国家的基础性和战略性支撑。"
教材与课件的规范表述是"全面建设社会主义现代化国家"。
同类情况在 20 门核验实验里反复出现:"11 亿吨"被听成"11 吨"、"开通"被听成"开工",AI 的判断本身是对的,错在转写。所以本项目口径是:模型自报的疑似错误一律不进分数,只走核验通道。
对应 Q5 事实准确。
互动可观测性判据复盘 互动可观测性定义错误_2026-08-02.md;无学生机位 8 门、纪录片解说 19.6%、极值区 ρ≈0 章节锚定评价方案_v2.md;合规闸精度 48%、商鞅/沙雕、"打一仗"判例 2026-08-18_站2人审第一批_合规闸真实精度.md;事实核验 57%/75%、11 亿吨 2026-08-28_事实核验判读口径AB与结论核验否定.md;课程评价专用模型三次评分 63/78/80 2026-08-31 评分噪声测量决策记录;同一教师重测对差 7.4 分 评价工作总体方案_v4.md;AI 与专家 Spearman 0.167/0.252 f9_infer/f9_summary.json;建设/建成 0:53 f9_infer/f9_courses.json;2026 批可观测性 47/99/121 门 726 批 06_专家标注结果。