内容解读
在流程中放一个复核按钮，并不等于形成了有效的人类监督。复核者必须有能力、有信息、有时间，也有权拒绝或升级模型建议。
在医院IIT临床研究管理中，在流程中放一个复核按钮，并不等于形成了有效的人类监督。复核者必须有能力、有信息、有时间，也有权拒绝或升级模型建议。 这不仅关系到某一模型的技术表现，也决定AI应用能否保护受试者权益、维护数据完整性，并在真实研究环境中持续、可信地运行。
问题不在表面
有些系统要求人员逐条点击确认，但每天产生大量建议，复核者只能机械通过；另一些流程发生错误后便归因于“人工未发现”，却没有评估界面、工作量、培训和自动化偏见是否使监督失效。
本讲核心结论
有效的人机协同需要明确模型与人员各自负责什么，向复核者提供原始证据、模型依据和不确定性，并控制任务量与响应时限。高风险输出可采用双人复核或专业升级。机构还应监测人工采纳率、推翻率、漏检、处理时间和角色差异，识别过度依赖或无效复核。
问题为什么发生
第一，人容易对看似稳定的自动建议产生自动化偏见。第二，复核者若看不到原始数据，只能重复模型判断。第三，长期全部采纳或全部拒绝都可能提示模型价值、培训或流程设计存在问题。
某系统每日生成数百条疑似数据异常，数据管理员必须在当天关闭。由于缺少优先级和原始记录链接，人员连续点击“接受”，最终一条涉及主要终点的错误建议也被通过。
四步改进路径
更可执行的改进路径可以分为四步。第1，按风险明确模型建议、人工判断和最终责任的边界；第2，为复核者提供必要证据、解释、不确定性和拒绝升级通道；第3，控制提醒量、优先级、时限并验证人员培训与工作负荷；第4，持续监测采纳、推翻、错误、耗时和自动化偏见信号。核心是把AI从一次性的技术试验纳入临床研究的数据、质量、伦理和风险管理体系，并保留足以验证和追溯的证据。
CHINA REGULATORY CALIBRATION
中国法规校准
适用口径：设置人工复核不能自动消除AI风险，也不能把机构、主要研究者或个人信息处理者的责任转移给操作人员。应明确哪些结果必须人工确认、复核者需要看到什么证据、何时可推翻模型、如何记录分歧，以及高风险情况下谁有权暂停使用并报告伦理或安全事件。
法规基准日：2026年8月4日。具体项目仍须结合研究类型及本机构要求确认。项目自查清单
判断提示：若其中两项以上无法明确回答，说明项目或机构仍存在需要优先处理的AI数据与治理风险。
- ✓人工复核是否有明确范围、证据、权限、时限和记录要求？已满足 / 待改进
- ✓高风险结果是否由具备相应能力且未过度依赖模型的人员确认？已满足 / 待改进
- ✓模型与人工分歧是否有升级、暂停和伦理/安全报告路径？已满足 / 待改进
- ✓是否明确人工环节不转移机构、PI和个人信息处理者责任？已满足 / 待改进
NEED SUPPORT?
把这份清单用于您的真实项目
我们可协助完成方案数据审阅、CRF设计、EDC建库、质量管理与数据资产沉淀。
预约项目诊断 →