内容解读
同一个模型用于探索科研规律、辅助数据清理、筛选受试者或支持临床决策,其风险和证据要求完全不同。预期用途决定数据、验证、监督和退出标准。
在医院IIT临床研究管理中,同一个模型用于探索科研规律、辅助数据清理、筛选受试者或支持临床决策,其风险和证据要求完全不同。预期用途决定数据、验证、监督和退出标准。 这不仅关系到某一模型的技术表现,也决定AI应用能否保护受试者权益、维护数据完整性,并在真实研究环境中持续、可信地运行。
问题不在表面
项目方案常只写“构建人工智能模型提高效率或准确率”,没有说明谁在什么时间、基于什么输入、采取什么行动。模型完成后再寻找应用场景,容易把探索性结果包装成可直接使用的工具,也无法判断何种错误最值得防范。
本讲核心结论
预期用途应明确目标问题、目标人群、用户、使用环境、输入输出、工作流位置、允许的行动、人工复核以及禁止用途。研究团队还应区分探索、验证和实际使用阶段,依据错误后果、可逆性、自动化程度和受试者影响确定风险等级与证据强度。
问题为什么发生
第一,没有具体用途就无法选择合适终点和性能指标。第二,相同准确率在提醒型工具和自动决策工具中的风险并不相同。第三,边界不清会导致使用者把群体层面的研究结果扩展到个体诊疗或未经验证的人群。
一项模型最初用于回顾性识别可能漏报的AE,后来被中心用来自动关闭低风险事件。由于研究从“提示复核”变成“替代判断”,漏报的后果明显增加,但团队没有重新验证,也没有调整责任和审计记录。
四步改进路径
更可执行的改进路径可以分为四步。第1,用具体工作流描述模型服务的研究问题和目标用户;第2,明确输入、输出、行动、人工复核、禁止用途和适用人群;第3,按错误后果、自动化程度和可逆性完成风险分级;第4,把用途边界转化为验证计划、权限、培训和监测要求。核心是把AI从一次性的技术试验纳入临床研究的数据、质量、伦理和风险管理体系,并保留足以验证和追溯的证据。
CHINA REGULATORY CALIBRATION
中国法规校准
适用口径:预期用途决定监管路径。仅用于研究内部辅助、影响研究关键判断、直接影响受试者权益,或拟作为药品/医疗器械注册证据的AI,适用要求并不相同。项目应在立项时记录使用对象、决策影响、人工权限和禁止用途,并由伦理、科研、信息安全及必要的药械注册职能共同判断,而不能用“科研用途”概括所有风险。
法规基准日:2026年8月4日。具体项目仍须结合研究类型及本机构要求确认。项目自查清单
判断提示:若其中两项以上无法明确回答,说明项目或机构仍存在需要优先处理的AI数据与治理风险。
- ✓预期用途是否明确研究内部辅助、关键判断、受试者影响和禁止用途?已满足 / 待改进
- ✓用途变化是否触发伦理、数据保护、信息安全和必要的药械注册再判断?已满足 / 待改进
- ✓人工权限、错误后果、暂停权和责任主体是否在立项材料中明确?已满足 / 待改进
- ✓是否避免用“仅科研用途”概括或规避实际存在的高风险使用?已满足 / 待改进
NEED SUPPORT?
把这份清单用于您的真实项目
我们可协助完成方案数据审阅、CRF设计、EDC建库、质量管理与数据资产沉淀。
预约项目诊断 →