← 返回课程总览

LECTURE 81 · AI就绪数据与AI治理

使用第三方AI服务时如何保护研究数据?

适合人群:医院、主要研究者(PI)、临床研究团队、数据管理人员中国法规校准版法规基准日:2026年8月4日
本讲导读把数据输入外部AI服务,可能同时发生新的存储、处理、跨境、再训练和分包活动。合同签署或“已脱敏”都不能替代具体的数据流评估。

内容解读

把数据输入外部AI服务,可能同时发生新的存储、处理、跨境、再训练和分包活动。合同签署或“已脱敏”都不能替代具体的数据流评估。

在医院IIT临床研究管理中,把数据输入外部AI服务,可能同时发生新的存储、处理、跨境、再训练和分包活动。合同签署或“已脱敏”都不能替代具体的数据流评估。 这不仅关系到某一模型的技术表现,也决定AI应用能否保护受试者权益、维护数据完整性,并在真实研究环境中持续、可信地运行。

问题不在表面

研究人员常把病历片段、方案或数据表粘贴到个人注册的AI工具中,认为删除姓名即安全。实际上自由文本、罕见病、精确日期和机构信息仍可能识别个体,服务商也可能保留提示和输出用于监测或训练。

本讲核心结论

医院应先完成数据流和场景风险评估,优先使用机构批准、具备隔离和审计能力的服务。控制应覆盖最小必要输入、去标识化、传输与存储、地域、保留期限、再训练、分包、删除、事件通知、知识产权和退出可迁移性。必要时可采用本地部署、可信环境、联邦分析或其他隐私增强方法,但仍需验证其实际保护边界。

问题为什么发生

第一,模型服务的提示、日志、缓存和输出都可能含敏感数据。第二,供应商功能和条款会变化,初次评估不能覆盖整个使用期。第三,技术性去标识化的有效性取决于数据组合、接收方能力和可链接信息。

一个典型场景

一名研究者将含精确日期和罕见疾病描述的病例摘要输入公共AI服务以润色英文。虽然姓名已删除,但病例在该地区高度独特,且机构无法确认服务是否保存内容或用于后续训练。

四步改进路径

更可执行的改进路径可以分为四步。第1,绘制输入、日志、输出、存储、分包和删除的完整数据流;第2,仅选择机构批准的服务并完成隐私、安全、合规和供应商评估;第3,落实最小必要、去标识化、隔离、合同、审计和事件通知控制;第4,定期复核模型、条款、地域、分包和再训练政策的变化。核心是把AI从一次性的技术试验纳入临床研究的数据、质量、伦理和风险管理体系,并保留足以验证和追溯的证据。

中国法规校准

适用口径:第三方AI服务应按实际关系识别个人信息委托处理、共同处理或对外提供,并在使用前完成供应商尽调、个人信息保护影响评估和合同约定。合同应限制训练复用、转委托、跨境访问、留存和模型改进用途,规定安全事件、审计协助、数据返还/删除和退出验证;医院仍负有监督义务。

法规基准日:2026年8月4日。具体项目仍须结合研究类型及本机构要求确认。

项目自查清单

判断提示:若其中两项以上无法明确回答,说明项目或机构仍存在需要优先处理的AI数据与治理风险。

  • 供应商关系是否按实际情况识别为委托、共同处理或对外提供?已满足 / 待改进
  • 使用前是否完成供应商尽调、影响评估、伦理和信息安全审查?已满足 / 待改进
  • 合同是否限制训练复用、转委托、跨境、留存并规定事件和审计协助?已满足 / 待改进
  • 退出时是否完成数据返还/删除、账号关闭、模型依赖和证据验证?已满足 / 待改进

NEED SUPPORT?

把这份清单用于您的真实项目

我们可协助完成方案数据审阅、CRF设计、EDC建库、质量管理与数据资产沉淀。

预约项目诊断 →