内容解读
可解释性不是给每个模型都配一张特征重要性图，而是向不同使用者提供足以理解用途、限制、依据和不确定性的信息。
在医院IIT临床研究管理中，可解释性不是给每个模型都配一张特征重要性图，而是向不同使用者提供足以理解用途、限制、依据和不确定性的信息。 这不仅关系到某一模型的技术表现，也决定AI应用能否保护受试者权益、维护数据完整性，并在真实研究环境中持续、可信地运行。
问题不在表面
团队有时用局部解释图证明模型“可信”，却不说明解释方法本身的稳定性；也有系统只显示一个风险分数，不展示数据时间、缺失、适用范围和置信程度。使用者容易把模型输出当作确定事实。
本讲核心结论
透明度应覆盖数据来源、预期用途、适用与禁用场景、主要性能、已知限制、输入缺失、模型版本和人工责任。解释的形式应服务于具体决策：数据管理员需要看到触发依据和可核查字段，PI需要理解证据与限制，受试者相关使用还需考虑可沟通性。模型无法可靠判断时，应能表达不确定并触发升级。
问题为什么发生
第一，不同角色需要的信息深度不同。第二，复杂模型的事后解释可能近似且不稳定，不能替代验证。第三，恰当表达不确定性可以防止自动化偏见，让使用者在超出能力边界时停止依赖模型。
某模型将受试者列为高风险，界面只显示“92分”。研究护士不知道分数是由近期检验异常、记录缺失还是中心差异驱动，也看不到模型适用人群，因而无法合理复核或向PI说明。
四步改进路径
更可执行的改进路径可以分为四步。第1，按PI、数据管理员、中心人员和管理者定义透明度需求；第2，提供用途、版本、输入、依据、性能、限制和禁用场景说明；第3，设计可核查的解释和不确定性展示，并验证用户能否正确理解；第4，对低置信、分布外或信息不足的情况设置人工升级和停止规则。核心是把AI从一次性的技术试验纳入临床研究的数据、质量、伦理和风险管理体系，并保留足以验证和追溯的证据。
CHINA REGULATORY CALIBRATION
中国法规校准
适用口径：利用个人信息进行对个人权益有重大影响的自动化决策时，应依法开展个人信息保护影响评估；面向个人的自动化决策还应保障透明、公平、公正并提供适当说明或救济路径。即使模型只辅助研究，也应向伦理委员会和实际使用者说明局限、不确定性、适用人群和人工复核边界。
法规基准日：2026年8月4日。具体项目仍须结合研究类型及本机构要求确认。项目自查清单
判断提示：若其中两项以上无法明确回答，说明项目或机构仍存在需要优先处理的AI数据与治理风险。
- ✓对个人权益有重大影响的自动化决策前是否完成个人信息保护影响评估？已满足 / 待改进
- ✓模型局限、不确定性、适用人群和人工复核边界是否向相关人员说明？已满足 / 待改进
- ✓是否提供公平、不歧视的决策规则以及必要的异议或救济路径？已满足 / 待改进
- ✓解释材料是否与具体模型、数据和版本一致并可追溯？已满足 / 待改进
NEED SUPPORT?
把这份清单用于您的真实项目
我们可协助完成方案数据审阅、CRF设计、EDC建库、质量管理与数据资产沉淀。
预约项目诊断 →