林杰站在窗前，那封家属的信还摊在桌上。
他拿起信，又看了一遍：“它出了错，谁负责？”
手机响了，沈明打来电话。
“首长，明天上午的会，参会人员都通知到了。卫健委、药监局、工信部、科技部……一共十三个单位。”
林杰嗯了一声。
“还有。”沈明顿了顿，“科技部的刘副部长刚才打电话来，问明天的会议主题是什么，他想提前准备。”
林杰眼神一凝。
“你没告诉他？”
“没。按您吩咐，只说紧急会议，具体内容会上说。”
林杰点点头：“做得对。”
挂了电话，他走回办公桌前，把那封信折好，放进抽屉里。
第二天上午九点，院第一会议室。
长条会议桌两侧坐满了人。
卫健委主任周明华、药监局局长张建国、工信部副部长李刚、科技部副部长刘卫东……十三个人，表情各异。
林杰走进来，坐下说。
“今天这个会，讨论一件事。”他把三份材料往前推了推，“AI医疗产品，该怎么管。”
会议室里安静了一秒。
科技部副部长刘卫东先开口：“首长，AI医疗是战略性新兴产业，国家‘十四五’规划重点支持方向。这些年发展很快，很多产品已经进入临床应用，效果不错……”
林杰打断他：“效果不错？那外省那个病人，现在还在ICU。”
刘卫东张了张嘴，没说出话。
药监局局长张建国接过话头：“首长，那个事故我们正在调查。初步看，是个案。系统上市前做过临床试验，数据是符合要求的。这次可能是医生操作不当……”
林杰看着他。
“操作不当？那个系统推荐了病人过敏的药，病历里写得清清楚楚。医生信了它，病人差点死了。这叫操作不当？”
张建国低下头。
林杰翻开面前的文件夹，抽出一份材料。
“这是去年审批时的专家评审意见。三个人提了异议，认为临床试验样本量不足，算法存在‘黑箱’风险。”他抬起头，“这三份意见，最后为什么没被采纳？”
会议室里安静了几秒。
张建国擦了擦汗：“首长，当时是专家评审会投票决定的。多数专家认为可以批准，走的是创新医疗器械绿色通道……”
“绿色通道？”林杰重复了一遍，“为了快，就可以不管安全？”
没人接话。
工信部副部长李刚开口：“首长，技术层面，我们确实有短板。现在的AI算法，很多是黑箱，连开发者自己都解释不清为什么给出这个结论。但这正是我们需要突破的方向。如果管得太严，可能会影响创新。”
林杰看着他。
“李部长，你说得对。创新要突破，但突破的代价，谁来承担？”他把那封家属的信推到桌子中间，“这是那个病人的老婆写的。她不关心创新，只关心她男人差点死了。”
李刚沉默了。
林杰站起身，走到白板前，拿起笔。
“昨天我提了四条。”他写道：
“第一，所有已上市的AI医疗产品，立即启动安全性复核。”
“第二，新产品的审批，必须提供足够的多中心临床试验数据。”
“第三，建立AI医疗产品不良事件报告制度。”
“第四，算法的‘可解释性’作为核心指标。”
他写完，转过身。
“今天再加一条。”他又写了一条
“第五，所有AI医疗产品的建议，必须标注置信度。低于某个阈值的，只能作为参考，不能直接执行。”
他放下笔，看着在座的人。
“这五条，有没有不同意见？”
刘卫东举手：“首长，第五条的操作性……”
“操作性？”林杰看着他，“那个过敏的病例，如果系统标注了‘置信度80%’，医生会不会多留个心眼？”
刘卫东没说话。
林杰坐回座位。
“张局长，你们药监局，一周内拿出复核方案。所有已上市的AI医疗产品，分三类处理：安全可靠的，继续使用；有风险的，暂停使用；问题严重的，直接退市。”
张建国点头。
“周主任，你们卫健委，一个月内建立不良事件报告制度。医生反映的问题，必须限时处理，限时反馈。”
周明华点头。
“李部长，你们工信部，牵头制定算法可解释性的行业标准。三个月内，拿出草案。”
李刚点头。
林杰看向刘卫东。
“刘部长，科技部负责创新。创新和安全，不是对立的关系。你们要做的，是帮企业把技术做好，不是帮他们绕过监管。”
刘卫东低下头。
“散会。”
下午两点，林杰办公室。
沈明敲门进来，放下一杯茶。
“首长，那个AI公司的老板，刚才托人带话，想见您。”
林杰抬起头。
“谁带的？”
沈明犹豫了一下：“是……是发改委一位老领导。说这个公司是重点扶持的高科技企业，如果因为一次事故就全盘否定，会影响整个产业的发展。希望您……”
这章没有结束，请点击下一页继续阅读！