5月1日，国际医学科学组织理事会（CIOMS）发布了《药物警戒中的人工智能》（Artificial intelligence in pharmacovigilance）草案报告。报告长达155页，旨在为AI在药物警戒领域的开发和使用提供原则、案例和良好实践框架。

CIOMS是一个国际性的非政府、非营利组织，于1949年由世界卫生组织（WHO）和联合国教科文组织（UNESCO）共同成立。其成员组织涵盖了众多生物医学学科、国家科学院和医学研究委员会，代表了相当一部分生物医学科学界。CIOMS的使命是通过关于健康研究和政策（包括伦理、医药产品开发和安全性）的指导来促进公共卫生。

此次报告背景，是以FDA和EMA为代表的主要监管机构都在积极拥抱AI，FDA甚至计划在6月份就全部部署AI辅助审评。CIOMS则观察到药物警戒领域正在迅速适应AI的技术发展，尤其是基于大语言模型（Large Language Models，LLM）的AI。然而AI的复杂性和快速演变特性，使得在药物警戒这一高度监管的领域，从业者更需要谨慎地探索其恰当的应用方式，以确保患者安全和数据可靠性。

报告内容涵盖了AI在药物警戒中的应用现状、监管考量、风险评估、人类监督、有效性与稳健性、透明度、数据隐私、公平性与公正性、治理与问责制等多个关键方面。

其中：

• 风险评估强调根据AI决策的重要性以及是否与人类交互来确定监督强度；

• 人类监督部分讨论如何通过质量保证原则来优化AI性能并增强可信度和问责制；

• 有效性与稳健性章节着重于在真实条件下对AI解决方案进行严格评估，以确保其在实际部署中的可靠性和泛化能力；

• 透明度章节强调向利益相关者披露AI使用情况的重要性，包括模型架构、输入输出以及人机交互方式等；

• 数据隐私章节着重在AI开发和部署过程中保护患者隐私，遵守相关法律法规；

• 公平性与公正性章节探讨避免在模型开发和部署过程中传播或放大对某些亚群体有害的偏见；

• 治理与问责制章节强调明确角色和责任的重要性，以确保AI系统的安全、负责任和合乎伦理的使用。

报告还包含了附录，提供了关于可解释性和公平性与公正性的相关内容，以及CIOMS工作组成员和会议信息、公众咨询评论者信息等。

其中，附件2提供了美、欧、WHO等多个机构的AI监管法规对比，并按不同维度进行了针对性解读。

附件3列举了多达8个用例，如LLM数据提取用于案例处理、案例去重、AI翻译助手、LLM用于上下文感知的结构化查询语言（Structured Query Language，SQL）、药物不良反应因果关系评估、支持信号检测的流程效率提升、从大型药物警戒文档库中生成增强和智能结构化的输出、支持诊断和预测（羟基）氯喹视网膜病变等，展示了AI在药物警戒中的多样化应用潜力，颇具参考价值。