首页 > 文章详情

AI制药应注意哪些风险？| 全球监管动态

2023年07月31日

▎药明康德内容团队编辑

欧洲药品管理局发表文章，强调需要全面评估AI应用于新药开发的风险

继美国FDA在今年5月发表两篇论文，阐述该机构对人工智能（AI）和机器学习（ML）在药物研发和制造方面应用的看法之后，欧洲药品管理局（EMA）也在近日发表文章，阐述了EMA对AI和ML在医药产品开发过程中的应用的看法。EMA的文章在指出AI/ML巨大潜力的同时，也提醒开发商需要对这一技术的风险进行全面的评估。

文章指出，AI/ML工具如果正确使用，能够有效支持数据的获得、处理、分析和解释，可以在医疗产品的整个生命周期中发挥作用。比如，在临床前开发阶段，AI/ML的应用不但可以增强数据分析的能力和表现，而且AI/ML模拟策略可能替代、减少或者精细化实验动物的使用。在精准医疗方面，AI/ML可以基于疾病特征、患者基因型、以及广泛的生物标志物和临床指标，进行患者筛选、给药剂量选择，从头设计产品变体或者从已经制造的变体文库中选择合适的产品。

然而，基于海量的训练数据和不完全透明的训练模型构架的AI/ML技术可能带来新的风险因素。这些风险因素需要在模型开发和应用的过程中得到消除，从而确保患者的安全和临床研究结果的完整性。比如，在训练数据的收集和清理过程中，应致力于获得均衡的训练数据集，并考虑对罕见群体增加取样。

为了加强公平性、可靠性和预防偏倚，在其它条件相同的情况下，使用透明模型（transparent models）是首选。不过EMA也指出，目前最强有力的几种AI/ML模型构架如何从输入数据中得到结果的详细过程仍然未得到澄清。如果开发商给出足够的证据表明透明模型的能力或表现不足，使用这类“黑箱”型的AI/ML模型也可以接受。

整体来说，为了建立对AI/ML工具的有效性、可靠性和公平性的信任，以人为中心的方法应该指导AI和ML的所有开发和部署。这不仅要求在数据收集和建模过程中采取主动措施，还要求在AI/ML工具被用户或患者使用时，将用户和患者报告的结局和经验指标纳入AI/ML工具的评估中。

参考资料：

[1] Reflection paper on the use of Artificial Intelligence (AI) in the medicinal product lifecycle. Retrieved July 21, 2023, from https://www.ema.europa.eu/en/documents/scientific-guideline/draft-reflection-paper-use-artificial-intelligence-ai-medicinal-product-lifecycle_en.pdf

[2] EMA to drug developers on AI: Carry out thorough risk assessments. Retrieved July 21, 2023, from https://endpts.com/ema-to-drug-developers-on-ai-carry-out-thorough-risk-assessments/#:~:text=The%20EMA%20is%20urging%20drug,AI%2FML%20in%20drug%20development.

免责声明本文仅供专业人士参看，文中内容仅代表药明康德立场与观点，不代表肿瘤资讯平台意见，且肿瘤资讯并不承担任何连带责任。若有任何侵权问题，请联系删除。

责任编辑：肿瘤资讯-Kate
排版编辑：肿瘤资讯-Kate

2023年07月31日

万军鸽

叶县人民医院 | 血液肿瘤科

AI制药应注意哪些风险

2023年07月31日

杨世忠

阳泉市肿瘤防治研究所 | 肿瘤内科

AI/ML工具如果正确使用，能够有效支持数据的获得、处理、分析和解释，可以在医疗产品的整个生命周期中发挥作用。