综合信息

最新加入的会员:

 您当前所在位置: 首页  > 综合信息 > 新闻列表
建立AI医疗器械共识性伦理准则
2019年12月11日 | 点击数:2359 | 【】【】【
   人工智能(Ar tifcial Intel l igence,简称AI)作为新一轮产业变革的核心驱动力,已上升为国家战略,并在医疗、工业机器人及教育、金融、互联网服务等领域得到越来越多的应用。AI在医疗领域的应用主要包括辅助诊断、辅助手术、临床辅助决策、患者信息管理等,对应的AI医疗器械产品主要包括独立的医疗软件、AI赋能医疗设备、医疗信息化系统等。
    随着以深度学习为代表的AI技术的不断发展,我们需要思考AI医疗器械在发展与使用中面临的伦理问题,充分认识AI医疗器械在数据获取、隐私保护等方面给人们带来的影响。
 
    AI领域伦理准则现状
    目前,国内外主要达成了两个影响较广泛的AI伦理共识——“阿西洛马人工智能原则”(Asil omar AI Pr incipl es)、电气和电子工程师协会(IEEE)倡议的AI设计的伦理准则。
    “阿西洛马人工智能原则”是在2017年于美国加州阿西洛马举行的Benef icial AI会议上被提出的,它是阿西莫夫机器人学三定律的扩展版本,可被理解为:AI不能单纯地为了利益而创造,而应在确保人类不被替代的前提下,为通过自动化实现人类繁荣而创造。保持一种尊重隐私但开放、合作的AI研究文化也是需要考虑的问题之一,需确保研究人员和政策制定者在交换信息的同时,不会用危害人类的手段与对手竞争。
    IEEE于2016年提出“关于自主与智能系统伦理的全球倡议”,并于当年12月和2017年12月先后发布了第一版和第二版《人工智能设计的伦理准则》白皮书(Et hical l y Al igned Design)。该白皮书提出5个核心原则:人权——确保AI不侵犯国际公认的人权;福祉——在AI的设计和使用中优先考虑人类福祉的相关指标;问责——确保AI的设计者和操作者负责任且可问责;透明——确保AI以透明的方式运行;慎用——将滥用的风险降至最低。该准则的发布旨在为IEEE正在推动的11个与AI伦理相关的标准的制定提供建议。
    我国已将AI上升为国家战略,并在法律和政策层面进行深入布局。2017年7月,国务院印发《新一代人工智能发展规划》,在“战略目标”部分对法律政策体系建设提出三步走的要求:第一步,到2020年,部分领域的人工智能伦理规范和政策法规初步建立;第二步,到2025年,初步建立人工智能法律法规、伦理规范和政策体系,形成人工智能安全评估和管控能力;第三步,到2030年,建成更加完善的人工智能法律法规、伦理规范和政策体系。2018年1月,国家人工智能标准化总体组成立,同时,《人工智能标准化白皮书(2018版)》发布。今年4月,国家人工智能标准化总体组第二次全体会议召开,会上发布了《人工智能伦理风险分析报告》。
 
    医疗领域AI的伦理风险
    当前,AI在医疗器械领域的应用主要体现在医学影像AI技术、AI技术赋能硬件上,如目前大量涌现的“智能读片”类AI医疗软件。这种软件能够通过深度学习,在具有代表性的医学影像数据库中进行模型训练,并利用模型来解析图像、文本、声音,从而实现对病症的早期筛查。AI技术赋能硬件通常内嵌于各类医学影像设备中,在设备前期拍摄及后期图像处理过程中实现图像分割、分类、映射、配准等功能。
    对于医疗领域AI存在的伦理风险所带来的影响,应从社会、个人数据保护、AI算法和医学伦理四方面进行考虑。
 
    对社会的影响
    现阶段,医疗AI伦理的标准化工作仍处于起步阶段,行业内尚未对医疗AI的内涵、应用模式等达成共识,行业竞争可能造成AI技术在医疗领域中的滥用。这会造成资源的浪费,目前,绝大多数AI辅助诊疗结果仍需医生确认,此种AI产品是否具有临床意义有待商榷。另外,随着科技发展,传统诊疗方法逐步向高科技辅助诊疗转变,此类辅助诊疗产品往往集中在科技发达、经济水平较高的国家和地区,这将进一步加剧不同国家和地区间医疗资源和水平的不平衡。如何让每个国家和地区都能受益于AI带来的“福祉”,是需要思考的问题。
 
    个人数据保护风险
    以“深度学习+大数据”为框架的医学AI系统需要大量数据来训练、学习算法。目前,AI产品的训练样本主要来自医院患者的各类医学影像数据,少部分来自人类行为信息的数字化记录。医学影像数据、患者行为信息涉及患者隐私保护问题。信息使用者在获取相应数据时,必须抹去患者个人敏感信息,只保留相关的医学信息。
    关于敏感信息的定义、识别和处理,目前国内尚无明确的标准,主要依赖于企业自觉。当前可供企业参考的数据隐私保护准则有欧盟于2018年5月发布的《通用数据保护条例》(GDPR)、美国国会于1996年颁布的《健康保险可携性与责任法案》(HIPAA)。
 
    算法风险
    对深度学习算法来说,在其应用阶段也存在诸多风险。一是安全性风险,算法存在泄漏、参数被非预期修改的风险。现阶段的深度学习算法是典型的“黑箱”算法,当其被修改时,算法性能的降低或错误的发生很难被察觉。医疗领域与人身安全息息相关,这一风险的发生会直接侵害患者的人身权益。二是算法偏见风险,鉴于算法的复杂性和专业性,关于AI算法输入的某些特性如何引起某个特定输出结果的发生,很难解释清楚。算法偏见可能是由程序员的主观认知偏差造成,也可能是因输入数据的分布本身即不具有整体代表性所导致。并且,如果算法在临床应用中通过本地数据进行无监督学习,则有加重偏见的风险。
 
    医学伦理风险
    对医学AI产品的伦理思考应纳入医学伦理范畴,考虑如何进行患者隐私及数据的保护,这也是医疗类AI产品与一般AI产品在伦理问题方面的最大区别。
    在我国,获取医学临床数据、进行临床试验须获得医学伦理审批,负责伦理审查的组织——伦理委员会肩负医学研究伦理审查、受试者权益保护、人的尊严维护等重要职责。2017年10月,中办、国办印发《关于深化审评审批制度改革鼓励药品医疗器械创新的意见》,提出完善伦理委员会机制,各地可根据需要设立区域伦理委员会,指导临床试验机构伦理审查工作。
 
    AI医疗器械应遵循的伦理方向
    推动医学AI伦理标准化
    从促进行业发展的角度看,开放、共享的高质量医学数据集是未来的发展趋势,但数据获取的来源、数据标注的规范格式等尚无统一标准,这使得高质量的数据集难以在各个AI产品开发者间实现互通。只有在相应规则确定后,AI医疗器械产业才能获得高速发展。
 
    数据完整性与医学伦理的平衡
    在满足医学伦理保护隐私及数据这一要求的同时,医疗类AI产品为获得高质量数据集,应尽可能保留更多的信息(如患者既往病史等),以便用于分析、处理,并避免在进行数据收集时纳入偏见、非典型甚至错误的信息。同时,医疗类AI产品在数据收集、标注过程中必须保证数据的完整性,以使AI产品是可解释、可信任的。如何最大限度地保留信息,并避免通过信息追溯到个人,是医疗类AI产品开发中应遵循的伦理方向之一。
    在AI与伦理准则领域进行深入探索,并围绕其建立相关标准,形成医疗健康AI的标准生态,关系到医疗AI的未来发展动向。AI产业能否取得公众信任并获得持续性发展,关键在于能否建立共识性的伦理准则。我们需在保持数据较高完整度的同时,做好患者隐私保护,并在符合现有伦理准则的前提下,将来自于不同渠道的数据用于机器学习,促进AI医疗器械产业的进一步发展。
 
 (来源:中国医药报)
分享到: 更多
版权所有:江西省医疗器械行业协会 赣ICP备14005658号-1
地址:南昌市洪城路778号 星河国际公寓楼A座27楼邮编:330006 电话(传真):0791-88858630 电子信箱:jxamdi@163.com
南昌网站建设汉邦互动