电子技术与的博弈 医疗AI隐忧如何解？

在现代医学誓言奠定外科基础的2400年后，认知科精研的出新现可能给外科随之而来史上最大的同样。专家预见，到2024年，AI照护将是一个近200亿美元的低价。认知科精研月内已是照护实践的圣诗，能够提升病童功效、提供定制放射治疗，并适时辨认出新下一代的公共照护可能性。即便如此，该系统设计仅仅引发了一系列棘手的道德上难题。当AI控制系统对政府差错时会出新现哪些关键问题？如果有关键问题的话，该谁主要职责？医精研医生如何验证甚至认识到AI“数据资料”的概要？他们又该如何避免AI控制系统的性取向并必要措施病患个人资料？2018年6月，英国外科会（AMA）发布了首个关于如何开发、适用和调节认知科精研的指南。值得注意的是，该协会将认知科精研专指“augmented intelligence”（智能提升），而非我们广泛看来的“artificial intelligence”。这声称，英国外科会看来认知科精研的发挥作用是提升而非取而代之医生的实习。虽然AMA在指南里面回应，认知科精研确实设计常用鉴别和应对性取向、保障弱势社会性需求、实现步骤透明性并必要措施病患个人资料，但在具体实施里面，这些要求不能得到满足。以下是外科从业者、研究者其他部门和外科生物精研家需要眼见且极其急迫的道德上同样。其实的性取向，怎么克服？2017年，费城大精研外科院（UCM）的样本分析制作团队适用认知科精研来预见病患可能的患病整整。其要能是断定可以原定患病放射治疗的病患，从而释放医务其他部门资源并为最初的病患提供救治。然后，医务其他部门还会授命一名个案管理其他部门来帮助病患处理保险事宜，必要病患适时回家，并为其盼望患病放射治疗铺平道路。在验证控制系统时，研究者小组辨认出新，预见病患患病时间最恰当的因素是他们的城关镇，这立刻给研究者制作团队敲响了警钟。他们知道，区人民政府与病患的人种和社会经济地位表征。仰赖城关镇好好预见，会对费城最贫困人口社区的有色人种英国人产生不良负面影响，这些人经常患病时间更为长。因此该制作团队看来适用该迭代分配个案管理员将是有性取向和不道德上的。“如果你要在实践里面实施这个迭代，你会得到一个内部矛盾的结果，那就是把更为多(传染病管理)资源分配给更为富足的白人病患，”UCM药剂师、照护精研教授Marshall Chin时说。再次样本分析制作团队删掉了城关镇这个预见因素。该迭代仍在开发里面，尚未验证出新最初模型。这个个案认为了基于认知科精研的照护保健机器的弱点：迭代一般而言可以再现原先的人种或性倾向肥胖差异。这个关键问题如果不会得到应对，就可能会引发长期性性取向并固立体化照护保健各个领域原先的不平等现象。性取向还会负面影响罕见病或最初营养不良的放射治疗，这些营养不良的放射治疗样本极少。认知科精研控制系统可能会这样一来给出新一般放射治疗方案，而不考虑病患的与生俱来情况。这时，认知科精研拟议的放射治疗方案是无效的。近期，斯坦福大精研精研经理教授Danton Char在一篇关于数据挖掘的论文里面认为，因为来得严重脑损伤病患或极早产儿的生存概率大幅提高，因此医生平常停止对他们的看护。而即使某些病患个体预后极佳，数据挖掘迭代仅仅可能会这样一来确实：所有类似传染病都是致命的，并促请撤出新放射治疗。“数据资料”关键问题，路在何方？第二个道德上同样是，一般而言情况下，研究者其他部门未必认识到AI控制系统是如何算出新出新结果的，即所谓的数据资料关键问题。先进的数据挖掘系统设计可以在不会明确请示的情况下吸收大量样本并鉴别统计模式，整个步骤人类相来得难以验证。自觉遵循这种控制系统的医生可能会在无意里面妨碍病患。“我们一般而言不能理解迭代的'思想体系'步骤是什么。”联合国大精研措施研究者里面心最初兴网络系统设计研究者员Eleonore Pauwels回应。2015年的一项研究者强调了该关键问题。在这项研究者里面，研究者其他部门来得了不同AI模型预见肺癌病患死亡可能性的程度。预见之后，那些可能性较高的人将被送往医务其他部门，而低可能性的病童可以转入门诊放射治疗。其里面一个模型是“基于规章”的控制系统，其对政府步骤对研究者其他部门来说是透明的，却预见出新有违直觉的结果：里面风肺癌和哮喘的病患比仅里面风肺癌的病患生存机会更为大，因此里面风两种营养不良的病患可以顺延放射治疗。显而易见，医护其他部门能够似乎的说明里面风两种营养不良的病患具有极高的死亡可能性，但迭代不用。所以仅仅仰赖这种迭代，也就是说最危急的病童将不用适时得到他们所需要的放射治疗。另一种适用建模和数据挖掘迭代的模型归因于了更为恰当的结果，但其推理步骤是不透明的，因此研究者其他部门能够适时辨认出新其里面的关键问题。该研究者的主要职责人、微软公司研究者员理查德卡鲁阿纳确实：建模模型可能性太大，能够转至医精研试验，因为不会办法说明它是否犯了类似的差错。对政府差错谁来买单？根据AMA的外科大体原则，医生只能实际上对病患主要职责。但是，当认知科精研转至等式时，责任又该如何划分？这个关键问题的答案仍在由生物精研家、研究者其他部门和管控部门制定。认知科精研打破了提供照护服务的社会性限制，一些传统上不受外科约束的人，比如样本科生物精研家，也可以为病患提供照护服务。此外，正如数据资料关键问题所示，人们未必显然能够确切地知道认知科精研控制系统是如何这两项病童或上路放射治疗药的。有缺陷的迭代可能对病患产生重大妨碍，从而引发照护事故。斯坦福大精研生物精研家Char将认知科精研比作药药。贝特回应，虽然不用指望医精研医生认识到他们上路的口服的每一个生立体化具体，但基于他们的医精研经验和外科文献方法论，他们至少需要知道这些口服是安全必要的。至于认知科精研控制系统，除非经过确实研究者，他确信这是最佳选择，否则他不会适用。Char时说:“当你对机器的认识到未必确实时，你不愿让任何病患的生命处于危险之里面。”病患个人资料何去何从？英国外科协会曾警告警告：认知科精研只能必要措施病患讯息的个人资料和安全。对医患保密的承诺，是自现代医学立誓以来外科存有的基石。但为了这两项恰当的预见，数据挖掘控制系统只能要会面大量的病患样本。如果不会与生俱来的照护历史记录，认知科精研将能够提供恰当的病童或有用的放射治疗机器，更为能够实现更为加定制的放射治疗。更为重要的是，如果数以百万计的病童隐瞒他们的照护样本，关键的公共卫生趋势可能会被忽视，这将是每与生俱来的损失。一个潜在的应对方案是从用照护历史记录里面之外删掉与生俱来鉴别讯息来必要措施病患个人资料。然而，近期由加州大精研牵头的一项研究者回应，目前的寄信立体化系统设计还够成熟，未必用保证样本的必要清除。不过，下一代可以开发更为来得简单的样本收集机器，以更为好地必要措施个人资料。不管系统设计技能如何，外科专家促请外科界重最初考虑病患个人资料的整个概念。随着照护控制系统似乎更为加来得简单，将有更为多的部门有实质上确实的需求去会面敏感的病患讯息。Char在论文里面提到:“数据挖掘控制系统的实现，也就是说我们需要重最初认识照护样本个人资料和其他职业道德上内部原则。”在实践里面，医务其他部门和部门需要赢得病患的宠信。病里面风权利认识到他们的照护个人资料样本是如何被适用的，以及样本是会使他们自身得益或只能让下一代的病患得益。英国牛津大精研精研院肥胖讯息精研研究者所的高级研究者员Nathan Lea回应：“如果病患更为好地认识到认知科精研是如何提升与生俱来和公共肥胖的，他们可能不愿放弃传统的个人资料观念。个人资料本身未必是意味著的，我们不用以必要措施病患个人资料为借口而要求样本其实的庞大价值。”译者有时说外科高科技与道德上的冲突依然存有，从人体活体的人权关键问题，到克隆系统设计的身份争议；从人工流产的救助质疑，到而今认知科精研的人伦思辨，一个里面心外科系统设计创最初与社会道德上的讨论不曾停息。正是这些对人性、救助、人类尊严、人的价值的关注，才使外科体现了文化的爱心，保持了人性的张力。AI照护系统设计的系统设计和普世的道德上观念本不内部矛盾，关键在于在权衡取舍里面找到更为确实的打开方式。我们期待认知科精研在思考的鞭策下迭代持续发展，再次能够以自己的方式相互配合应对人类社会的来得简单关键问题。