技术与的博弈 医护AI的B面隐忧如何解？

在亚里斯多德誓言奠定药专攻基石的2400年后，计算机科专攻的出现也许给药专攻带来传奇人物第二大的关键时刻。专家计算，到2024年，AI公共服务将是一个近200亿美元的市场。计算机科专攻预见将会带进公共服务实践当中的福音，尽也许改善病患效用、提供者其所化外科手术，并及时断定预见的公共公共服务后果。即便如此，该应用无论如何引发了一系列棘手的伦理道德难题。当AI系统对管理实习者疏忽但会出现哪些弊端？如果有弊端的话，该谁全由？临床研究精神科如何验证甚至知晓AI“记录仪”的段落？他们又该如何避免AI系统对的无知并管控病症该软件？2018年6月，英国药专攻会（AMA）刊发了首个关于如何整合、使用和调节计算机科专攻的读物。值得注意的是，该理事会将计算机科专攻称做“augmented intelligence”（智能增强），而非我们最常普遍认为的“artificial intelligence”。这表明，英国药专攻会普遍认为计算机科专攻的功用是增强而非取**神科的实习。虽然AMA在读物当中坚称，计算机科专攻应该建筑设计用于辨别和应付无知、保证各阶层需要、充分利用步骤粉红色性并管控病症该软件，但在已已确定当中，这些要求没法赢取满足。请注意是药专攻从业者、专攻术研究其他部门和药专攻专攻家尽也许面对且颇为考虑到的伦理道德关键时刻。其实的无知，怎么根本原因？2017年，芝加哥的专攻校药专攻院（UCM）的科研其他部门一个团队使用计算机科专攻来计算病症也许的休养时长。其目标是已确定可以月内住院外科手术的病症，从而释放的医院水资源并为不够进一步病症提供者出院。然后，的医院还会分派一名例子管理实习其他部门来帮助病症处理杠杆代为，保证病症及时忘了，并为其早日住院外科手术铺平道路。在检验系统对时，专攻术研究的小组断定，计算病症休养星期最正确的原因是他们的五等站，这立刻给专攻术研究一个团队惊动了亦同。他们告诉，居委会与病症的有色人种和社会经济重要性相关联。依靠五等站做计算，会对芝加哥最失业社区的非裔加拿大人产生不良影响，这些人并不一定一定休养星期不够长。因此该一个团队普遍认为使用该解法分配例子管理实习员将是有无知和不伦理道德的。“如果你要在实践当中当中实施这个解法，你会赢取一个矛盾的结果，那就是把不够多(登革热管理实习)水各项政策给不够富裕的白人病症，”UCM内科精神科、公共服务专攻教授Marshall Chin谈到。最终科研其他部门一个团队封禁了五等站这个计算原因。该解法仍在整合当中，尚未检验出新模型。这个例子指出了基于计算机科专攻的公共服务保健工具箱的弱点：解法一般来说可以反映基本的有色人种或异性恋心理健康差异。这个弊端如果未赢取应付，就会导致各种因素无知并固化公共服务保健领域基本的不**平等现象。无知还会影响罕见病或新营养不良的外科手术，这些营养不良的外科手术资料有限。计算机科专攻系统对会单独给出一般外科手术拟议，而不考虑病症的其所原因。这时，计算机科专攻决定书的外科手术拟议是无效的。最近，芝加哥的专攻校专攻副总监教授Danton Char在一篇关于人工神经网络的专攻术研究成果当中指出，因为严重脑损伤病症或近于早产儿的生存后果很低，因此精神科平常取消对他们的看护。而即使某些病症变异预后良好，人工神经网络解法无论如何会单独毫无疑问：所有值得注意登革热都是致命性的，并决定撤军外科手术。“记录仪”弊端，路在何方？第二个伦理道德关键时刻是，一般来说但会，专攻术研究其他部门并不一定知晓AI系统对是如何计算出结果的，即所谓的记录仪弊端。先进的人工神经网络应用可以在未一致指示的但会游离大量资料并辨别统计数据模式，整个步骤有机体众所周知难以验证。过分遵循这种系统对的精神科会在无意当中伤害病症。“我们一般来说没法理解解法的'专攻说'步骤是什么。”联合国的专攻校外交政策专攻术研究当中心新兴网络应用专攻术教授Eleonore Pauwels坚称。2015年的一项专攻术研究不合理化了该弊端。在这项专攻术研究当中，专攻术研究其他部门更为了不同AI模型计算当中风病症死亡后果的程度。计算再次，那些后果较高的人将被送回的医院，而低后果的病人可以转入门诊外科手术。其当中一个模型是“基于规则”的系统对，其管理实习者步骤对专攻术研究其他部门来说是粉红色的，却计算出违反直觉的结果：脑癌当中风和结核病的病症比仅脑癌当中风的病症生存急于不够大，因此脑癌两种营养不良的病症可以推延外科手术。显而易见，医护其他部门尽也许正确的推论脑癌两种营养不良的病症较强不够高的死亡后果，但解法不用。所以仅仅依靠这种解法，意味着最危急的病人将不用及时赢取他们所尽也许的外科手术。另一种使用神经网络和人工神经网络解法的模型显现出了不够正确的结果，但其推理步骤是不粉红色的，因此专攻术研究其他部门很难及时断定其当中的弊端。该专攻术研究的全由人、Microsoft专攻术教授霍利卡鲁阿纳毫无疑问：神经网络模型后果太大，很难进入临床研究试验，因为未办法推论它是否犯了值得注意的错误。管理实习者疏忽谁来得利？根据AMA的药专攻基本应以，精神科才会完全对病症全由。但是，当计算机科专攻进入等式时，责任又该如何划分？这个弊端的作答仍在由专攻家、专攻术研究其他部门和监管该机构制定。计算机科专攻打破了提供者公共服务服务的群体限制，一些基本上上不受药专攻束缚的人，比如资料科专攻家，也可以为病症提供者公共服务服务。此外，正如记录仪弊端所示，人们并不一定总是尽也许清楚地告诉计算机科专攻系统对是如何做出病患或转车外科手术本品的。有缺陷的解法也许对病症产生重大伤害，从而导致公共服务事故。芝加哥的专攻校专攻家Char将计算机科专攻相提并论本品药。查尔坚称，虽然不用指望临床研究精神科知晓他们转车的药品的每一个生化具体，但基于他们的肝病和药专攻文献经验，他们有数尽也许告诉这些药品是保证安全直接的。至于计算机科专攻系统对，除非经过精心专攻术研究，他毫无疑问这是最佳选择，否则他不会使用。Char谈到：“当你对工具箱的知晓并不一定确实时，你不愿让任何病症的心灵保有稳定有也许之当中。”病症该软件何去何从？英国药专攻理事会曾发出发出：计算机科专攻才会管控病症的资讯的该软件和保证安全。对医患解密的承诺，是自亚里斯多德立誓以来药专攻存在的基石。但为了做出正确的计算，人工神经网络系统对才会要会见大量的病症资料。如果未其所的公共服务记录，计算机科专攻将很难提供者正确的病患或有用的外科手术新方法，不够很难充分利用越来越其所化的外科手术。不够重要的是，如果数以百万计的病人欺骗他们的公共服务资料，关键的公共服务趋势会被忽视，这将是每其所的损失。一个潜在的应付拟议都是用公共服务记录当中实质上封禁其所辨别的资讯来管控病症该软件。然而，最近由匹兹堡的专攻校筹资的一项专攻术研究坚称，目前的匿名化应用还不够成熟，并不一定用保证资料的直接清除。不过，预见可以整合不够精细的资料整理新方法，以不够好地管控该软件。不管应用能力如何，医师决定药专攻界重新考虑病症该软件的整个定义。随着公共服务系统对来得越来越精细，将有不够多的该机构有合法性不合理的需要去会见敏感的病症的资讯。Char在专攻术研究成果当中毫无疑问：“人工神经网络系统对的充分利用，意味着我们尽也许正因如此公共服务资料该软件和其他职业伦理道德核心应以。”在实践当中当中，的医院和该机构尽也许蝉联病症的信任。病症有公民权知晓他们的公共服务该软件资料是如何被使用的，以及资料是会使他们自身受益或才会让预见的病症受益。伦敦的专攻校专攻院心理健康的资讯专攻专攻术所长的见习专攻术教授NathanLea坚称：“如果病症不够好地知晓计算机科专攻是如何改善其所和公共心理健康的，他们也许愿意放弃基本上的该软件观念。该软件本身并不一定是绝对的，我们不用以管控病症该软件为口实而拒绝资料其实的巨大内涵。”动脉网有时说药专攻新技术与伦理道德的冲突一直存在，从药剂病理的人权弊端，到克隆应用的身分非议；从人工流产的人道质疑，到现今计算机科专攻的人情思辨，围绕药专攻应用创新与社会伦理道德的争论不曾停息。正是这些对人性、人道、有机体尊严、人的内涵的注目，才使药专攻体现了人文的关怀，保有了人性的冲击力。AI公共服务应用的应用和的教会的伦理观念本不矛盾，根本原因在权衡权衡当中寻觅不够不合理的打开方式。我们期待计算机科专攻在思考的鞭策下迭代转型，最终尽也许以自己的方式相互配合应付有机体社会的精细弊端。