“無論至于何處，遇男或女，貴人及奴婢，我之唯一目的，為病家謀幸福……凡我所見所聞，無論有無業務關系，我愿保守秘密。”希波克拉底誓言是每一個醫學生入行時要立下的誓詞。數千年以來，這個宣言以一種亙古不變的精神在醫學技術的發展中傳承。它明確了醫學的基本倫理規范，也賦予了醫生“健康所系，性命相托”的責任感。
科學技術的飛速發展，給人類社會帶來了巨大的便利，也帶來了新的倫理挑戰。在醫學領域，尤其是人類基因組測序、轉基因技術、克隆技術、胚胎干細胞、合成生物學等前沿領域，科技進步引發的倫理、法律、社會問題已成為學術界和社會普遍關注的熱點問題。
專家預測，到2024年，AI醫療將是一個近200億美元的市場。人工智能有望成為醫療實踐的福音，能夠改善診斷效果、提供個性化治療，并及時發現未來的公共醫療風險。即便如此，該技術仍然引發了一系列棘手的道德難題。當AI系統決策失誤時會出現哪些問題？如果有問題的話，該誰負責？臨床醫生如何驗證甚至了解AI“黑匣子”的內容？他們又該如何避免AI系統的偏見并保護患者隱私？
雖然AMA在指南中表示，人工智能應該設計用于識別和解決偏見、保障弱勢群體需求、實現過程透明性并保護患者隱私，但在具體實施中，這些要求很難得到滿足。以下是醫學從業者、研究人員和醫學倫理學家需要面對且最為緊迫的道德挑戰。
2017年，芝加哥大學醫學院（UCM）的數據分析團隊使用人工智能來預測患者可能的住院時長。其目標是確定可以提前出院的患者，從而釋放醫院資源并為新的患者提供救治。然后，醫院還會指派一名案例管理人員來幫助患者處理保險事宜，確保患者及時回家，并為其早日出院鋪平道路。
在測試系統時，研究小組發現，預測患者住院時間最準確的因素是他們的郵政編碼，這立刻給研究團隊敲響了警鐘。他們知道，郵編與患者的種族和社會經濟地位密切相關。依靠郵政編碼做預測，會對芝加哥最貧困社區的非裔美國人造成不良影響，這些人往往住院時間更長。因此該團隊認為使用該算法分配案例管理員將是有偏見和不道德的。
這個案例指出了基于人工智能的醫療保健工具的弱點：算法通常可以反映現有的種族或性別健康差異。這個問題如果沒有得到解決，就可能會導致長期性偏見并固化醫療保健領域現有的不平等現象。偏見還會影響罕見病或新疾病的治療，這些疾病的治療數據有限。人工智能系統可能會直接給出一般治療方案，而不考慮患者的個人情況。這時，人工智能擬議的治療方案是無效的。
第二個道德挑戰是，通常情況下，研究人員并不了解AI系統是如何計算出結果的，即所謂的黑匣子問題。先進的機器學習技術可以在沒有明確指示的情況下吸收大量數據并識別統計模式，整個過程人類尤其難以驗證。盲目遵循這種系統的醫生可能會在無意中傷害患者。
其中一個模型是“基于規則”的系統，其決策過程對研究人員來說是透明的，卻預測出違反直覺的結果：患有肺炎和哮喘的患者比僅患有肺炎的患者存活機會更大，因此患有兩種疾病的患者可以推遲治療。顯而易見，醫護人員能夠清楚的判斷患有兩種疾病的患者具有更高的死亡風險，但算法不能。所以僅僅依靠這種算法，意味著最危急的病人將不能及時得到他們所需要的治療。
另一種使用神經網絡和機器學習算法的模型產生了更準確的結果，但其推理過程是不透明的，因此研究人員無法及時發現其中的問題。該研究的負責人、微軟公司研究員理查德卡魯阿納得出結論：神經網絡模型風險太大，無法進入臨床試驗，因為沒有辦法判斷它是否犯了類似的錯誤。根據AMA的醫學倫理基本原則，醫生必須完全對患者負責。但是，當人工智能進入等式時，責任又該如何劃分？這個問題的答案仍在由倫理學家、研究人員和監管機構制定。
人工智能打破了提供醫療服務的群體限制，一些傳統上不受醫學倫理約束的人，比如數據科學家，也可以為患者提供醫療服務。此外，正如黑匣子問題所示，人們并不總是能夠確切地知道人工智能系統是如何做出診斷或開出治療處方的。有缺陷的算法可能對患者造成重大傷害，從而導致醫療事故。
但為了做出準確的預測，機器學習系統必須要訪問大量的患者數據。如果沒有個人的醫療記錄，人工智能將無法提供準確的診斷或有用的治療方法，更無法實現更加個性化的治療。更重要的是，如果數以百萬計的病人隱瞞他們的醫療數據，關鍵的公共衛生趨勢可能會被忽視，這將是每個人的損失。
一個潛在的解決方案是從用醫療記錄中單獨刪除個人識別信息來保護患者隱私。然而，最近由加利福尼亞大學牽頭的一項研究表示，目前的匿名化技術還不夠成熟，并不能保證數據的有效清除。不過，未來可以開發更復雜的數據收集方法，以更好地保護隱私。
不管技術能力如何，醫學專家建議醫學界重新考慮患者隱私的整個概念。隨著醫療系統變得更加復雜，將有更多的機構有合法合理的需求去訪問敏感的患者信息。Char在論文中寫道:“機器學習系統的實現，意味著我們需要重新認識醫療數據隱私和其他職業道德核心原則。”在實踐中，醫院和機構需要贏得患者的信任。患者有權利了解他們的醫療隱私數據是如何被使用的，以及數據是會使他們自身受益或只能讓未來的患者受益。