harness-generative-ai-for-good_tw

ChatGPT、Bard 和其他生成式 AI 是快速發展的技術,在從自然語言處理到圖像生成等多個領域具有巨大潛力。如果使用得當,生成式 AI 可以成為有力工具,減少不平等現象並促進各產業的公平發展。然而,它們也引發了大眾對潛在風險和後果的疑慮。讓我們深入探討使用生成式 AI 因應醫療保健差距的優勢和挑戰,以及傳統自動化所帶來意想不到的好處。

生成式 AI 的優勢

獲得更有效的教育

醫療保健素養是健康的社會決定因素,而它始於教育。生成式 AI 可以為兒童或成人創造個人化的學習體驗,並根據個別年齡、背景、需求、優勢和劣勢來調整內容。這項技術能夠開發更多相關、個人化的教育內容和資源,並在某種程度上補救合格教師短缺的現象,進而提高偏遠和弱勢社區獲得優質教育的機會。它會取代教師嗎?目前不會。


消除語言隔閡

生成式 AI 可用於開發高級翻譯系統,使來自不同語言背景的個人能夠有效地進行交流。這可以促進全球協作、賦予弱勢族群能力,而且有助於推廣寶貴的醫療保健資源。可以根據語言、年齡、教育水平、文化和許多其他因素,輕鬆地對病患資料進行個人化設定。將來,甚至可能納入病史和保險承保範圍。


增加就業機會

收入是健康的另一個社會決定因素。這項技術可用於簡化招聘流程,識別和減少招聘實務中的偏見和歧視。該技術還可以預測未來的勞動力需求,使政府和組織能夠制定目標明確的技能發展計畫,幫助弱勢社區獲得更好的就業機會。


金融包容性

生成式 AI 可以分析複雜的金融資料,有助於開發創新的金融產品和服務;舉例來說,或許可以與再發展機構和企業合作夥伴合作,針對低收入和無銀行帳戶個人的需求,量身打造生物識別認識客戶 (KYC) 方法。這項技術或許有助於弱勢族群獲得信貸、儲蓄服務和保險,促進金融包容性,並降低經濟不平等的狀況。它還可以標記掠奪式放款,並為較缺乏金融知識的人提供替代方案。


改善醫療保健

生成式 AI 可以協助識別複雜醫療資料中的模式,從而為亞族群更快診斷和制定更有效的治療計畫,並加強群體健康研究。透過分析歷史醫療紀錄並預測病患的需求和障礙,這項技術可以發掘意想不到的見解、改善照護結果,而且有可能減少差距。


分配資源

從公共政策的角度來看,AI 演算法可以分析複雜的歷史資料,以決定公平分配資源的最有效方式。例如,生成式 AI 可以幫助分配政府資金和援助給有急需的社區,確保有效利用資源,並對減少不平等現象產生有意義的影響。
 

生成式 AI 的挑戰

導致長期不平等的資料偏差

生成式 AI 依靠資料進行預測和生成內容,如果使用的資料有偏差、不具代表性或不完整,這可能會變成重大缺陷。使用有偏差的資料或錯誤的假設,可能會產生有偏差的 AI 模型,這些模型會反映現存的不平等現象,並對弱勢族群產生不公平的影響。2019 年,一項研究調查了供應商和保險公司使用的一種主要演算法,它會根據歷史成本來預測 2 億人的醫療保健需求。該演算法得到的結論是,非裔病患的醫療風險較低,因為他們的支出費用較少。實際上,它沒有考慮到低收入族群得到的照護較少,而且他們也比較不信賴似乎有偏見的醫生這一事實。他們獲得的照護較少,因此照護成本較低——儘管他們的需求更大。

相當諷刺的是,這正是機器人流程自動化 (RPA) 等傳統的規則式自動化,公認具有優勢的地方。RPA 通常以確定性資料驅動的決策和行動為基礎,其中規則定義明確、穩定、共識驅動,並被理解為最佳實務或政策。決策的基本原理將是明確的,而且這種規則驅動的過程不會受到隱藏偏見的影響 (儘管規則本身可能會顯示出偏見)。例如,醫療診斷和治療可能會受到臨床醫師成見和經驗的影響,而規則式的分類理論上可以消除這些偏見,並改善獲得照護的機會。


工作置換

雖然生成式 AI 可以創造新的就業機會,但也可能導致工作置換。自動化可能會不成比例地影響低技能工作,加劇收入不平等並擴大醫療保健鴻溝。如果廣泛採用 AI,預估到 2030 年,全球 15-30% 的勞工或 4 億人可能會失業。因此,任何 AI 實作都需要考量受影響人口的工作技能再培訓或技能提升問題。

數位鴻溝

生成式 AI 的優勢可能無法公平分配,因為獲得技術和數位素養的機會因社區而異。不斷擴大的數位鴻溝可能導致某些群體無法從 AI 驅動的解決方案中受益,而進一步增加差距。社會影響的努力可能需要逐步下探到最小數位公分母。另一方面,現今世界上大約有 91.40% 的人口擁有智慧型手機或功能型手機。


潛在的濫用

不良行為者可能會利用生成式 AI 來達到惡意目的,例如使用深偽技術、生成假新聞或自動化網路攻擊。濫用 AI 技術可能會破壞對數位系統的信任,並對弱勢族群造成不成比例的影響。另一方面,即使是善意事實也可能被忽略。這是新創公司開發 AI 偵測器等進階技術,以偵測和防止這類濫用行為的機會。

永久利用 AI

生成式 AI 可望減少不平等的現象,但它也帶來了需要解決的重大挑戰。為了長久利用其潛力,投資符合倫理的 AI 開發、無偏見的資料、數位基礎架構和教育至關重要。隨著生成式 AI 從嬰幼兒階段進入青少年階段,我們勢必要塑造它所接觸的事物、其目的、道德和職責。如果我們負責任地開發這項技術,在我們所建立的未來中,生成式 AI 就會增強而非削弱人類的生產力和價值。

簡介 Yan Chow

user image

Yan Chow 博士為 Automation Anywhere 的全球醫療保健產業負責人暨策略師。

透過電子郵件訂閱檢視所有貼文 LinkedIn
試用 Automation Anywhere
Close

業務專用

報名以快速存取完整、個人化的產品示範

學生和開發人員專用

使用免費的 Community Edition,立即展開您的 RPA 旅程