ChatGPT: 의료 격차를 줄이는 양날의 검

ChatGPT, Bard 등과 같은 생성형 AI는 자연어 처리부터 이미지 생성에 이르는 다양한 분야에서 엄청난 잠재력을 보이며 급속히 발전하고 있는 기술입니다. 이러한 기술은 올바르게 사용된다면 다양한 부문에서 불평등을 줄이고 공정성을 증진시키는 강력한 도구가 될 수 있습니다. 그러나 이러한 기술은 잠재적인 위험과 결과에 대한 우려도 제기합니다. 여기에서는의료 서비스 격차를 해결하기 위해 생성형 AI를 사용할 때 어떠한 장점과 문제가 있는지, 그리고 전통적인 자동화의 예상하지 못한 이점에 대해 자세히 살펴보겠습니다.

생성형 AI의 이점

보다 효과적인 교육에 대한 접근성

의료에 대한 문해력은 건강의 사회적 결정 요인이며, 이것은 교육으로부터 시작됩니다. 생성형 AI는 개인의 연령, 배경, 필요성, 장점 및 약점을 파악하고 적용하여 어린이나 성인을 위한 맞춤형 학습 경험을 만들어낼 수 있습니다. 이 기술을 통해 보다 관련성 높은 맞춤형 교육 콘텐츠와 자료를 개발할 수 있으며, 자격을 갖춘 교사의 부족 문제를 일부 보완함으로써 사회적으로 소외되고 혜택을 받지 못하는 지역사회에서 고품질 교육에 접근할 수 있는 기회를 늘리게 됩니다. 그렇다면 이 기술이 교사를 대체할까요? 현재로서는 아닙니다.

언어 장벽 제거

생성형 AI는 고급 번역 시스템 개발에 활용될 수 있으며, 서로 다른 언어적 배경을 가진 개인들이 효과적으로 소통할 수 있게 합니다. 이를 통해 글로벌 협업이 촉진되고, 소외된 지역사회의 역량이 강화되며, 귀중한 의료 자원에 용이하게 접근할 수 있게 됩니다. 환자 자료는 언어, 연령, 교육 수준, 문화 등 많은 요소를 고려하여 쉽게 맞춤화할 수 있습니다. 미래에는 의료 기록과 보험 보장까지 여기에 포함될 수 있을 것입니다.

고용 기회 강화

소득은 건강의 또 다른 사회적 결정 요인입니다. 이 기술은 채용 과정을 간소화하는 데 사용할 수 있으며, 채용 관행에서 편견과 차별을 확인하고 줄입니다. 또한 이 기술은 미래의 인력 수요를 예측하며, 정부와 기업이 소외된 지역사회가 더 나은 고용 기회에 접근할 수 있도록 대상화된 기술 개발 프로그램을 개발할 수 있도록 돕습니다.

금융 포용성

생성형 AI는 복잡한 금융 데이터를 분석하며, 재개발 기관 및 기업 파트너와의 협력을 통해 저소득층과 은행 경험이 없는 개인의 요구에 맞춘 생체 인식 KYC(Know Your Customer) 방법과 같은 혁신적인 금융 제품과 서비스 개발을 가능하게 합니다. 이 기술은 소외된 지역사회에서 신용, 저축 및 보험에 대한 접근을 용이하게 하여 금융 포용성을 높이고 경제적 불평등을 줄입니다. 또한 금융 문해력이 낮은 사람들에게 사기적인 대출을 파악하도록 돕고 대안을 제시할 수 있습니다.

의료 개선

생성형 AI는 복잡한 의료 데이터에서 패턴을 파악할 수 있으며, 부분 모집단에 대한 더 빠른 진단과 보다 효과적인 치료 계획을 이끌어내고 모집단의 건강 연구를 개선할 수 있습니다. 과거 의료 기록을 분석하고 환자의 요구와 장애 요소를 예측함으로써, 이 기술은 예상치 못한 인사이트를 제시하여 치료 결과를 개선하고 불평등을 줄일 수 있습니다.

자원 분배

공공 정책적 시각에서, AI 알고리즘은 복잡한 기록 데이터를 분석하여 자원을 공정하게 분배하는 가장 효과적인 방법을 결정할 수 있습니다. 예를 들어, 생성형 AI는 정부 자금과 지원을 가장 필요로 하는 지역사회에 배분하는 데 도움을 줄 수 있으며, 자원이 효율적으로 사용되고 불평등을 줄이는 데 의미 있는 영향을 미칠 수 있게 합니다.
 

생성형 AI의 과제

불평등을 지속시키는 데이터 편향

생성형 AI는 예측을 하고 콘텐츠를 생성하기 위해 데이터에 의존하는데, 사용된 데이터가 편향되거나 대표성이 없거나 불완전한 경우 심각한 문제가 발생할 수 있습니다. 편향된 데이터나 잘못된 가정을 사용하면 기존의 불평등을 반영하고 소외된 지역사회에 부당한 영향을 미치는 편향된 AI 모델이 생성될 수 있습니다. 2019년에 실시된 연구에서는 의료 공급자와 보험사가 과거 비용을 기반으로 2억 명에 대한 의료 수요를 예측할 때 사용한 주요 알고리즘을 검토했습니다. 이 알고리즘에서는 흑인 환자들은 비용을 적게 들이기 때문에 의료 위험이 낮다는 결론을 내렸습니다. 하지만 실제로는 소득이 적은 그룹이 더 적은 의료 서비스를 받으며 편견이 있다고 생각되는 의사에 대한 신뢰도가 낮다는 점을 고려하지 못했습니다. 필요성은 더 크지만 의료 서비스에 더 적게 접근하기 때문에 의료 비용이 낮은 것입니다.

역설적이지만 이러한 상황에서는 로보틱 프로세스 자동화(RPA)와 같은 전통적인 규칙 기반 자동화가 명백한 이점을 제공합니다. RPA는 일반적으로 규칙이 명확하게 정의되고 안정적이며 합의에서 도출되고 최선의 사례나 정책으로 확인된 결정론적인 데이터 기반의 의사 결정과 조치에 기반합니다. 의사 결정의 근거가 명확하며, 이러한 규칙 기반 프로세스는 규칙 자체가 편향을 보일 수는 있지만 숨겨진 편향에 영향을 받지 않습니다. 예를 들어, 규칙 기반의 환자 분류는 이론적으로 의료 진단과 치료에서 의사의 선입견과 경험에 영향을 받을 수 있는 편향을 제거하고 치료에 대한 접근성을 개선할 수 있습니다.

직업 위기

생성형 AI는 새로운 일자리를 만들 수 있지만 직업 위기를 초래할 수도 있습니다. 자동화는 기술 수준이 낮은 직업에 더 큰 영향을 미칠 수 있으며, 소득 불평등을 증가시키고 의료 격차를 악화시킬 수 있습니다. AI가 광범위하게 도입될 경우, 한 예측에 따르면 2030년까지 15~30%의 근로자, 전 세계적으로 4억 명의 사람들이 직업을 잃을 수 있습니다. 따라서 AI 도입 시 영향을 받는 모집단의 직업 재교육이나 기술 강화가 항상 고려되어야 합니다.

디지털 격차

지역사회마다 기술 접근성과 디지털 문해력이 다르기 때문에 생성형 AI의 혜택이 모든 지역사회에 공평하게 분배되지 않을 수 있습니다. 디지털 격차가 확대될 경우 특정 그룹은 AI 기반 솔루션을 활용할 수 없게 되어 격차가 더 확대되는 악순환이 벌어질 수 있습니다. 따라서 사회적인 영향을 최소한의 공통적인 디지털 요구 사항에 맞추도록 조정해야 할 수도 있습니다. 반면에, 현재 전 세계 인구의 91.40%가 스마트폰이나 피처폰을 소유하고 있다고 추정됩니다.

잠재적 오용

악의적인 행위자들은 생성형 AI를 딥페이크 생성, 가짜 뉴스 생성, 사이버 공격 자동화 등과 같은 악의적인 용도로 사용할 수 있습니다. AI 기술의 오용은 디지털 시스템에 대한 신뢰를 저해할 수 있으며, 취약한 집단에게 더 많은 영향을 미칠 수 있습니다. 심지어는 정당한 사실조차도 무시될 수 있습니다. 스타트업들이 AI 탐지기와 같은 고급 기술을 개발하여 이러한 오용을 탐지하고 예방할 수 있는 기회입니다.

선의의 AI 활용

생성형 AI는 불평등을 해소할 수 있는 엄청난 잠재력을 가지고 있지만, 동시에 해결해야 할 중요한 문제도 제시합니다. 이 잠재력을 선한 목적으로 활용하기 위해서는 윤리적인 AI 개발, 편향되지 않은 데이터, 디지털 인프라 및 교육에 투자하는 것이 중요합니다. 생성형 AI가 유년기에서 사춘기로 전환되면서 우리는 이 기술이 노출되는 대상, 그 목적, 도덕적 가치, 그리고 책임에 대해 결정해야 합니다. 우리가 이 기술을 책임감 있게 발전시킨다면, 생성형 AI가 인간의 생산성과 가치를 저해하지 않고 향상시키는 데 기여하는 미래를 만들 수 있습니다.