의료 AI 신뢰도 높일 '능동형 안전망' 기술 개발
정부는 의료 인공지능(AI)이 초래할 수 있는 환각이나 허위 정보와 같은 부작용을 사전에 탐지하고 제어하는 'AI 가드레일' 기술 개발을 추진합니다. 이는 국민과 의료진 모두가 신뢰할 수 있는 의료 AI 생태계를 구축하기 위한 능동적인 안전망으로, 의료 현장의 우려를 해소하고 AI의 책임 있는 활용을 지원하는 중요한 발걸음이 될 것입니다.
의료 AI 안전망, 왜 필요할까요?
보건복지부와 한국보건산업진흥원은 '의료 AI 전환(AX) 신뢰성 확보를 위한 AI 가드레일 기술개발' 사업 신설을 추진하며, 내년도 예산 편성을 위한 전문가 의견 수렴을 마쳤습니다. 여기서 '가드레일'은 AI가 정해진 역할이나 윤리적 기준을 벗어나는 작업을 시도할 때 이를 중단시키는 비상 정지 버튼과 같은 역할을 합니다.
AI의 윤리적 활용이 중요해지면서 많은 기업들이 이러한 가드레일 시스템을 적극적으로 도입하는 추세입니다.
정부가 이 기술 개발에 나서는 주된 이유는 국민과 의료진이 안심하고 의료 AI를 활용할 수 있는 '신뢰 기반의 의료 AI 생태계'를 조성하기 위함입니다.
지난해 한국보건산업진흥원이 의사 2,125명을 대상으로 진행한 '의료 AI 활용 실태조사'에서도 '신뢰성 확보'가 가장 중요한 과제로 꼽혔을 만큼, 의료 현장에서는 명확한 가이드라인에 대한 수요가 높습니다. 잘못된 의료 정보가 확산될 경우 발생할 사회적 손실 가능성 또한 이 사업의 필요성을 뒷받침합니다.
능동형 안전망의 두 가지 핵심
이 AI 가드레일 사업은 내년부터 2030년까지 4년간 추진될 예정이며, 크게 병원 안과 밖, 두 가지 종류의 안전망으로 나뉩니다. 각 영역에서 의료 AI의 신뢰성을 높이기 위한 맞춤형 전략이 적용됩니다.
대국민 신뢰를 위한 허위 의료정보 보호
첫 번째는 '대국민 신뢰 안전망'으로, 지능화된 허위 의료정보로부터 국민을 보호하는 것을 목표로 합니다. 이를 위해 가짜뉴스와 허위 정보의 위험도를 단계별로 분류하는 플랫폼을 개발하고, 사회관계망서비스(SNS)와 포털사이트 등에서 이러한 정보를 효과적으로 감지할 수 있도록 할 계획입니다.
병원 내 AI 의사결정, 신뢰를 더하다
두 번째는 '병원 내' 안전망으로, 의료 AI의 의사결정 오류를 최소화하는 데 중점을 둡니다. 의료 AI가 환각 현상을 보이거나 중요한 정보가 누락되어 잘못된 임상 판단을 내리는 일을 방지하기 위한 검증 기술을 개발합니다. 특히 상급종합병원에 축적된 방대한 AI 정보를 활용하여 사실 관계를 능동적으로 확인하고, 이를 통해 환자의 안전을 더욱 견고하게 보호할 것으로 기대됩니다.
신뢰 가능한 의료 AI 생태계 구축의 미래
의료 현장에서 AI 활용은 이미 익숙한 부분이 되었으나, 그 공정성과 의료진의 과도한 신뢰로 인한 우려는 점차 커지고 있습니다. 한 업계 관계자는 현재 세계적으로 '신뢰 가능한 AI'에 대한 논의가 활발히 진행되는 만큼, 의료 AI의 안전성 문제 또한 시급히 고민해야 할 때라고 강조합니다.
이처럼 능동형 안전망 기술 개발은 의료 AI의 발전을 건강한 방향으로 이끌 중요한 기반이 될 것입니다.
의료 AI의 신뢰성을 높이는 능동형 안전망 기술 개발은 미래 R&D의 핵심 과제입니다. 애녹스는 이러한 우수한 기술이 더 많은 이들에게 닿을 수 있도록 실용적인 블로그 마케팅 솔루션으로 함께하겠습니다.
주식회사 애녹스는 중소벤처기업부에서 지정한 글로벌 시장개척 전문기업, 수출바우처 수행기관, 혁신바우처 수행기관이며, R&D 및 경영 전영역의 컨설팅을 수행합니다.
