창간 준비호

의료 AI 둘러싼 보안·신뢰 우려, 레딧 글 분석

의료 커뮤니티 14곳 게시글 6,514건을 살폈다

쎈프레스 편집국읽는 데 2분
의료 AI 둘러싼 보안·신뢰 우려, 레딧 글 분석

미국 연구진 등이 레딧(Reddit)의 의료 커뮤니티 14곳에서 의료 AI 관련 글 6,514건을 뽑아 분석했다. 연구진은 이용자들이 의료 AI를 보안·프라이버시·신뢰 문제와 함께 논의하고 있으며 그 논의가 크게 늘었다고 밝혔다.

지금까지

의료 AI의 위험은 그동안 주로 기술과 규제의 관점에서 다뤄졌다. 환자 정보는 병원 안에서 엄격히 관리하는 것이 기본이었다. 일반 이용자가 이런 위험을 어떻게 느끼고 이야기하는지는 상대적으로 덜 알려져 있었다.

AI 시대에는

연구진에 따르면 이용자들은 의료 AI가 전자의무기록, 외부 서비스, 클라우드, 자동화된 진료 업무와 연결되면서 기존 의료의 신뢰 범위와 공격 대상이 넓어진다고 본다. 글에서는 민감한 기록에 과도하게 접근할 수 있다는 점, 데이터가 어떻게 흐르는지 알기 어렵다는 점, 허가 없는 2차 이용, 위험한 자동화가 오류와 오용의 결과를 키울 수 있다는 점이 우려로 나타났다. 연구진은 이런 위험을 대하는 태도를 네 가지로 나눴다. 책임과 피해를 따지는 태도, 더 강한 안전장치를 전제로 조심스럽게 받아들이는 태도, 시스템을 믿을 수 있는지 의심하는 태도, 데이터 노출과 자동화가 커지는 것을 체념하고 받아들이는 태도다. 시간에 따른 분석에서는 관련 논의가 크게 늘었고, 변화 시점이 주요 의료 AI 도입, 개인정보 사고, 규제 변화와 겹쳤다고 연구진은 밝혔다. 이 논문은 동료 심사를 거치기 전에 공개된 사전 공개 논문이다.

지금 해 볼 것

  • 병원이나 건강 앱이 AI 기능을 제공한다면 개인정보 처리방침에서 내 정보가 외부 서비스로 넘어가는지, 다른 목적에 쓰이는지 확인해 본다.
  • 의료 AI 서비스를 만드는 개발자는 전자의무기록·클라우드 같은 연동 지점마다 접근 권한이 꼭 필요한 만큼인지, 데이터 흐름을 사용자에게 설명할 수 있는지 점검해 본다.

원문에서 확인한 사실

  • 연구진은 레딧의 의료 커뮤니티 14곳을 분석했다.
  • 분석 대상으로 관련 게시글 6,514건을 추출했다.
  • 체계적인 정성 코딩과 LLM 보조 분류로 우려의 내용과 빈도, 시간에 따른 변화를 살폈다.
  • 우려로는 민감 기록에 대한 과도한 접근, 불투명한 데이터 흐름, 허가 없는 2차 이용, 위험한 자동화가 나타났다.
  • 위험을 대하는 태도는 책임·피해 탐색, 안전장치를 전제로 한 수용, 신뢰성에 대한 회의, 체념의 네 가지로 구분됐다.
  • 관련 논의는 크게 늘었고 변화 시점이 주요 의료 AI 도입, 개인정보 사고, 규제 변화와 겹쳤다.
#의료 AI#개인정보#신뢰#레딧

이 기사는 쎈프레스 편집국이 공개된 원문을 바탕으로 정리했습니다. 원문에 없는 내용은 싣지 않는 것을 원칙으로 하며, 틀린 곳은 010-8114-3468로 알려 주시면 바로 고칩니다.

넘겨 보기로 이어 보기

이어서 읽기

의료·법

시민이 인공지능 규칙을 직접 따져 보는 시스템

연구진이 시민이 인공지능 관련 규칙을 이해하고 이의를 제기하며 고쳐 쓰도록 돕는 시스템 에이아이 보이저(AI-Voyager)를 내놓았다. 연구진은 이 시스템이 공공 문서의 정확한 본문에 인공지능의 도움을 묶어 둔다고 밝혔다.

의료·법

맞는 이유를 대도 거절은 풀리지 않는다

규칙에 따라 요청이 거절될 때 사람들이 받는 설명을 언어모델이 쓰는 일이 늘고 있다. 한 저자는 설명에 적힌 이유가 사실이어도, 그 이유를 고친 뒤에 여전히 거절될 수 있다는 점을 짚었다.

의료·법

인공지능 정책 의견, 시민 의견과 18~30%만 일치

미국 연구진이 연방 규칙 제정 과정에 접수된 공개 의견 4230만 건을 모아 자료집을 만들고, 인공지능이 사람의 정책 의견을 얼마나 닮는지 시험했다. 연구진은 인공지능이 쓴 의견 가운데 실제 사람의 의견과 겹친 것은 18~30%뿐이라고 밝혔다.

의료·법

개인화 서비스, 배포 권한과 정정 책임 분리

연구진은 결과를 계산하는 쪽과 전달 여부를 정하는 쪽이 다른 개인화 서비스를 위한 인터페이스를 설계했다고 밝혔다. 이 인터페이스는 입력 데이터의 사용 권한 확인과 보고서의 요건 확인을 따로 하고, 누락을 누가 고쳐야 하는지를 기록한다.