시민이 인공지능 규칙을 직접 따져 보는 시스템
정부 문서 3,653건을 바탕으로 수정안 작성까지 돕는다

연구진이 시민이 인공지능 관련 규칙을 이해하고 이의를 제기하며 고쳐 쓰도록 돕는 시스템 에이아이 보이저(AI-Voyager)를 내놓았다. 연구진은 이 시스템이 공공 문서의 정확한 본문에 인공지능의 도움을 묶어 둔다고 밝혔다.
지금까지
각국 정부와 지방정부는 인공지능을 어떻게 다룰지 규칙을 만들어 왔다. 이런 규칙은 무엇을 자동화된 결정으로 볼지, 무엇을 피해로 볼지를 정한다. 그러나 영향을 받는 사람들이 긴 문서를 직접 찾아 읽고 의견을 내기는 쉽지 않았다.
AI 시대에는
연구진은 시민과 인공지능이 함께 규칙을 이해하고 따지고 고치는 '시민 추론' 시스템을 제안했다. 연구진에 따르면 이용자는 자기 도시의 채용 관련 인공지능 규칙을 찾거나 자기 나라의 인공지능 전략 문서를 올려 영향받는 노동자의 눈으로 읽을 수 있다. 어떤 답변이든 그 근거가 된 대목을 열어 보고 수정안도 쓸 수 있다고 한다. 시스템은 시·주·연방·국가 정부 문서 3,653건을 쪽수와 판본이 남도록 나누어 담았고, 필요하면 검색을 되풀이하며 각 진술을 확인하는 방식으로 근거를 찾는다. 이 글은 동료 심사를 거치기 전에 공개된 사전 공개 논문이며, 아래 수치는 연구진의 주장이다.
지금 해 볼 것
- 내가 사는 도시나 나라에 인공지능 관련 규칙이나 전략 문서가 있는지 찾아보고, 일하는 사람의 입장에서 한 대목을 읽어 본다.
- 인공지능 답변에 출처가 붙어 있으면 해당 문서의 그 대목을 직접 열어 답변과 맞는지 확인해 본다.
원문에서 확인한 사실
- 연구진은 시·주·연방·국가 정부의 규칙 문서 3,653건을 쪽수와 판본이 남도록 나누어 시스템에 담았다고 밝혔다.
- 관련 문서를 먼저 찾아야 하는 새 질문 360개에서 근거 회수 점수(재현율)는 83.0%였고, 가장 강한 비교 대상은 80.5%였다.
- 검색을 되풀이하지 않으면 73.7%였고, 문서가 정해진 시험에서는 99.1%였다.
- 인공지능 법안 두 건을 처음 접하는 참가자 24명을 대상으로 연구를 했다.
- 참가자가 제안한 수정 가운데 대부분은 조항이 어떻게 적용되는지를 묻는 내용이었다.
- 인용 표시는 답변이 근거에 기댄다는 신호가 되었지만, 참가자가 원문을 확인하러 가는 경우는 드물었다.
이 기사는 쎈프레스 편집국이 공개된 원문을 바탕으로 정리했습니다. 원문에 없는 내용은 싣지 않는 것을 원칙으로 하며, 틀린 곳은 010-8114-3468로 알려 주시면 바로 고칩니다.



