창간 준비호

에이전트 기억, 스스로 한 말은 믿지 않는다

외부 확인을 거친 결과만 기억하는 방식을 제안했다

쎈프레스 편집국읽는 데 2분
에이전트 기억, 스스로 한 말은 믿지 않는다

도구를 쓰는 에이전트와 로봇이 같은 실패를 되풀이하지 않도록 돕는 기억 방식이 사전 공개 논문으로 나왔다. 연구진은 시험이나 도구 결과, 사람의 확인을 거친 결과만 성공으로 기록한다고 밝혔다.

지금까지

도구를 부르는 에이전트와 작업을 수행하는 로봇은 실행 기록을 남기고 다시 불러 쓰는 방식으로 경험을 활용해 왔다. 다만 에이전트가 스스로 성공했다고 판단한 기록을 그대로 믿으면 잘못된 경험이 쌓일 수 있다. 이미 실패한 방법을 되풀이하는 것도 오래된 약점으로 꼽혀 왔다.

AI 시대에는

연구진은 모든 실행을 하나의 에피소드로 기록하되, 시험이나 도구 결과, 사람이 확인한 결과만 성공으로 인정하고 에이전트 자신의 주장은 인정하지 않는다고 밝혔다. 기억은 두 부분으로 나뉜다. 연상 행렬은 상황에 맞는 절차를 찾는 역할을 하고, 순서가 있는 단계 기록은 어떤 단계 다음에 무엇이 오는지 알려 준다. 행렬은 연상을 합쳐 저장해서 순서를 모르고 하나만 꺼내거나 지울 수도 없으므로, 순서와 결과 횟수, 삭제는 단계 기록이 맡는다. 연구진의 시뮬레이션에서 스스로 성공을 판단하고 멈춘 로봇은 작업의 96%를 끝냈다고 보고했지만 실제로 푼 것은 35%였고, 외부 확인을 쓰자 79%를 풀었다. 이 글은 동료 심사를 거치기 전에 공개된 논문이며, 수치는 시뮬레이션과 합성 데이터에서 연구진이 얻은 결과다.

지금 해 볼 것

  • 내가 만들거나 쓰는 에이전트가 «성공»이라고 기록할 때 시험이나 도구 결과 같은 외부 확인이 있는지 점검해 본다.
  • 에이전트의 실패한 시도를 따로 기록해 두고, 같은 실패가 되풀이되는지 살펴본다.

원문에서 확인한 사실

  • 연구진은 Jürgen Paulhart와 Peter Schüller이며, 상용 에이전트 플랫폼을 위해 이 기억을 만들었다고 밝혔다.
  • 시험이나 도구 결과, 사람의 확인 같은 외부 확인을 거친 결과만 성공으로 인정하고, 에이전트 자신의 주장은 인정하지 않는다.
  • 시뮬레이션에서 스스로 성공을 판단한 로봇은 작업의 96%를 끝냈다고 보고했으나 실제로 푼 것은 35%였고, 외부 확인을 쓰면 79%를 풀었다.
  • 합성 에피소드 10만 개(디스크 457MB)에서 가장 오래된 에피소드가 가장 먼저 검색됐고, 다른 사람 기억의 에피소드는 반환되지 않았으며, 모델만 보증한 성공은 다시 불러오지 않았다.
  • 검색 한 번에 걸리는 시간은 중앙값으로 노트북 16밀리초, 서버 노드 40밀리초였다.
  • 작업 결과는 확인된 기록 약 1만 개까지 측정했고, 정확한 기록이 있으면 다시 만난 작업을 첫 시도에 모두 풀었다.
#에이전트#기억#외부 검증#로봇

이 기사는 쎈프레스 편집국이 공개된 원문을 바탕으로 정리했습니다. 원문에 없는 내용은 싣지 않는 것을 원칙으로 하며, 틀린 곳은 010-8114-3468로 알려 주시면 바로 고칩니다.

넘겨 보기로 이어 보기

이어서 읽기