맞는 이유를 대도 거절은 풀리지 않는다
AI가 쓴 거절 설명을 따라 해도 결과가 안 바뀔 수 있다

규칙에 따라 요청이 거절될 때 사람들이 받는 설명을 언어모델이 쓰는 일이 늘고 있다. 한 저자는 설명에 적힌 이유가 사실이어도, 그 이유를 고친 뒤에 여전히 거절될 수 있다는 점을 짚었다.
지금까지
자격 심사나 접근 권한 심사에서 거절 통보를 받으면 거절 이유가 한두 가지 적혀 있는 것이 보통이었다. 그 이유가 사실과 맞는지가 설명의 품질을 따지는 기준이 되곤 했다. 신청자는 적힌 이유를 고치면 결과가 달라질 것이라고 기대하며 다시 신청했다.
AI 시대에는
언어모델이 거절 설명을 대신 쓰는 일이 늘면서 이 기대가 어긋날 수 있다는 점이 드러났다. 여러 규칙이 따로따로 거절 사유가 되는 경우, 설명이 맞는 이유 하나만 대면 신청자가 그것을 고쳐도 다른 규칙 때문에 계속 거절된다. 저자는 이 빠진 성질을 «구제 가능성», 곧 요청 내용은 그대로 두고 설명에 적힌 부분만 고쳤을 때 결정이 바뀌는 성질이라고 부르고, 이를 정확히 계산했다고 밝혔다. 저자는 접근 통제와 미국 복지 수급 자격에서 가져온 규칙 체계 일곱 가운데 여섯에서, 여러 이유가 해당할 때 맞는 이유 하나로는 거의 구제가 되지 않았다고 밝혔다. 다만 이 글은 동료 심사를 거치기 전에 먼저 공개된 논문이므로 결과는 앞으로 검증이 필요하다.
지금 해 볼 것
- 거절 통보를 받으면 적힌 이유 하나만 고치지 말고, 같은 결정에 적용되는 기준이 더 있는지 공식 안내문에서 전체 목록을 확인해 본다.
- AI에게 거절 이유를 물을 때 «이 요청이 거절될 수 있는 모든 규칙을 빠짐없이 알려 달라»고 요청해 본다.
- AI 설명을 서비스에 쓰려는 개발자라면, 설명에 적힌 이유가 맞는지만 보지 말고 «설명대로 고치면 실제로 통과하는가»를 시험해 본다.
원문에서 확인한 사실
- 규칙 체계가 요청을 거절할 때 사람들이 받는 설명을 언어모델이 쓰는 일이 늘고 있다.
- 여러 규칙이 각각 따로 거절 사유가 되면, 설명이 맞는 이유를 대도 그것을 고친 뒤에 여전히 거절될 수 있다.
- 저자는 이 성질을 구제 가능성이라 부르고 정확히 계산했으며, 정책만 보고 맞는 이유가 실패할 경우를 예측할 수 있다고 밝혔다.
- 접근 통제와 미국 복지 수급 자격에서 가져온 일곱 규칙 체계 중 여섯에서, 여러 이유가 해당할 때 맞는 이유 하나로는 거의 구제되지 않았다.
- 언어모델 20개를 살펴보니, 인용한 이유가 맞는지 보는 검사는 이런 실패를 가려내는 데 우연에 가까운 수준이었다.
- 강한 심판 모델에게 «설명대로 하면 통하는가»를 물으면 이 실패를 가려냈다.
- 더 강한 모델과 추론 모델이 낫지만, 독립된 이유가 네 개 이상인 거절에서는 여전히 많이 실패했다.
- 모든 규칙을 말하게 하면 개선 여지가 있는 공개 모델이 모두 나아졌다.
이 기사는 쎈프레스 편집국이 공개된 원문을 바탕으로 정리했습니다. 원문에 없는 내용은 싣지 않는 것을 원칙으로 하며, 틀린 곳은 010-8114-3468로 알려 주시면 바로 고칩니다.



