MCP 에이전트 출처 검증 기법 공개
최근 30일 조회수 —좋아요 —핵심 요약
프로비넌스가드는 MCP 에이전트 답변의 사실과 출처 일치 여부를 주장 단위로 검증한다.

멀티버스컴퓨팅CAI 연구진이 모델 컨텍스트 프로토콜(MCP) 기반 에이전트의 답변에서 사실뿐 아니라 출처까지 검증하는 기법 ‘프로비넌스가드(ProvenanceGuard)’를 9월 29일 허깅페이스 커뮤니티 블로그에 공개했다. 연구진이 겨냥한 문제는 여러 도구의 출력에 사실이 존재하더라도, 답변이 이를 엉뚱한 출처에서 나온 것처럼 제시하는 ‘출처 간 혼동’이다.1
기존 RAGAS, MiniCheck, AlignScore, SummaC 같은 검증기는 일반적으로 검색 결과와 데이터베이스 등 증거를 하나로 합친 뒤 주장의 근거 여부를 판단한다. 이 방식에서는 환불 규정이 정책 문서에만 있는데도 “계정 기록에 따르면 30일 환불이 가능하다”는 답변이 통과할 수 있다. 사실 자체는 맞지만 출처 표시는 틀린 사례다.
프로비넌스가드는 기존 에이전트를 재훈련하지 않고 답변 생성 뒤 작동한다. MCP 실행 기록의 도구 출력과 출처 ID를 유지한 채 답변을 주장 단위로 나누고, 관련 출처 탐색·근거 확인·명시되거나 암시된 출처와의 일치 여부를 차례로 검사한다. 이후 주장별 판정과 답변 전체의 허용·차단 결과를 내며, 차단된 답변은 RARR 방식으로 수정한 뒤 다시 검증할 수 있다고 연구진은 설명했다.
Footnotes
-
Hugging Face 블로그·커뮤니티, 「Getting the Source Right, Not Just the Fact: Source-Aware Verification for MCP Agents」 ↩
읽기 목록은 이 브라우저에 저장됩니다.
출처
- Getting the Source Right, Not Just the Fact: Source-Aware Verification for MCP Agents — Hugging Face 블로그·커뮤니티 · 자료: 2026. 9. 29.
이 글은 위 출처를 근거로 자동 생성된 뒤 발행됐습니다. 원문을 함께 확인해 주세요. 교차 보도 없이 단독 출처로 작성됐습니다.