세무·노무 질문을 AI에 물어보고 있다면 — 답을 쓰기 전에 세워야 하는 확인 칸

직원 한 명이 그만두면서 남은 연차를 어떻게 처리해야 하느냐고 물어옵니다.
노무사에게 전화를 걸 만한 일인가 싶어 손이 멈춥니다.

그래서 AI 창을 엽니다.
답이 나옵니다. 막힘없이, 조목조목.

여기까지는 좋습니다.

문제는 그다음입니다.
이 답을 그대로 직원에게 말해도 되는지, 그 판단이 안 섭니다.

AI가 세법을 틀리게 말하는 일은 생깁니다.
다만 그게 이 글이 다루는 지점은 아닙니다.

틀린 답이 흐릿하게 나온다면 우리는 알아서 걸러냅니다.
실제로는 맞는 답과 똑같은 얼굴로 나옵니다.

Anthropic 공식 문서도 그 점을 맨 앞에 적어 둡니다.
원문은 "Even the most advanced language models, like Claude, can sometimes generate text that is factually incorrect or inconsistent with the given context"입니다.

가장 앞선 모델도 사실과 다른 문장을 만들어 낼 때가 있다는 문장이 문서 첫 줄입니다.

같은 문서 끝에는 이런 주의가 붙어 있습니다.
"Always validate critical information, especially for high-stakes decisions."

코드였다면 이 문제는 이렇게까지 어렵지 않습니다.

실제 상담에서도 같은 질문이 먼저 나왔습니다.

코드는 돌려보면 됩니다.
의도대로 동작하지 않으면 그 자리에서 드러납니다.

세무·노무 답에는 돌려볼 자리가 없습니다.

틀렸다는 사실은 대개 신고를 낸 뒤에, 직원에게 말한 뒤에 옵니다.
그래서 실행하기 전에 세우는 칸이 필요합니다.

첫 번째 칸은 질문의 성격입니다.

조회는 어딘가에 이미 적혀 있는 값을 찾는 일입니다.
서식 이름, 제출처, 기한이 적힌 조문 번호 같은 것.

판단은 그 값이 우리 회사에 걸리는지를 정하는 일입니다.
같은 조문을 놓고도 사실관계 하나가 달라지면 답이 뒤집힙니다.

이 구분은 도구 쪽에도 이미 선이 그어져 있습니다.

Claude 웹 검색 문서는 검색이 도는 자리를 이렇게 적습니다.
"Current prices, rates, scores, or statistics", 값이 바뀌는 항목입니다.

반대로 검색 없이 바로 답하는 자리는 "Established facts, math, science fundamentals, or coding concepts"로 적혀 있습니다.

요율과 기한은 바뀌는 값입니다.
모델이 그것을 안정된 지식으로 분류하면 검색 없이 답이 나옵니다.

그 판정을 대표가 매번 통제하지는 못합니다.
그러니 질문을 던지는 쪽에서 성격을 먼저 정해 두는 편이 낫습니다.

현장에서도 이 두 가지는 이미 나뉘어 있습니다.

찾는 일은 넘기고, 정하는 일은 남깁니다.
부동산이든 세무든 이 순서는 같습니다.

먼저 물을 것은 하나입니다. 이건 찾아보면 나오는 값인가요.

두 번째 칸은 근거입니다.

출처 없이 술술 나온 답과, 조문과 주소가 함께 나온 답은 무게가 다릅니다.
다만 붙어 있다는 사실만으로는 아직 확인이 아닙니다.

Anthropic 문서가 권하는 방식은 인용을 붙여 감사 가능하게 만드는 것입니다.
원문은 "Make Claude's response auditable by having it cite quotes and sources for each of its claims"입니다.

같은 항목에 더 센 조건도 붙어 있습니다.
근거 문장을 못 찾으면 그 주장을 철회하게 하라는 것, 원문으로는 "If it can't find a quote, it must retract the claim".

웹 검색을 쓰면 인용은 자동으로 붙습니다.
문서에는 "Citations are always enabled for web search"라고 적혀 있습니다.

다만 그 인용에 담기는 본문은 조각입니다.
cited_text 항목은 "Up to 150 characters of the cited content"로 명시돼 있습니다.

150자짜리 조각으로 조문 하나를 판단할 수는 없습니다.
주소가 붙어 있다면 그 주소를 눌러 원문을 여는 데까지가 이 칸입니다.

우리도 글을 쓸 때 그렇게 합니다.
채용 자동화 글에서 법 조항을 인용할 때는 조문 원문과 국가법령정보센터 주소, 확인한 날짜를 같이 적어 둡니다.

출처가 붙었다는 말과 원문을 봤다는 말은 다릅니다.

세 번째 칸은 결과입니다.

머릿속을 정리하려고 물었다면 그 답은 초안으로 충분합니다.
신고서에 숫자가 들어가거나 직원에게 통지가 나가면 자리가 바뀝니다.

Anthropic 이용 정책에는 고위험 용도 요건이 따로 있습니다.
법률 해석, 금융 결정, 고용 관련 결정이 그 목록에 들어 있습니다.

요건 원문은 이렇습니다.
"a qualified professional in that field must review the content or decision prior to dissemination or finalization"

해당 분야의 자격 있는 전문가가 배포 또는 확정 전에 검토해야 한다는 조건입니다.

이 조건이 걸리는 범위는 무한정 넓지 않습니다.
정책은 "directly affecting individuals or consumers"라고 적어, 개인이나 소비자에게 직접 영향을 주는 자리로 한정합니다.

우리 회사 세금을 혼자 가늠해 보는 일은 그 밖일 수 있습니다.
직원의 근로 조건을 정하는 일은 그 안입니다.

전문가 자리를 남겨 둔다고 손해가 나는 것도 아닙니다.

이 대표님은 법규 검토를 밖에 넘기고 1~2일을 기다립니다.
자동화가 손대는 자리는 그 1~2일이 아닙니다.

넘기기 전에 자료를 모으던 세 시간과 한 시간입니다.

여기까지가 세 칸입니다.
남은 일은 이 칸들을 우리 회사 문장 하나로 바꾸는 것.

"우리 회사에서 AI 답으로 바로 실행해도 되는 자리는 어디까지인가."
이 문장을 적어 두지 않으면 매번 그날의 기분으로 정해집니다.

선을 긋는 방식은 어렵지 않습니다.

조회로 끝나는 값은 그냥 씁니다.
대신 답에 주소가 없으면 다시 묻습니다.

우리 회사에 걸리는지를 정하는 답은 초안까지만 씁니다.
그 초안을 들고 전문가에게 갑니다.

돈이 나가거나 밖으로 나가는 서류는 사람이 확정합니다.
누가 그 도장을 찍는지도 이름으로 적어 둡니다.

적어 두는 자리가 거창할 필요는 없습니다.
메모 한 줄이든 사내 문서 한 칸이든, 다음 사람이 같은 기준을 보기만 하면 됩니다.

AI를 그만 쓰라는 이야기가 아닙니다. 어디까지가 초안이고 어디부터 사람 도장인지를 미리 적어 두자는 이야기입니다.

정리

30초로 줄이면 이렇습니다.

경고 신호

• AI에게 물어본 세무 답을 그대로 신고서에 옮겨 적는다

• 출처가 붙어 있다는 이유로 원문을 열지 않는다

• 직원에게 나갈 통지 문구를 대화창 답 그대로 보낸다

• 어디까지 써도 되는지를 매번 그날 기분으로 정한다

좋은 신호

• 질문이 조회인지 판단인지를 먼저 가른다

• 근거 주소가 없으면 답을 다시 받는다

• 붙은 주소는 눌러서 원문과 확인 날짜를 남긴다

• 돈이 나가거나 서류가 나가는 자리는 사람이 확정한다

• 그 선을 문장 하나로 적어 둔다

AI 답을 쓰기 전 다섯 가지 질문

1. 이 질문은 찾아보면 나오는 값입니까?
   적힌 값을 찾는 일이면 넘겨도 됩니다. 우리 회사에 걸리느냐를 정하는 일이면 아직 초안입니다.

2. 답에 근거 조문이나 주소가 붙어 있습니까?
   없다면 그 답은 아직 확인 전입니다.

3. 그 주소를 직접 열어 봤습니까?
   인용에 담기는 본문은 최대 150자입니다. 조문 전체가 아닙니다.

4. 이 답으로 돈이 나가거나 서류가 밖으로 나갑니까?
   그렇다면 전문가 확인 없이 확정하지 않습니다.

5. 우리 회사의 선이 어디까지인지 적혀 있습니까?
   적혀 있지 않으면 다음 사람은 다르게 판단합니다.

자주 묻는 질문

Q. 세무·노무 질문을 AI에 물어봐도 되나요?

됩니다.
다만 그 답을 어디에 쓰느냐가 답의 자격을 정합니다.
머릿속을 정리하는 용도와 신고서에 옮겨 적는 용도는 같은 답이라도 요구되는 확인이 다릅니다.

Q. 출처가 붙은 답이면 믿어도 되나요?

붙었다는 것만으로는 부족합니다.
Claude 웹 검색 문서는 인용에 담기는 본문을 "Up to 150 characters of the cited content"로 적어 둡니다.
조각을 보고 조문을 판단하지 마시고, 붙은 주소를 눌러 원문을 여세요.

Q. 직원에게 나갈 안내문도 AI로 만들어도 되나요?

초안까지는 만들 수 있습니다.
Anthropic 이용 정책은 고용 관련 결정을 고위험 용도로 두고, 개인에게 직접 영향을 주는 자리에서는 자격 있는 전문가가 배포 또는 확정 전에 검토해야 한다고 적습니다.
보내기 버튼은 그 검토 뒤에 누르시는 편이 안전합니다.

Q. 그러면 세무사·노무사는 계속 써야 하나요?

전문가 자리는 그대로 둡니다.
달라지는 건 그 자리에 가져가는 자료의 상태입니다.
상담 기록에서도 법규 검토를 넘기기 전 기본 정보에 세 시간, 심화 정보에 한 시간이 들고 있었습니다.