PwC도 낚인 ‘AI 환각’… 검증 없는 효율은 재앙이다

📅 2026년 7월 30일 | 한국경제(사설)

💡 핵심 요약

세계 4대 회계·컨설팅 기업이 잇달아 ‘AI 환각’이 의심되는 보고서 오류로 곤욕을 치렀다. PwC 중동법인 보고서에서 확인 불가 출처와 AI가 지어낸 것으로 추정되는 학술논문 인용이 발견됐고, 딜로이트는 유사한 오류로 호주 정부에 대금을 일부 반환했다. AI가 필수 도구가 된 지금 최종 책임은 인간에게 있으며, 내부 검증 체계 없이는 더 큰 사회적·법적 비용을 치를 수 있다는 경고다.

PwC 중동법인: 2024~2026년 보고서 4건에서 부실 각주·잘못된 인용·확인 불가 출처, AI 생성 추정 학술논문(리야드 대기질 논문 등)까지 출처로 제시 — AI탐지업체 GPTZero 분석 및 FT 보도
딜로이트: 호주 정부 복지준수 보고서(약 44만 호주달러)에 존재하지 않는 참고문헌·판사 인용 오귀속 → 약 9.7만 호주달러 반환(생성형 AI 사용 사실도 공개)
AI 환각은 성능 개선에도 구조적 한계로 잔존
실제 피해: 에어캐나다 챗봇 오안내로 법적 배상, 미국 변호사 AI 가짜 판례 인용 징계 등
결론: 최종 책임은 인간, 내부 검증 시스템과 정부의 부작용 최소화 정책 필요

🔗 원문 보기 – 한국경제

※ PwC 중동(FT·GPTZero)과 딜로이트 호주 정부 보고서 건은 폭넓게 보도된 확인된 사례다. 사설이 함께 언급한 EY·KPMG의 개별 사례는 각 사건만큼 널리 보도되지는 않아, ‘빅4 전반’ 서술은 업계 차원의 경향에 대한 사설의 진단으로 읽는 것이 정확하다.

📖 알아두면 좋은 용어

AI 환각(Hallucination) : AI가 사실이 아닌 정보를 그럴듯하게 지어내 제시하는 현상. 존재하지 않는 출처·판례·논문을 만들어내기도 해, 검증 없이 인용하면 보고서·감사조서의 신뢰성을 무너뜨린다.
품질관리시스템(SOQM) : 회계법인이 감사·인증업무의 품질을 일관되게 확보하기 위해 품질목표를 세우고 위험을 식별·대응하는 내부 체계. 인적·기술적 자원의 적절성 관리가 포함되며, AI 도구도 그 대상이다.
감사증거의 신뢰성 : 감사인이 결론의 근거로 삼는 정보가 목적적합하고 신뢰할 수 있는지의 정도. 정보의 출처와 작성·유지 방법에 따라 신뢰성이 달라지므로, AI가 생성한 정보는 별도 검증이 필요하다.

📚 관련 기준 본문

※ 이 사설은 비감사 컨설팅 보고서의 사례를 다루지만, 동일한 품질관리·검증 원리는 회계법인의 감사·인증업무에 아래 기준으로 직접 적용된다.

1. 품질관리기준서 제1호(ISQM 1) — 회계법인의 품질관리시스템

품질목표의 설정과 자원(기술적 자원)의 적절성

회계법인은 품질목표를 설정하고 이를 달성하지 못할 품질위험을 식별·평가하며, 그 위험에 대응하도록 품질관리시스템을 설계·실행·운영하여야 한다. 여기에는 업무 수행에 필요한 기술적·지적 자원을 적절하게 확보하고 사용하는 것에 관한 품질목표가 포함된다.

👉 사건 연결: AI는 이제 회계법인의 핵심 ‘기술적 자원’이다. 그 도구가 만들어낸 산출물을 걸러낼 통제가 품질관리시스템에 내장돼 있지 않다면, 이는 자원 관련 품질목표의 실패다. 여러 대형 회계·컨설팅 법인이 유사 논란에 휘말렸다는 것은 개별 부주의를 넘어 업계 전반의 품질위험 대응 체계에 구멍이 있음을 시사한다.

2. 회계감사기준서(KSA) 500 — 감사증거

정보의 목적적합성과 신뢰성 평가

감사인은 합리적인 결론을 도출하기 위한 근거로서 충분하고 적합한 감사증거를 입수하도록 감사절차를 설계·수행하여야 한다. 정보를 감사증거로 사용할 경우, 그 정보의 목적적합성과 신뢰성(출처, 작성·유지 방법 등)을 평가하여야 한다.

👉 사건 연결: AI가 제시한 출처·인용은 그 자체로 신뢰할 수 있는 증거가 아니다. 출처의 실재 여부와 정확성을 확인하지 않고 조서에 반영하면, 존재하지 않는 참고문헌·판사 인용을 담은 딜로이트 사례처럼 증거의 신뢰성이 근본적으로 훼손된다. AI 산출물은 ‘검증 전 초안’일 뿐 감사증거가 아니라는 원칙이 핵심이며, AI 생성 정보의 취급은 일차적으로 이 기준(KSA 500)과 위 품질관리기준서(ISQM 1)로 규율된다.

3. 회계감사기준서(KSA) 620 — 감사인의 전문가 이용(유추 적용)

이용하는 업무 결과물의 적합성 평가

감사인이 전문가의 업무를 감사증거로 이용하는 경우, 해당 전문가의 역량·적격성·객관성을 평가하고, 그 업무가 감사인의 목적에 적합한지를 평가하여야 한다. 업무 결과물이 부적합하다면 추가 절차를 수행한다.

👉 사건 연결: KSA 620은 본래 사람(또는 조직) 전문가를 대상으로 하지만, AI를 일종의 ‘자동화된 조력 도구’로 유추해 보면 그 산출물 역시 목적 적합성 평가 없이 그대로 신뢰해서는 안 된다는 함의가 분명해진다. 도구가 아무리 정교해도 그 결과의 검증과 최종 판단 책임은 감사인에게 남는다. “최종 책임은 인간에게 있다”는 사설의 결론이 감사 실무에서는 이러한 검증 의무로 구체화된다.

🔍 시사점

AI 산출물은 증거가 아니라 초안 : AI가 제시한 출처·수치·인용은 검증을 거치기 전까지 감사증거가 될 수 없다. 실재 여부와 정확성 확인이 조서 반영의 전제 조건이다.
품질관리시스템에 AI를 편입해야 : AI가 핵심 기술적 자원이 된 만큼, 그 사용·검증·승인 통제를 품질관리시스템에 명시적으로 내장해야 한다. 도구 도입 속도보다 통제 설계가 먼저다.
동반 논란의 의미 : 특정 법인의 실수가 아니라 업계 전반의 검증 체계 공백을 드러낸 사건이다. 감사·인증업무의 신뢰가 걸린 문제로, 규제·기준 차원의 대응이 필요하다.
책임의 소재는 인간 : 에어캐나다 챗봇 배상, 미국 변호사 가짜 판례 징계 사례처럼, AI 오류의 법적·재무적 책임은 이용자에게 귀속된다. 효율성 뒤에 숨은 책임 전가는 성립하지 않는다.
검증 비용은 투자다 : AI 검증 절차를 생략해 얻는 단기 효율은 오류 발생 시 배상·신뢰 훼손이라는 더 큰 비용으로 되돌아온다. 검증은 비용이 아니라 리스크 관리 투자다.
제도적 가이드라인의 필요 : 개별 법인의 자율에만 맡기기보다, 감독기구 차원의 AI 활용·검증 가이드라인이 마련돼야 부작용을 구조적으로 줄일 수 있다.