사업계획서 AI,
출처 없는 숫자를 그대로 써도 될까요?

사업계획서 AI가 알려준 시장 규모나 성장률은 원문을 직접 확인하기 전까지 근거가 아니라 초안입니다. 보고서 이름과 링크까지 그럴듯하게 붙어 있어도, 실제 자료에 같은 숫자가 있는지는 별개의 문제입니다.

이런 오류는 공식 안내에도 나와 있습니다. OpenAI는 언어 모델이 틀린 사실뿐 아니라 존재하지 않는 연구와 출처를 만들어낼 수 있다고 설명합니다. NIST도 생성형 AI가 잘못된 내용이나 인용을 확신에 찬 문장으로 제시할 수 있다고 경고합니다.

숫자가 자연스러워 보여서 더 놓치기 쉽습니다

아래 숫자는 검증 방법을 설명하기 위해 만든 예시입니다. AI가 “국내 반려동물 시장은 2025년 8조 원이며 매년 15% 성장한다”고 썼다고 해보겠습니다. 숫자도 구체적이고 문장도 자연스러워 그대로 쓰고 싶어집니다.

하지만 원문을 열어보니 해외 시장을 원화로 바꾼 수치일 수도 있고, 전체 반려 산업이 아니라 사료 시장만 조사한 자료일 수도 있습니다. 발행연도나 전망 기간이 다른 숫자 두 개가 한 문장에 섞였을 가능성도 있습니다.

제출 전에는 네 가지만 확인하세요

1. 출처: 기관명만 보지 말고 원문 링크가 실제로 열리는지 확인합니다.
2. 발행일: 오래된 실적을 현재 시장 규모처럼 쓰고 있지 않은지 확인합니다.
3. 조사 대상: 국내인지 해외인지, 기업인지 소비자인지, 표본이 누구인지 봅니다.
4. 산정 기준: 매출, 거래액, 이용자 수처럼 무엇을 합산한 숫자인지 확인합니다.

네 가지 중 하나라도 원문에서 찾지 못했다면 그 숫자는 잠시 빼두는 편이 낫습니다. 출처를 설명할 수 없는 숫자 하나가 문서 전체의 신뢰를 깎을 수 있기 때문입니다.

근거가 약하면 숫자를 더 만드는 대신 범위를 줄이세요

시장 전체 통계가 없다고 해서 억지로 큰 숫자를 채울 필요는 없습니다. 정부 통계처럼 확인 가능한 공개 자료, 자사 매출과 상담 건수 같은 내부 자료, 산식이 드러나는 추정치 순으로 정리하면 됩니다.

AI에는 숫자 생성보다 검증표를 맡겨보세요

AI에게 “시장 규모를 찾아줘”라고만 묻기보다, 사용할 자료를 먼저 제공하고 아래 항목으로 정리해 달라고 요청해보세요.

• 주장에 사용할 숫자
• 원문 URL과 발행일
• 숫자가 나온 표·페이지·문단
• 조사 대상과 단위
• 확인되지 않은 부분

표가 완성돼도 링크는 직접 열어봐야 합니다. AI가 확인할 자료를 추려줄 수는 있지만, 출처가 맞는지 최종 판단하는 일은 작성자의 몫입니다.

참고자료

• OpenAI Help Center, Does ChatGPT tell the truth?
• NIST, Artificial Intelligence Risk Management Framework: Generative Artificial Intelligence Profile