인공지능 공존의 시대

생성 AI가 만든 설명은 문장이 자연스럽고 구성이 잘 잡혀 있어 곧바로 사용하고 싶어집니다. 그러나 읽기 좋은 답변과 사실에 맞는 답변은 별도로 확인해야 합니다. 인공지능과 함께 일한다는 것은 질문하는 법을 익히는 데서 끝나지 않습니다. 어떤 결과를 초안으로 활용하고 무엇을 직접 확인할지 정하는 일이 뒤따릅니다.

유창함은 사실 확인을 대신하지 못합니다

미국 국립표준기술연구소의 『생성형 인공지능 프로파일』, AI 600-1(2024)은 생성 AI가 거짓이거나 잘못된 내용을 확신하는 형태로 제시하는 위험을 다룹니다. 문서에서는 이를 ‘confabulation’이라고 부릅니다. 자연스러운 어조 자체는 내용의 정확성을 보증하지 않습니다.

이 차이는 숫자나 출처가 붙은 답변에서도 중요합니다. 기관 이름이 익숙하고 논문 제목이 그럴듯해도 실제 자료를 열어 보기 전에는 근거가 확인된 상태가 아닙니다. 링크가 열리더라도 그 문서가 답변의 주장을 뒷받침하는지까지 읽어야 합니다.

검증은 틀린 답을 골라내는 일만 뜻하지 않습니다. 자료가 말한 범위보다 결론을 넓혔는지 확인하는 일도 포함합니다. 한 현장의 관찰을 모든 직업의 미래로 바꾸거나, 조건이 붙은 전망을 확정된 사실처럼 쓰면 원문에 있던 정보의 성격이 달라집니다.

초안을 맡길 때도 목적과 조건을 정합니다

AI를 활용하는 과정을 살펴보기 위해 동네 모임의 안내문을 만드는 상황을 가정해 봅시다. 작성자가 확인한 장소와 시간을 제공하고 문장 구성을 요청할 수 있습니다. 결과를 받은 뒤에는 실제 일정이 그대로 들어갔는지, 제공하지 않은 준비물이나 참가 조건이 추가되지 않았는지 확인합니다. 이는 실재하는 모임의 사례가 아니라 역할을 구분하기 위한 예시입니다.

이처럼 도구에 맡길 작업을 좁히면 무엇을 검사해야 하는지도 분명해집니다. “좋은 안내문을 써 달라”는 요청보다 독자, 목적, 사용할 사실과 추가하면 안 되는 내용을 정한 요청이 검토 기준을 세우기 쉽습니다. 그래도 결과를 읽는 과정은 남습니다.

AI가 제안한 내용을 받아들일 때는 제안과 확인된 사실을 구분해 두는 편이 좋습니다. 새로운 문구가 매력적이라는 이유만으로 실제로 제공하지 않는 서비스를 안내하거나 합의하지 않은 약속을 넣어서는 안 됩니다. 최종 문서를 사용하는 사람에게 필요한 것은 매끄러운 표현과 정확한 내용 모두입니다.

원문으로 돌아가는 확인 습관

답변을 검토할 때는 결론에 영향을 주는 주장부터 찾습니다. 숫자, 날짜, 제도, 연구 결과처럼 외부 근거가 필요한 부분을 표시하고 공개된 원문과 대조합니다. 원문에서 조건을 찾을 수 없다면 AI에게 같은 질문을 반복해 확신을 얻기보다 판단을 보류해야 합니다.

가령 “AI가 특정 직업을 대체한다”는 답을 받았다면, 근거가 실제 고용 변화인지 잠재적인 업무 노출도인지 확인해야 합니다. 두 자료는 서로 다른 질문에 답합니다. 자료의 발표 시점, 조사 대상, 사용한 개념을 확인하면 제목만 읽었을 때 놓치기 쉬운 차이를 발견할 수 있습니다.

검토의 깊이는 결과를 어디에 쓰는지에 따라 달라집니다. 개인적인 아이디어 목록과 다른 사람이 사실로 받아들일 안내문은 요구하는 확인 수준이 다릅니다. 오류가 다른 사람의 판단으로 이어지는 문서라면 표현을 다듬는 시간과 별개로 근거를 확인하는 시간을 확보해야 합니다.

사람이 맡는 판단을 분명히 합니다

AI의 답변을 사람이 한 번 읽었다고 검증이 끝나는 것은 아닙니다. 검토하는 사람에게도 내용을 이해할 지식과 확인할 자료가 필요합니다. 무엇을 확인했는지 설명할 수 있어야 실제 검토가 이루어진 것입니다.

공존의 출발점은 도구를 완전히 믿거나 모든 결과를 버리는 데 있지 않습니다. 초안을 만드는 작업, 근거를 대조하는 작업, 결과를 사용할지 결정하는 작업을 구분하는 데 있습니다. 이 구분을 지키면 AI의 도움을 받으면서도 최종 판단의 이유를 스스로 설명할 수 있습니다.

일에서 요구하는 능력의 변화는 전문성의 몰락에서, 전망과 관측을 구별하는 실제 읽기 사례는 대한민국 인구구조의 변화에서 이어서 살펴볼 수 있습니다.