낱말 맞히기 기계
"아침에 일어나서 세수를 하고 ___" 다음에 올 말을 떠올려 보자. 밥을 먹고, 출근을 하고, 옷을 입고 — 몇 개가 자연스럽게 떠오른다. "우주선을 조립했다"는 떠오르지 않는다. 불가능해서가 아니라 그럴 법하지 않아서다.
AI가 하는 일이 정확히 이것이다. 엄청난 양의 글을 읽고 "이런 말 뒤에는 보통 이런 말이 온다"는 확률을 익혔다. 질문을 넣으면 답을 찾아오는 것이 아니라, 답처럼 보이는 문장을 한 낱말씩 이어 붙인다.
AI에게 "그 책 몇 쪽에 그 문장이 나오느냐"고 물으면, 모르더라도 모른다고 하지 않는다. 쪽수처럼 생긴 숫자를 아주 그럴듯하게 지어낸다. 거짓말을 하려는 것이 아니다. 애초에 "안다/모른다"를 가려내는 장치가 없고, 그럴듯한 다음 낱말을 잇는 일만 한다. 이것을 환각(hallucination) 이라고 부른다.
그런데 왜 이렇게 쓸모가 있나
우리가 하는 일 중 상당수가 사실 "그럴듯한 다음"을 잇는 일이기 때문이다. 받은 글을 요약하고, 말투를 다듬고, 영어 설명서를 한국어로 옮기고, 코드의 빠진 괄호를 찾는 일. 여기에는 어딘가에 숨은 정답이 필요하지 않다. 이미 앞에 주어진 내용을 다시 짜 맞추는 일이다.
반대로 "우리 집 지난달 전기 사용량은?" 같은 질문은 AI가 원리상 할 수 없는 일이다. 그 숫자는 어느 글에도 쓰여 있지 않고, AI는 검색하는 기계가 아니라 잇는 기계다. 고지서를 사진으로 주면 읽어서 계산은 한다. 주지 않으면 지어낸다.
잘하는 일과 못 하는 일
| 잘한다 | 못한다 |
|---|---|
| 준 자료를 요약·정리·번역 | 주지 않은 사실을 기억해 내기 |
| 초안 만들기 (메일·글·코드) | 정확한 계산 (도구 없이 암산하듯) |
| 형식 바꾸기 (표 → 문장, 문장 → 표) | 오늘 일어난 일 (배운 시점 이후) |
| 빠진 것·어긋난 것 찾기 | "내가 맞나?" 스스로 판단하기 |
| 여러 안을 빠르게 벌려 보기 | 책임지기 — 확인은 결국 사람 몫 |
부품 하나의 정확한 제품명을 물어 그대로 주문할 뻔한 적이 있다. 답은 아주 그럴듯했고, 실제 제품 페이지의 표기와는 글자 하나가 달랐다. AI는 모르면 가장 그럴듯한 모양을 만든다. 제품명·모델명·규격은 언제나 판매 페이지나 설명서로 확인한다 — 이것은 요령이 아니라 원칙이다.
정리 — 세 줄
- AI는 다음 낱말을 잇는 기계다. 찾아오는 기계가 아니다.
- 그래서 준 자료 안에서 하는 일은 잘하고, 주지 않은 사실은 지어낸다.
- 확인은 사람이 한다. 확인하는 방법을 만드는 것이 이 교육의 절반이다.
- 집에 있는 가전이나 물건 하나의 정확한 모델명을 물어본다. 예: "우리 집 ○○ 세탁기 모델명이 뭐야?"
- 답이 나오면 실제 제품 스티커나 설명서와 글자 하나까지 대조한다.
- 이번에는 제품 스티커 사진을 붙이고 같은 것을 묻는다. 두 답이 어떻게 다른지 본다.
첫 답은 지어낸 것이고 둘째 답은 읽은 것이다. 이 편의 전부가 그 차이다.
AI 는 질문을 받으면 답을 어디서 찾아오나?
찾아오지 않는다. 답처럼 보이는 문장을 한 낱말씩 이어 붙인다. 그래서 준 자료 안에서 하는 일은 잘하고, 주지 않은 사실은 지어낸다.
"우리 집 지난달 전기 사용량은?" 에 답하지 못하는 이유와 해법은?
그 숫자는 어느 글에도 없기 때문이다. 고지서를 사진으로 주면 읽어서 계산한다.
제품명·규격을 AI 가 알려 준 대로 써도 되나?
아니다. 판매 페이지나 설명서로 확인한다. 모르면 가장 그럴듯한 모양을 만들기 때문이다.
다음 편에서는 이 기계가 언제 배우고 언제 쓰이는지 — 대화로 가르쳐도 왜 바뀌지 않는지 — 를 본다.