AI 쓸수록 멍청해진다? (인지부채, 메타인지, AI Surfer)
AI를 쓰면 쓸수록 더 똑똑해져야 하는 것 아닌가요? 그런데 MIT 연구 결과는 반대 방향을 가리킵니다. 챗GPT를 사용한 그룹의 뇌 신경 연결성이 가장 낮게 측정됐고, 그 그룹의 83%는 자신이 쓴 글에서 단 한 문장도 정확히 인용하지 못했습니다. 저도 올해 초부터 업무 거의 전부를 AI로 돌리다가 6개월쯤 지나서 비슷한 느낌을 받았습니다. 결과물은 나오는데, 정작 내용은 제가 모르는 상황이 생기기 시작한 것입니다.
AI가 내 대신 생각하기 시작했을 때 생긴 일
계획서 작성, 내부 보고, 메일, 논문 요약, 발표 스크립트까지 — 올해 초부터 업무 대다수를 AI로 처리하기 시작했습니다. 처음엔 정말 좋았습니다. 스트레스가 줄고, 결과물 퀄리티는 올라가고, 속도도 빨라졌으니까요. 할루시네이션(hallucination), 즉 AI가 없는 사실을 그럴듯하게 지어내는 오류도 예전보다 확연히 줄어든 느낌이었습니다.
그런데 6개월이 지나면서 이상한 일이 생겼습니다. 제가 직접 잘하게 된 건 AI 도구를 다루는 요령, 그러니까 기능적인 측면뿐이었습니다. 프롬프트조차 AI한테 맡기다 보니 실제로 제가 하는 일은 복붙 수준으로 줄어들었습니다. 심지어 결과물을 상대방에게 전달한 뒤에야 내용을 읽는 경우도 생겼습니다. 마치 다른 직원이 쓴 문서를 내용도 모른 채 전달하는 전달자 역할만 하고 있던 셈입니다.
MIT 미디어 랩의 2023년 연구는 이 현상을 '인지 부채(cognitive debt)의 누적'이라고 이름 붙였습니다. 인지 부채란 AI에게 사고를 위탁할수록 뇌가 스스로 처리하는 능력을 잃어가는 상태를 말합니다. 연구에서 더 충격적이었던 건, 챗GPT 그룹에서 AI 도구를 빼앗아도 뇌 신경 연결성이 회복되지 않았다는 점입니다. 한번 쌓인 인지 부채는 그냥 사라지지 않는다는 의미입니다(출처: MIT Media Lab).
전문성과 메타인지가 없으면 AI는 그냥 복권이다
제가 업무에서 직접 느끼는 게 있습니다. 제가 잘 아는 분야에서 AI에게 질문하면, 답변이 너무 브로드(broad)하다는 느낌이 듭니다. 특정 분야의 특수성을 물어봐야 하는데 일반화된 교과서 같은 답변이 돌아오는 경우가 많습니다. 그 분야를 모르는 사람이 보면 완벽한 답으로 보이겠지만, 실제로 그 업계에 있는 사람 눈에는 맥락이 빠진 답이라는 게 바로 보입니다.
이게 바로 자기 분야의 전문성이 중요한 이유입니다. 마이크로소프트 리서치와 카네기 멜런 대학교의 공동 연구에 따르면, AI에 대한 신뢰가 높을수록 비판적 사고는 줄어들지만, 자기 자신에 대한 자신감이 높을수록 비판적 사고는 오히려 활발해지는 것으로 나타났습니다. 전문성이 있어야 AI 답변을 그냥 수용하지 않고 검증하고 다듬을 수 있다는 뜻입니다(출처: Microsoft Research).
여기서 핵심 개념이 메타인지(metacognition)입니다. 메타인지란 '내가 무엇을 알고 무엇을 모르는지 아는 능력'을 말합니다. 실제로 AI 성능은 활용하는 사람의 지식 수준에 비례한다는 말이 있는데, 저도 써보면서 실감했습니다. 내가 아는 범위 안에서만 질문하게 되고, 모르는 분야는 애초에 어떻게 물어봐야 할지조차 모릅니다. 결국 질문도 뭘 모르는지 알아야 할 수 있는 것입니다.
메타인지가 높은 사람은 AI를 정확한 위치에 배치합니다. 자신이 확실히 아는 부분은 스스로 처리하고, 모르는 부분만 정확히 물어 AI에게서 답을 끌어낸 뒤, 그 답을 자기 언어로 재구성합니다. 이 과정에서 진짜 학습이 일어납니다.
- 자기 분야를 잘 알아야 AI 답변의 빈틈이 보인다
- 메타인지가 높을수록 AI를 쓸 위치와 쓰지 않을 위치를 구분할 수 있다
- 모르는 부분만 정확히 질문할 때 AI는 비로소 제 역할을 한다
- 전문성 없이 AI를 신뢰하면 그럴듯하지만 틀린 답을 걸러낼 수 없다
프롬프트 설계, 생각을 정리하는 행위다
AI에서 나오는 답의 품질은 질문의 품질에 정비례합니다. 이건 써보면 바로 느낍니다. 같은 주제라도 어떻게 묻느냐에 따라 결과물의 깊이가 완전히 달라집니다. 그런데 저는 한동안 프롬프트조차 AI에게 맡겼습니다. AI가 만든 프롬프트로 AI에게 다시 묻는 구조였던 거죠. 결과물은 나왔지만, 사고 과정이 전혀 없는 자동화였습니다.
마이크로소프트 리서치 연구는 목표 설정과 질문 형성 단계가 비판적 사고가 가장 활발하게 일어나는 순간임을 밝혔습니다. 즉, 프롬프트를 직접 작성하는 과정 자체가 사고 훈련입니다. AI는 인간과는 근본적으로 다른 메커니즘으로 작동하는 존재이기 때문에, 우리의 맥락과 배경지식이 자동으로 전달되지 않습니다. 모든 것을 명시적으로 풀어서 설명해야 하고, 이 과정에서 오히려 자신의 생각이 정리됩니다.
솔직히 이건 예상 밖이었습니다. 좋은 프롬프트를 쓰려고 고민하다 보면, 내가 원하는 게 뭔지, 내가 모르는 게 어디부터인지가 더 선명해지는 경험을 합니다. 프롬프트 설계(prompt engineering)는 단순히 AI를 잘 다루는 기술이 아니라, 자기 사고를 구조화하는 훈련이기도 합니다. 여기서 프롬프트 엔지니어링이란 AI로부터 원하는 결과를 끌어내기 위해 질문의 구조와 표현을 설계하는 능력을 말합니다. 도구를 잘 쓰려면 도구에게 내 의도를 정확히 전달할 수 있어야 하고, 그러려면 먼저 내 의도가 나 자신에게 명확해야 합니다.
AI를 쓰지 않는 시간이 AI 활용력을 결정한다
지난 주부터 방식을 바꿨습니다. AI가 만들어준 결과물을 롤모델 삼아 일부 업무는 직접 쓰기 시작했고, 독서 시간도 의도적으로 늘리고 있습니다. 영어 스피킹 연습도 AI와 프리토킹으로 자투리 시간에 하고 있는데, 사람 앞에서 느끼는 어색함과 긴장감이 줄어드는 효과가 있더라고요. 작은 변화지만 방향이 달라지면 결과도 달라질 것이라 믿고 있습니다.
MIT 미디어 랩 연구에서 흥미로운 결과가 하나 더 있었습니다. 처음부터 도구 없이 직접 글을 쓰던 그룹에게 나중에 챗GPT를 줬더니, 오히려 더 다양한 뇌 영역이 활성화되고 정교한 프롬프트 전략을 구사했습니다. 자기 머리로 먼저 사고하는 근육을 키운 사람이 AI까지 쥐었을 때 진짜 시너지가 난다는 의미입니다. 반대로 처음부터 AI에 의존해서 인지 부채가 쌓인 사람은 AI를 빼앗겨도 회복이 어려웠습니다.
하버드 비즈니스 스쿨이 보스턴 컨설팅 그룹 컨설턴트 758명을 대상으로 실험한 결과도 비슷한 방향입니다. AI 능력 범위를 벗어난 과제에서 AI를 사용한 그룹이 사용하지 않은 그룹보다 정답률이 19%포인트 낮게 나왔습니다. 연구진은 이를 '운전석에서 잠들기'라고 불렀습니다. AI가 그럴듯하지만 틀린 답을 내놓을 때 그냥 수용해버리는 상태를 말합니다. 이 현상이 무서운 건, 더 좋은 성능의 AI를 받은 사람일수록 오히려 더 안 좋은 결과를 냈다는 점입니다. 신뢰가 높을수록 검증을 안 하기 때문입니다.
결국 AI를 쓸수록 똑똑해지는 사람이 되려면, AI를 쓰지 않는 시간이 반드시 필요합니다. 독서, 사색, 직접 써보는 경험까지 AI에게 맡기는 순간, 우리는 도구의 주인이 아니라 도구의 부속품이 됩니다. 제 경험상 이건 좀 다릅니다 — 자동화가 잘 될수록 오히려 의도적으로 불편한 시간을 만들어야 한다고 생각합니다.
자주 묻는 질문
Q. AI 많이 쓰면 진짜 머리가 나빠지나요?
A. MIT 미디어 랩 연구에 따르면, AI에 과도하게 의존할수록 뇌 신경 연결성이 약해지고 인지 부채가 쌓이는 경향이 확인됐습니다. 다만 전부가 아닙니다. 전문성과 메타인지를 갖춘 상태에서 AI를 비판적으로 활용하는 사람들은 오히려 사고력이 향상되는 결과도 같은 연구에서 나왔습니다. 어떻게 쓰느냐가 결과를 가릅니다.
Q. 프롬프트 잘 쓰는 방법이 따로 있나요?
A. 가장 중요한 건 AI에게 맥락을 명시적으로 전달하는 것입니다. AI는 우리의 배경지식과 의도를 자동으로 알지 못하기 때문에, 역할, 목적, 조건을 구체적으로 써줄수록 답변 품질이 올라갑니다. 프롬프트 엔지니어링 자체가 자기 사고를 구조화하는 훈련이기도 하니, AI에게 프롬프트를 맡기기보다 직접 쓰는 연습이 장기적으로 더 도움이 됩니다.
Q. AI 답변을 어느 정도까지 믿어도 되나요?
A. AI는 본질적으로 다음에 올 단어를 통계적으로 예측하는 언어 모델(LLM)입니다. 즉, 진실과 거짓을 구분하는 능력이 없고, 그럴듯하지만 미묘하게 틀린 답을 내놓는 경우가 있습니다. 하버드 비즈니스 스쿨 실험에서 AI를 사용한 컨설턴트들이 특정 과제에서 정답률이 19%포인트 낮게 나온 것도 이 때문입니다. 내용을 아는 분야일수록 직접 검증하는 습관을 갖는 것이 필요합니다.
Q. AI 시대에 독서가 왜 중요한가요?
A. 독서는 AI 없이 스스로 사고하는 근육을 키우는 대표적인 방법입니다. MIT 연구에서 도구 없이 먼저 글을 쓰던 그룹이 나중에 AI를 받았을 때 오히려 더 뛰어난 활용 능력을 보인 것처럼, 자기 머리로 먼저 사고하는 훈련이 쌓여야 AI를 제대로 다룰 수 있습니다. 문해력과 사고력이 높을수록 AI에게 더 좋은 질문을 던질 수 있고, AI가 내놓는 답의 허점도 더 잘 잡아낼 수 있습니다.
결론
AI를 쓸수록 똑똑해지는 사람과 멍청해지는 사람의 차이는 도구의 성능이 아니라 도구를 대하는 태도에 있습니다. 전문성과 메타인지, 직접 설계하는 프롬프트 습관, 그리고 AI를 의도적으로 내려놓는 시간. 이 세 가지가 균형을 이룰 때 비로소 AI는 나를 갉아먹는 도구가 아니라 나를 확장하는 도구가 됩니다.
저도 아직 가는 중입니다. 지난 6개월간 효율만 좇다가 인지 부채를 쌓았다면, 앞으로 6개월은 독서와 직접 쓰기로 그 빚을 조금씩 갚아가려 합니다. AI Surfer, 즉 AI라는 파도를 올라타되 휩쓸리지 않는 사람이 되는 것이 지금 제 목표입니다.
댓글
댓글 쓰기