AI 이슈: AI 맹신의 폐해 , 필요한 리터러시
"AI가 사람을 바보로 만든다?"
몇 주 전, AI와 업무의 미래에 대한 기조연설을 마친 후 청중 중 누군가가 손을 들고 저에게 질문했습니다.
"남아프리카의 한 변호사가 법률 조사에 ChatGPT를 사용했는데 법정에서 지어낸 판례를 인용한 것에 대해 어떻게 생각하세요? 이렇게 중요한 문제를 AI에 맡겨도 될까요?"
정말 어려운 질문이었어요.
저는 신중하게 대답했습니다. 네, 인공지능은 환각에 빠지는 경향이 있지만 인간도 어리석은 경향이 있다는 사실을 잊지 말아야 한다고요.
(물론 실제로 입 밖으로 내뱉은 말은 아니었지만 마음속으로는 그렇게 생각하고 있었어요…ㅋㅋ)
판사 앞에 서서 자신의 주장 전체가 인공지능이 만들어낸 말도 안 되는 주장에 근거하고 있다는 사실을 깨닫는다고 상상해 보세요.
저는 이 질문에 대해 AI의 '환각'(일명 병적인 거짓말쟁이처럼 정보를 조작하는 것) 경향을 인정하면서 외교적인 답변을 했습니다.
AI도 실수를 할 수 있지만, 진짜 문제는 인간이 비판적 사고를 멈추고 AI가 뱉어내는 모든 것을 맹목적으로 신뢰하는 것이라고 설명했습니다.
문제의 변호사는 AI에 속아서 실패한 것이 아닙니다. 그는 AI의 결과를 사실 확인하지 않았기 때문에 실패한 것입니다.
AI는 놀라운 도구이지만 단지 도구일 뿐입니다. 이 도구에 지나치게 의존하면 비판적 사고력이 약해집니다. 바로 이것이 문제예요.
사람들이 사실이나 맥락을 확인하지 않고 AI의 답변을 그대로 베끼면 잘못된 결정이 뒤따릅니다. 의료, 금융, 교육과 같은 분야에서는 비효율적일 뿐만 아니라 위험해요.
기술은 항상 인간의 감독이 필요했지만, 이제는 많은 사람들이 AI를 보조자로 사용하는 대신 모든 작업을 AI에게 맡기고 있습니다.
조심하지 않으면 새로운 시도나 창의적인 발전이 멈출 수 있어요.
진정한 새로운 변화에는 비판적 사고, 시행착오, 상상력이 필요합니다. AI는 시행착오를 거치지 않고 과거 데이터를 기반으로 무엇이 효과가 있을지 예측할 뿐이에요.
모두가 AI의 아이디어가 떠오르기를 기다린다면 누가 실제로 새로운 변화를 만들어낼 수 있을까요?
AI로 인한 '바보화'?
AI로 인한 '바보화'는 사람들이 스스로 질문하거나 검증하거나 생각하지 않고 AI 도구에 너무 많은 생각을 맡기고 기계의 결과물을 맹목적으로 신뢰하거나 모방하거나 의존할 때 발생하는 인지 기능 저하를 말합니다.
- ChatGPT가 "이미 알고 있기 때문에" 비판적인 사고를 멈춰요.
- Google과 AI가 정보를 가져오기 때문에 기억을 멈춰요.
- 요약만 스캔하기 때문에 깊이 있는 학습을 중단해요.
- 알고리즘이 추천하기 때문에 결정을 내리는 것을 멈춰요.
AI는 우리를 바보로 만들지 않습니다. 하지만 인공지능에 지나치게 의존하는 것은 우리를 바보로 만들어요.
AI 맹신의 폐해 7가지 징후
그렇다면 AI가 우리를 조용히 멍청하게 만들고 있는지 어떻게 알 수 있을까요? 다음은 AI로 인한 멍청함의 7가지 징후와 이를 피하는 방법입니다.
- AI 결과에 대한 맹목적인 신뢰
사람들은 AI가 만든 콘텐츠를 마치 절대적인 진리처럼 인용하고 있어요. 자신감 있게 들리고 거창한 단어를 사용했다면 틀림없이 맞을 거라고 생각하죠. 하지만 AI는 예측 기계이지 진실 기계가 아닙니다. 완벽한 문법으로 사실을 조작할 수 있어요.
문제는 잘못된 정보가 아닙니다. 인위적인 확신이 문제예요. AI가 상사가 아닌 인턴이라고 생각해 보세요. 사용하기 전에 AI가 제공하는 모든 정보를 검토하세요.
AI가 만든 콘텐츠를 검증하지 않는다면 신뢰도를 가지고 러시안 룰렛을 하는 것과 같아요.
- 점점 사라지는 호기심
더 이상 후속 질문을 하지 않는 사람들이 점점 더 많아지고 있어요. 이들은 첫 번째 답변이 모호하거나 일반적인 내용일지라도 그대로 받아들입니다. 한때 새로운 발전의 원동력이었던 호기심은 이제 자동 완성에 맡겨지고 있어요.
AI는 호기심을 대체하는 것이 아니라 호기심을 자극해야 해요.
- 점점 나빠지는 창의력
창의력은 복사-붙여넣기가 아닙니다. 하지만 끝없이 쏟아지는 AI 도구 세상에서 독창적인 사고는 "틀에 박힌 사고"로 바뀌고 있어요. 사람들은 아이디어를 내는 것이 아니라 단지 자극을 받고 있을 뿐이에요.
먼저 아이디어를 떠올린 다음 AI를 사용하여 아이디어를 다듬는 것이지, 그 반대는 하지 마세요.
편리함의 제단에서 상상력이 사라지면 우리 모두는 손해를 봐요.
- '환각' 내용 전파
사람들은 완전히 꾸며낸 인공지능 콘텐츠를 인용하지만, 너무 전문적이어서 아무도 알아채지 못해요. 이것이 바로 거짓 이야기가 퍼지는 방식입니다.
AI에 의문을 제기하지 않는다면 여러분은 환각의 전달자가 돼요.
- 프롬프트 의존성
이것은 미묘하지만 위험한 현상이에요. 사람들은 이제 "이 문제를 해결하는 가장 좋은 방법은 무엇인가요?"라고 묻는 대신 "어떤 프롬프트를 입력해야 하나요?"라고 물어요. 모든 문제를 생각하는 문제가 아닌 프롬프트 문제로 생각합니다.
- 프롬프트 없이 글쓰기
- 제안 없이 브레인스토밍하기
- ChatGPT에게 묻지 않고 문제를 해결하는 데 어려움을 겪고 있어요
우리는 더 이상 AI를 훈련시키지 않아요. AI는 우리를 무력하게 훈련시키고 있습니다. 망치는 영웅이 아니에요. 두뇌가 주인공입니다.
- 잘못된 전문성 감각
얕은 지식은 어디에나 있어요. 사람들은 많은 것에 대해 조금은 알고 있지만 깊이 있게 설명하거나 분석하지 못해요. AI는 넓은 지식을 제공하지만 진정한 이해를 위해서는 더 깊이 들어가야 합니다.
많은 사람들이 실제로 해당 주제를 이해하지 못한 채 노련한 전문가와 같은 확신으로 AI를 인용해요. 그들은 결과와 통찰력을 헷갈려 해요.
AI는 답을 줍니다. 그렇다고 해서 그 답을 이해한다는 뜻은 아니에요. 정보를 얻는 것과 교육을 받는 것은 달라요.
여러분은 자신의 작업을 설명할 수 없어요. AI가 보고서를 작성했어요. AI가 이메일을 작성했어요. AI가 프레젠테이션을 만들었어요.
이제 누군가 방금 '만든' 것을 설명해 달라고 요청하면, 당신은 헤드라이트에 걸린 사슴처럼 그들을 쳐다보게 돼요.
이제 정보는 저렴해졌어요. 지혜에는 여전히 노력이 필요해요.
- 점점 사라지는 독창적 사고
모두가 같은 도구를 사용하고, 같은 데이터로 훈련받고, 비슷한 방식으로 프롬프트를 받으면 결국 똑같은 것의 바다에 빠지게 돼요. 콘텐츠, 아이디어, 전략이 서로 재활용된 메아리처럼 느껴지기 시작해요.
인공지능은 여러분의 일자리를 빼앗는 것이 아닙니다. 빼앗기도록 놔둬버리는 게 진짜 문제죠.
AI 맹신의 폐해 해결책
좋은 소식이 있어요! 이 문제에는 해결책이 있답니다. 그 해결책은 다른 앱에서 찾을 수 있는 게 아니라, 여러분의 생각하는 방식에서 찾을 수 있어요.
- 의심하는 마음 갖기
무조건 믿지 마세요. 꼭 확인해보세요. AI는 도구일 뿐이지 진실을 알려주는 곳이 아니에요. 항상 사실을 확인하고, 의문을 제기하고, 질문을 던져보세요.
의심하는 마음은 부정적인 게 아니에요. 자신을 지키는 방법이랍니다.
- 비판적으로 생각하기
그냥 받아들이기만 하지 마세요. 분석하고 질문해보세요:
- 이게 말이 되나요?
- 여기서 빠진 것은 무엇인가요?
- 이 답변 때문에 피해를 볼 수 있는 사람은 누구인가요?
이런 질문들을 통해 수많은 정보 중에서 진짜 중요한 것을 걸러내는 능력을 기를 수 있어요.
- 창의적으로 생각하기
AI를 운전자가 아닌 부조종사로 활용하세요. 다양한 가능성을 열어두되, 여러분만의 독창성을 다른 곳에 맡기지는 마세요. 사람의 창의성은 복잡하고 감정적이며 때로는 비합리적이기 때문에 오히려 가치가 있는 거예요.
- 판단력 기르기
AI가 만든 콘텐츠가 넘쳐나는 세상에서 판단력은 정말 중요해요. 이건 중요하지 않은 것과 가치 있는 것을, 편의와 진실을, 자동화와 의도를 구분할 수 있는 능력이에요. 언제 도구를 믿고 언제 직감을 믿어야 하는지를 아는 것이죠.
AI는 무한한 가능성을 만들어낼 수 있지만, 어떤 것이 가장 중요한지는 알려줄 수 없어요. 그건 여러분이 해야 할 일이에요.
판단력은 항상 옳은 결정을 내리는 것이 아니에요. "지금 이 순간, 이 상황, 이 사람들에게 이 방법이 맞는 건가?"라고 묻는 것이랍니다.
인간적인 마음을 잃지 마세요
AI를 사용하되, AI가 여러분을 이용하지 않도록 하세요.
AI를 사용하는 가장 현명한 방법은 책임감 있고 비판적으로 사용하는 것이에요. AI를 똑똑하지만 완전히 믿을 수는 없는 인턴처럼, 뛰어난 통찰력을 얻을 수 있지만 항상 지켜봐야 하는 존재로 여겨보세요.
이제 여러분 자신이나 다른 사람에게서 이런 모습을 본 적이 있나요?
여러분이 본 가장 황당한 AI 실수는 무엇인가요?
임패커스 블로그 | 공급망 AI 활용 사례 보러가기
출처: Nicky Verd, Linkedin, "The Rise of AI-Induced Stupidity: How to Spot It and Stop It", https://www.linkedin.com/pulse/rise-ai-induced-stupidity-how-spot-stopit-nicky-verd-nfp1f, (2025.04.25)