AI 시대, 비판적으로 읽고 현명하게 기술을 활용하는 능력이 필요하다 | 나라경제

KDI 경제교육·정보센터

Economic Information and Education Center

발행물

특집

AI 시대, 비판적으로 읽고 현명하게 기술을 활용하는 능력이 필요하다

구본권 한겨레경제사회연구원 사람과디지털연구소장 2024년 03월호

특집 구본권.pdf

사람을 능가하는 언어능력을 학습한 오픈AI의 대화형 AI ‘챗GPT’의 등장에 대한 충격이 가라앉지 않고 있다. 챗GPT·제미나이·미드저니·딥엘·코파일럿 등 AI 도구가 순식간에 소설·그림·코딩·번역을 완성해 내고, 전문직 자격시험을 통과하는 사례를 보면서 불안과 공포도 확산하고 있다.

챗GPT와 같은 생성 AI에 대한 대응은 적극적인 활용과 차단, 제한적 사용 등으로 다양하게 나타나고 있다. 하지만 신기술 개발과 탐지 기술은 물고 물리는 관계이기 때문에, 긍정론과 부정론 어느 쪽도 안정적 승리를 담보할 수 없다. 공존만이 유일한 길이다.

챗GPT는 사실을 말하는 도구가 아니라
사실처럼 여겨질 만큼 자연스런 문장을 구성하는 도구

우리는 사람보다 빠르게 말하고 요약하고 정리해 내는 도구를 일찍이 만나본 적이 없다. 어떤 질문에든지 즉각 ‘모범답안’을 쏟아내는 ‘척척박사’ 도구와의 공존 방법을 알지 못했다. 더욱이 우리 사회 시스템과 일상은 ‘오직 사람만이 생각하고 정리하고 말하는 역할을 수행할 수 있다는 것’을 전제로 굴러가고 있었다.

챗GPT 환경에선 각종 시험과 글쓰기, 교육제도 영역만 혼란에 빠지는 게 아니다. 개인과 사회가 담당해 온 대부분의 영역에서 처음 겪어보는 혼란이 생기게 될 것이고, 나아가 아노미(규범부재) 현상이 일어날 우려도 있다. 따라서 대화형 AI의 특징과 장단점을 파악하고 인지해야 개인과 사회가 충격을 넘어 저 강력한 도구를 제대로 활용하고 대응할 수 있을 것이다.

챗GPT가 충격으로 다가온 이유는 사람처럼 다양한 주제에 유연하고 자연스럽게 대화하고, 무엇이든지 요약·정리를 해내는 능력이 뛰어난 도구라는 점이다. 그러나 이러한 충격은 대화형 AI에 대한 피상적이고 잘못된 이해에서 생겨났다. 무엇보다 챗GPT는 사실을 말하는 도구가 아니라 사실처럼 여겨질 만큼 자연스럽게 문장을 구성해 내는 도구다.

챗GPT는 방대한 데이터를 학습해 해당 문장과 단어가 어떠한 문맥과 의미에서 쓰였는지를 파악하는 능력을 갖추고 있어 제법 자연스러운 대화를 구성해 내는 것이지, 사실에 기반한 문장을 작성해 내는 것이 아니라는 의미다. 챗GPT의 기반 기술은 사전 훈련된 생성 트랜스포머(Generative Pre-trained Transformer)다. 트랜스포머는 문자메시지의 자동완성 기능처럼 문장에서 단어 다음에 이어질 단어와 문장을 ‘예측’하는 알고리즘이다.

또한 챗GPT는 모든 질문에 자연스러운 문장을 구사하며 막힘없이 답변하지만, 사전에 학습·훈련된 데이터를 기반으로 하고 있어 최근 상황과 정보를 반영하지 못한다. 방대한 데이터에서 답변 내용을 조합해 만들어내지만 출처와 근거를 제시하지 않아 사람이 사실 여부를 가려내기 어렵다. 황당한 거짓말을 그럴듯하게 들리도록 꾸며내는 ‘환각 현상(hallucination)’은 챗GPT와 같은 생성 AI의 기술적 특징이다.

문제는 우리가 이러한 생성 AI가 제공하는 그럴듯한 말과 이야기, 논리에 쉽게 속거나 동조하고, 혐오와 분노를 표출할 가능성이 높다는 점이다. 과거엔 누군가를 속이기 위해서 또는 작가가 소설을 쓰기 위해서는 오랜 시간과 노력을 들여 정교한 구조를 만들어야 했지만, 생성 AI 기술은 이런 비용을 0에 가깝게 만들었다. 이는 인터넷이 사실 아닌 이야기 또는 허위 정보로 넘쳐나는 공간이 될 수 있다는 것을 시사한다.

AI 리터러시 갖추지 못하면
개인별·집단별로 대립하는 불행 맞게 될 수도

대화형 AI는 사람들이 만들어낸 정보와 데이터를 학습하는 속성상 사람들의 행동과 마음을 비추는 거울 역할을 한다. 사용자의 의도에 따라 작동하기 때문에 AI를 오용·남용·악용, 즉 어뷰징(abusing)하려는 시도는 AI를 위험하고 사악한 도구로 기능하게 한다. 미국 소크생물학연구소의 컴퓨터공학자 테렌스 세즈노프스키는 “당신이 찾는 것이 무엇이든, 원하는 것이 무엇이든 AI는 그것을 제공할 것”이라고 말한다.

챗GPT와 같은 대화형 AI는 앞으로 더욱 많은 서비스에 결합해 일찍이 경험하지 못한 편리함을 제공할 것이다. 이는 AI를 이용해 데이터를 만들거나 작업을 지시하는 문턱이 낮아지는 것을 의미한다. 기존에는 해당 분야 종사자와 전문가들의 전유물이던 영역이 앞으로는 언어를 사용할 수 있는 모든 사람에게 개방되기 때문이다.

또한 챗GPT는 앞으로 AI 범용화 시대가 닥친다는 것과 함께 그 환경을 살아가기 위한 ‘필수적 능력’을 우리 모두 갖춰야 한다는 것을 알려준다. 바로 AI 기술의 특성과 장단점을 파악하고 그에 적응하는 능력이다. 챗GPT 시대엔 무엇보다 이용자의 비판적 사고와 사실 검증 능력이 요구된다. 현재의 챗GPT에 머무를 수도 없다. 앞으로 AI 기술이 발달하며 새로운 기능과 모습이 구현될 때마다 사용자에게는 그 기술을 유용하게 사용하기 위한 새로운 리터러시 능력이 요구된다.

AI 세상을 비판적으로 읽어내고 현명하게 기술을 활용할 줄 아는 능력이 ‘AI 리터러시’다. 이를 갖추지 못하면 이용자는 최신 도구를 설계하고 조작하는 소수집단에 이용당하며, 사회는 개인별·집단별로 극한으로 대립하는 불행을 맞이하게 될 수 있다. 근대 시민사회는 읽기, 쓰기, 셈하기 능력을 갖춘 근대적 시민을 길러내기 위해 공교육을 시민의 의무로 도입했다. 오늘날의 AI 시대에는 근대적 시민과 다른 새로운 능력이 모두에게 요구된다. ‘AI 리터러시’가 개인적 차원만이 아니라, 사회적 차원에서 시민들에게 이뤄져야 할 필수 역량교육인 이유다. 우리 모두가 AI 리터러시 함양과 학습에 적극적으로 나서야 할 시점이다.

목록보기