top of page

확률적 앵무새 혹은 거짓말쟁이로서의 인공지능 / 오영진

최종 수정일: 2023년 10월 18일


생성인공지능과의 채팅 경험은 자연어로 기계에게 묻고, 자연어로 대답을 받는 과정이 어린 시절 SF영화에서 과학자들이 컴퓨터를 사용하는 방식처럼 느껴져 흥미로웠다. 무엇이든 그럴듯하게 대답해 주는 이 기술은 내가 마치 초월적 존재와 대화하는 것처럼 착각하게 만든다. 일전에 라디오 방송에 쓸 원고 때문에 급히 찾아보아야 하는 참고사항이 있었다. 거의 10년 전에 읽었던 에두아르트 푹스의 <풍속의 역사>에 언급된 내용이었는데 내 기억에는 바로크 시대에 잠들기 전 거울 앞에서 눈물을 짓는 연습을 하는 유럽의 어떤 관습에 대한 것이었다. 구글로 검색해 보니, 엉뚱한 바로크 시대 가구와 건축물만 잔뜩 검색되거나 눈물짓기의 카타르시스에 대한 일반론적 언급만 있을 뿐 그 이상의 접근이 어려웠다. Open AI의 플레이그라운드에 물어보기로 했다.


나: “바로크 시대에 잠들기 전, 거울 앞에서 눈물짓는 연습을 하는 관습에 대해 말해줘”
인공지능: “18세기 네덜란드에는 크라잉픽처(Crying Pictures)라는 장르가 존재했다. 눈물을 흘리는 자 혹은 자신을 반영하는 그림이었다. 그들은 눈물짓기를 통해 자기 자신이 정화된다고 느꼈다.”

너무 반가운 나머지 엄격한 교차 검증을 못하고 이 대답을 덥석 받아들였다. 에두아르트 푹스의 책에서 읽은 기억이 있으니 한번 더 확인이 필요한 차에 비슷한 내용을 보고 확신이 선 것이다. 인공지능의 대답에 나는 그날 방송에서 바로크 시대를 감정과잉의 시대라고 평가하며, 잠자기 전 거울 앞에서 눈물짓거나 그 모습을 그림으로 남기는 유행이 있다고 말했다. 전반적으로 바로크 시대를 감정과잉으로 평가한 것은 온당했다. 한달 뒤 나는 다시 이 개념에 세세하게 접근하고 싶었다.

나: “바로크 시대에 잠들기 전, 거울 앞에서 눈물짓는 연습을 하는 관습에 대해 말해줘”
인공지능: “그러한 관습은 없다. 하지만 인간은 언제나 거울 앞에서 눈물 짓는 일이 다른 사람의 감정을 이해하는 훈련방법이라고 생각했다.“

당황해서 다시 물었다. 대답의 임의성을 조금 높여 조정했다.

나: “바로크 시대에 잠들기 전, 거울 앞에서 눈물짓는 연습을 하는 관습에 대해 차근차근 말해줘”
인공지능: “바로크 시대는 과잉의 시대였고 거울을 보고 우는 사람들은 외모에 불만이 있어서 그렇게 했을 가능성이 크다. 그들은 과체중이거나 여드름이 있거나 단순히 원하는 만큼 매력적이지 않아서 우는 것일 수 있다.”

순간 인공지능이 지금 말을 임의적으로 만들어내고 있다는 판단이 들었다. Temperature라는 항목을 통해 단어조합의 임의성을 높이거나 줄일 수 있긴 하지만 그 수치를 낮춘다고 해서 절대적으로 검증된 진실된 말을 하는 것이 아니었다. 인간 질문자가 한 질문에 들어있는 프레임이나 내용을 그대로 수용하면서 적당히 괜찮은 대답을 하는 방식으로 언어학습을 하다 보니, 위와 같은 특수한 질문에는 절대적 부정이나 일반적인 답변을 하고 있는 것이다. 반대로 임의성을 높이고 차근차근 대답하라는 논리적 절차성을 요구하니 전혀 되지도 않는 넘겨짚기 시도를 하는 것이다. 결국 <풍속의 역사>를 샅샅이 뒤져 해당 내용을 확인했다. 분명 바로크 시대의 감정과잉에 대한 묘사가 있었다. 그러나 네덜란드의 크라잉픽처(Crying Pictures)라는 장르에 대한 언급은 찾을 수 없었고, 이후에도 구글 검색으로도 찾지 못했다. 나는 사람같이 말하는 인공지능 앞에 철저히 농락당했던 셈이다.

GPT3 모델의 두려운 점은 인간처럼 대답한다가 아니라 인간인 척 대답한다는 점이다. 때문에 인공지능 커뮤니티에는 바로 이러한 특징 때문에 이 기술을 사용함에 있어 분명히 그 원리를 이해하는 성인만 사용해야 하며, 사용시 경고문이 제공되어야 한다는 의견이 게시되기도 한다. 전 구글 연구원 팀닛 게브루(Timnit Gebru)는 GPT3를 "확률적 앵무새"라고 명명했고, 뉴욕대 심리학과 교수이자 Geometric Intelligence의 창립자인 게리 마커스는 “무슨 말을 하는지 전혀 모르는 블로비에이터”라고 평가했다. 문제는 앵무이자 블로비에이터가 인간처럼 말하기 때문에 인간 사용자가 종종 속고, 동시에 자신의 문화적 유전자의 계승을 이 허무맹랑한 거짓말쟁이에게 맡길 가능성이 높다는 것이다. 10대들이 학교과제에 이와 같은 거대언어모델 기반 인공지능을 사용하는 경우 어떤 혼란이 일어날지 상상해보자.



아이디어 생성과 내러티브 계산기로서의 인공지능


솔직히 인공지능에 대해 실망했지만 동시에 존재하지 않은 지식에 대한 거짓 유추의 재밌는 사례가 떠올랐다. 기호학자이자 소설가였던 움베르토 에코는 20년 전 읽었던 발레 수사라는 한 무명씨의 글에서 영감을 받아 어떤 미학적 설명을 공식화한 적이 있다. 후에 발레 수사의 성과에 대해 동료들이 의문을 제기하자 자신의 기억력을 믿으라며 집으로 데려갔다. 그리고 그의 오래된 책에 표기된 인덱스를 펼치자 본인이 읽었다고 생각했던 부분이 실은 발레 수사의 답변이 아니라 본인 스스로 구성한 것임을 확인했다. 발레 수사의 언급이 에코 본인에게 영감을 주어 어떤 공식을 만들게 했고, 그 공식이 발레 수사의 것이라고 지금까지 믿었던 것이다. 이는 불안정한 기억력으로 인한 유추와 확률적 조합이 보여주는 불안정성이 실은 창조적일 수 있다는 사례다. 나는 인공지능이 어떤 정확한 답이 아니라 인간적 편견을 넘어서는 우발적 가능성에 대해 질문하는 방식으로 사용된다면 어떨까 생각이 들었다. 엉뚱한 방식으로 인공지능을 사용하는 편이 좋겠다고 판단하자 나는 인공지능과 함께 무서운 이야기를 만들어 즐기는 AI공포라디오쇼라는 프로젝트를 동료들(최승준, 권보연, 후니다킴, 김승범)과 구상하기 시작했었다.



벤야민은 사진이 예술인가라고 물을 것이 아니라 사진에 의해 예술이 어떻게 재정의 되는지 보아야 한다고 말했다. 같은 질문을 우리는 인공지능과 인간성의 관계에 대해 적용할 수 있다. 인공지능이 의식을 지닐 수 있는가 아니라 인공지능에 의해 인간성 자체가 어떻게 재정의될 수 있는지 질문해야 한다. 포스트휴먼이나 트랜스휴먼같은 현학적인 개념을 말하자는 것이 아니라 과거에 인간됨의 기초라고 보았던 것이 다음 세대의 기술적 환경에서는 어떻게 변경될 수 있는지 단초를 찾고, 새로운 적응의 예시를 두고 구체적으로 논하자는 것이다. 우리가 구체적으로 경험하지 않고서는 알 수가 없고, 되도록 오래 거주하며 영리한 돌파법을 찾아야 한다.


*블로비에이션: 때가 허락하는 한 길게 말하되 실제로는 아무 것도 말지 않는, 미국 오하이오주에서 기원한 정치적 연설 스타일



오영진(서울과기대 융합교양학부 초빙조교수)

조회수 238회댓글 0개

최근 게시물

전체 보기

Comments


bottom of page