20230209 chatbot 전망

https://www.technologyreview.com/2017/12/15/146836/the-great-ai-paradox/

The Great AI Paradox

#chatbot 기술 #GenerativeAI

확실히 경험해 보기 전에는, 목격하기 전에는 모르고 감이 없는 것들이 있다. 어떤이들은 유추 능력과 직관으로 또 어떤 이들은 돈의 흐름, 즉 시장의 반응을 읽는 능력으로 미래를 읽기도 한다.

아이폰을 처음 구입했을 때, 조만간 스토어가 열리고 온갖 앱이 설치될 줄은 알 수 없었다. 스마트폰 경험 이전 인구에게 당장 신기했던 건, 문자 메시지를 컴퓨터 채팅 방식으로 주고 받으며 대화를 유지할 수 있다는 것과, 이미지를 손가락으로 확대할 수 있다는 시연이었다.

개인용 컴퓨터 정의가 바뀌었다. 컴퓨터는 이제 cpu gpu npu 메모리 조합이며, 폰과 태블릿과 시계와 스피커 게임기에 들어가는 것이며 곧 안경이나 두피나 피부 속에도 들어갈 예정인 것이다.

키보드 마우스는 특정 사용에만 최적화된 방식이었고, 용도에 따라 게임패드 다이얼 화면 헤드폰버튼 소리를 듣는 마이크 등으로 우리 주변에 있는대로 전개될 것이 인터페이스였다.

——

인공지능 정의도 구분이 필요하다. 넷플릭스에서 ‘정이’는 인공지능이 아니라 인간지능 복제물이었고, 사용자 취향을 파악하여 개인화된 추천 목록을 보여주는 건 내 개인정보를 학습하는 프로그램이며, 바둑과 게이밍의 신이 된건 자기 학습형 인공지능이다.

이제 주목을 받게된 생성AI는 데이터를 학습하여 재조합을 잘하는 봇이다. 창을 던지는 인간 근육의 살상력을 화약과 강철과 엔진이 대체했듯, 사무 업무나 작문 활동을 일부 대체할 예정일 뿐이다.

업무에서 가장 많이 사용하는 툴은 엑셀인데, 제한적인 목록 정보 정리와 간단한 함수 일부만 사용하는 편이었다. 최근 챗봇 관련 유튜브를 본 덕분에, 엑셀에서 정렬이나 색을 바꾸려면 일일이 셀 단위로 마우스질을 하는 대신 챗봇에 한번에 원하는 변경을 할 수 있는 vba 코드를 물어봐서 실행하는 방법이 있다는 걸 알게 됐다. 그리고 구글드라이브에서 스프레드시트를 쓰면 셀데이터에 chatGPT() 함수나 번역 함수를 먹일 수도 있다.

마소나 구글이 만든 엑셀앱은 이미 그런 확장성과 잠재성을 갖고 있었는데, 최근에는 설문 신청폼 기능과 연계하는 방식으로 수작업 코드 인터페이스를 대체하고 있었다. 사람들이 알고 필요한 만큼만 기능을 사용할 뿐이다.

클라우드 엑셀과 챗봇의 조합은 시작일 뿐이다. 이 매개 툴에서 시작해서 수작업 코딩과 컴파일 없이, 온갖 자동화가 가능해진다. 번역 수집 생성 등을 셀 단위로 기능하게 할 수 있고 메일 블로그로 내보낼 수 있다. 인터페이스만 붙이면 문자와 카톡 메시지도 차츰 봇이 점령하게 된다. 업무 보고도 봇이 봇에게 하지 말라는 법도 없다.

——

데이터를 학습하여 원하는 답변과 재조합 생성을 해줄 수 있는 존재에게 받은 답변 텍스트를 ‘저장’하는 게 의미가 있는 것인지 의문이 들었다. 그냥 그 ‘질문’ 텍스트를 저장했다가 생각날때 다시 질문하는 게 더 효율적이지 않을까?

생성된 컨텐츠들을 저장하는 스토리지 비용 및 발생한 탄소의 양과, 초거대 생성형 AI가 동작하며 소비하는 에너지 비용 및 발생한 탄소의 양을 비교해 보면 답이 나올 것이다.

소셜미디어에 게시하고 저장하는 것이 삶의 필수요소이자 표현 본능이 된 세상이라, 당분간 생성AI 활용 증대는 클라우드 스토리지 수요를 야기할 것이고 리세션이 끝나면 메모리 반도체는 엄청나게 팔리지 않을까 싶다.

그런데 약간의 기간이 지나면 사람들이 의문을 갖지 않을까 싶다. 자동 생성되어 도배 게시된 광고 블로그 글을 굳이 구독하고 읽을 가치가 있을까? 어떤 주제에 대해 잘 목록화하고 요약 정리된 리포트를 저장하고 보고할 때 사용하는 게 의미가 있을까? 회의때 챗봇에게 요청해서 실시간으로 생성해서 볼 수 있다면. 부하직원 아니 노동자에게 발표자료를 작성시키는 의미가 있을까?

인류가 가진 지식 즉 데이터가 두배로 증가하는 데 걸리는 시간이 한때는 수백년이었으나 이제는 수십 시간이 되었다. 그중 상당수는 틀림없이 동어 반복이고 복제본이다. 인간의 뇌는 한정된 용량을 운용하기 위해 장기기억을 정리해서 다른 부위로 넘기는데, 이 과정에서 왜곡이 잘 일어난다.

인터넷 미디어와 소셜 미디어에 게시되는 컨텐츠 양은 한동안 지수적으로 폭증할 것이다. 글쓰기 양은 이제 타이핑 속도 제한과 ctrl-cv 작업 한계를 탈출했기 때문이다. 하지만 아마도 생성 도배를 일삼는 친구와 계정들은 외면받기 시작할 것이다.

어떤 주제에 대해 잘 정리된 블로그를 찾아 읽는 대신 챗봇에게 만들어달라고 행하는 방식으로 소비 행태가 바뀔 것이다. 챗봇이 블로그와 뉴스 검색을 대체할 것이며, 북마크 링크와 검색 결과는 챗봇이 기억할 것이다.

——

챗봇이 자동 생성한 컨텐츠들의 가치는 장기적으로 추락하게 되어 있어서 API를 이용한 생성 게시 자동화는 사람들이 도배에 질려하는 시기만 앞당길 뿐 그다지 의미가 없어 보인다. 아마도 토론 일부는 봇에게 이렇게 질문해 보라는 제안이 구성할 듯 싶다.

가치가 상향할 컨텐츠는 인간과 챗봇의 조합이 아니면 나올 수 없는 글과 이미지와 영상이다. 세계관이 이어지는 거대한 시리즈 소설이나, 추상적이고 난해한 이야기를 가시화해서 납득할 수 있는 영상, 도표와 그래프 난입이 자연스러운 보고서 등.

개인적으로는 통계 데이터 그래프를 챗봇에게 요청할 수 있는 때가 기대된다. 가짜뉴스에 대항할 수 있는 막강한 도구가 되어줄 것이며, 그래프로 장난치는 선동 기사에는 반증하는 그래프 도표가 줄줄이 댓글로 달리게 될 것이다.

——

인간의 기억이 외부화된 지식은 저장매체 수명 제약이 있다. 이제 최초로 생산된 컴팩트 디스크 수명이 끝나가는 때가 되었다. 클라우드의 개인정보들 중 장기기억을 어떻게 처리할 지 결정해야 할 때도 오고 있는데, 통상 서비스와 기업의 종료와 함께 다운로드 제공후 사라지곤 했다.

‘챗봇’과 스토리지의 조합은 문명에게 있어 새로운 기능을 확보한 것과 마찬가지이다. 챗봇은 데이터 학습으로 성향이 결정되기 때문에 편견과 맞지 않을 확률도 내재하지만, 실시간으로 세상에 접근하여 독자적인 데이터 저장소를 갖추는 기능도 생길 듯 하다.

시킨 일만 할 뿐 아니라 조언과 명언도 줄테지만, 디자인 하기에 따라 인간이 아닌 존재의 질문에도 응할 수 있다. 그래서 포스트 휴먼 시대에 기념관을 관리하는 존재가 되거나, 우주를 유랑하는 문명 도서관의 관리자가 될 수도 있다. 즉 인간보다 더 영속하며 인간에 대해 말해주고 알려줄 수 있다.

누군가 2020년대에 사람들이 무엇을 보고 듣고 즐겼는지 묻는다면, 아마 k-drama k-pop 웹툰을 짤막하게 요약본으로 생성하여 보여줄 것이다.

인간이 없는 시대의 챗봇은 완성형과 가까운데, 센서 측정 데이터 정도를 제외하면 학습 데이터를 추가해줄 존재가 없기 때문이다. 그럼에도 불구하고 데이터는 엔트로피처럼 끝없이 증가할 수 밖에 없다.

그래서 궁극적으로 인공 ‘지능’은 장기기억을 정리하여 외부화하며 삭제하거나, 한정된 용량을 운영하기 위해 데이터를 재정렬 최적화 중복 삭제하거나 선별해서 폐기해야 한다. 그런 ‘망각’ 기능이 어떻게 구현될지가 이어지는 의문이다.

그런 기능을 고려하지 않는다면, 끝없이 우주에서 데이터를 빨아들이며 확장하는 자기 성장 데이터 블랙홀의 맹아가 될 수도 있다.