Eat Read Code

AI블루 : 기술에 휩쓸린 시대를 살아가는 마음들 / 조경숙, 한지윤 / 코난북스

 제품을 만들 때는 보통 이 제품이 소비자에게 주는 가치가 무엇인지 기획하고, 그 가치를 전달하려면 어떤 기능이 필요한지 정의하고, 그 기능을 구현하려면 어떤 기술이 필요한지 찾아가는 순서를 거친다. 그러나 AI 산업은 이를 역순으로 시행한다. 새로운 기술이 먼저 나온 뒤에 그 기술을 적용할 수 있는 분야와 과제를 찾는다.
 챗GPT가 일으킨 AI 하이프(hype)는 이러한 AI 분야의 특수성을 극명하게 보여주었다. 챗GPT가 나오자 사회 전체가 생성형 AI 기술을 모든 분야에 접목하려고 움직이는 것처럼 보였다. 풀고 싶은 문제에 대한 답을 찾는 것이 아니라, AI 기술이 풀 수 있는 문제를 찾아서 기업들이 움직였다. 이 과정에서 빠르게 최신의 AI 모델을 개발하기 위한 기술력 향상에만 집중한 나머지, 실제 AI 서비스를 이용하는 사람들에 대한 연구나 구체적으로 사람들을 만족시킬 수 있는 기획과 사용성에 대한 고려는 아직 제대로 이루어지지 못하는 것으로 보인다. (p.58)

 기업 내부에서 AI 서비스 시스템을 운영하고 보수하는 IT 부서, AI 서비스 도입을 담당하는 DT(Digital Transformation, 디지털 전환) 부서에서는 기본적인 시스템 운영 지식은 있지만 현업 부서에서 가진 지식을 알기는 쉽지 않다. 이들 부서에서 현장에서의 지식을 알고자 한다면, 현업 부서의 협조가 필수적이다. 그러나 현업 부서는 대체로 언제나 바쁘고 날이 서 있다. IT 부서나 DT 부서에서 시스템을 변경할 때마다 현업 부서에서는 새로운 시스템에 적응하느라 많은 시간을 소모했을 것이고, 무엇이 좋아졌는지 알 수 없는 상태에서 불편함을 감수하면서 쌓인 일들을 쳐내느라 피로가 쌓여 있을 것이기 때문이다. 게다가 그러한 시스템들은 궁극적으로는 자동화를 목표로 하며 본인의 일자리를 앗아갈 수도 있다면, 기꺼이 협조하는 사람이 얼마나 있을까?
 이 상황에서 외부의 AI 서비스 제공 업체는 눈을 감고 코끼리 다리를 만지는 것처럼 불완전한 지식을 바탕으로 AI 서비스를 기획하고 출시할 수밖에 없는 현실이다. 이런 과정을 통해 만들어진 AI 서비스는 과실연의 조사에서처럼 절반 이상의 사용자를 AI 기술로부터 소외시키는 불친절한 서비스가 되기 쉽다. 결국 AI 상담에 불만이 커질 대로 커진 채 기다린 끝에 ‘사람 상담원’을 찾게 되는 것이 지금의 현실이다. 대부분의 사람에게는 새로운 기술이 필요한 것이 아니라 일상의 문제를 해결해줄 수 있는 적정 기술이 필요하다. (p.61-62)

 AI 산업은 태생적으로 많은 자원을 필요로 한다. 실험적으로 모델을 한 번 학습하는 비용만 적게는 몇 백만 원에서 많게는 몇 백억 원이 든다. 모델을 학습하기 위해서 필요한 컴퓨팅 자원이 고가이기 때문이다. 그중에서도 많은 양의 계산을 동시에 수행할 수 있는 GPU가 필수적인 장비인데, GPU 시장의 98퍼센트를 점유하고 있는 엔비디아의 GPU 제품 중 H100은 한 대에 최대 6천만 원이고 보통 여덟 대를 묶어서 하나의 서버로 사용한다. 서버를 만드는 데는 GPU뿐 아니라 다른 고성능 컴퓨팅 장비가 필요하다. 서버 하나를 갖추는 데 4-5억 원 이상이 들어가는 셈이다. 이러한 서버를 수천 대 구축하여 몇 주간 가동해서 모델을 만든다. 이렇게 대규모 장비를 가동하는 데는 그만큼 큰 서버를 관리할 수 있는 데이터센터가 필요하고, 데이터센터를 운용하는 전기, 여기 드는 돈도 막대하다. 한 번 학습해서 성공적인 모델이 나오는 것이 아니므로 여러 번 학습을 거치면 쉽게 1억 원 넘는 비용이 사라진다. 장비를 직접 구입하지 않고 클라우드 서비스를 이용해 대여해서 사용하는 경우라면 시간당 과금을 기반으로 요금이 부여되기 때문에 계약된 기간 동안 실시간으로 비용이 ‘타고 있다’는 압박을 지울 수 없다. (p.76-77)

 “대부분 AI 업계는 자기들 프로덕트에 AI 기술을 적용하는 형태로 하지, 스스로 좋은 거대 언어 모델을 만들어야 된다고 생각하지 않아요. 그건 정말 어려운 거니까요. 근데 기존에 있는 걸 적용하는 건 쉬우니까 그렇게까지 열심히 안 해도 되죠. 사실 AI 업계에 있다고 해서 모두가 AI를 열심히 공부하지는 않아요. 학계의 구루들이나 열심히 신기술을 따라가서 소화시킨 뒤 전파하는 사람들도 있지만요.
 이미 소화해서 걸러진 에센스만 가지고 자기 분야에 적용하는 것만으로도 충분히 먹고사는 AI 직군의 사람들이 훨씬 많다고 생각해요. 제가 아는 대기업에 있는 분들도 그렇고요. AI 개발진들도 제각기 처해 있는 상황이 다르니까요. 스타트업이라고 모두 논문을 쓰고, 최신 기술을 따라갈 필요는 없어요. 워낙에 GPT 같은 거대 언어 모델이 잘 되어 있기 때문에 이제는 그렇게까지 열심히 하지 않고, 논문 안 읽어도 되고 적당히 내가 알고 있는 기술을 바탕으로 분기에 한 번씩 업데이트하고 하는 방식으로 일해도 되는 거거든요. 이런 방식을 멸칭으로 ‘GPT 상하차’ 한다고 표현하기도 하죠. 그렇지만 이건 이 나름대로 기술 스택과 엔지니어링 기술이 필요한 일이니 그렇게까지 표현하면 안 된다고 생각하긴 해요.”
 훈의 말처럼 열성적으로 속도에 맞추지 않는 사람이라도 다른 산업 분야에 비해서 말도 안 되게 빠른 변화의 물결을 타야 한다. 이와 같이 전투적인 속도는 이 AI 생태계 안에서 영향을 주고 받는 사람들에게서 사유할 시간을 소거한다. 속도에 맞추기 위해서 달리다 보면 이 변화에 대하여 어떤 입장을 취해야 하는 것인지 어떤 방향성이 옳은지 그른지 판단할 에너지를 빼앗긴다. 윤리적인 판단뿐 아니라, 기술적 적합성 측면에서도 그렇다. (p.90-91)

 스택오버플로우의 위기는 여러모로 시사하는 바가 크다. 단지 개발자들이 사용하는 서비스가 바뀐 것 뿐이라고 이해할 수만은 없다. 스택오버플로우에 게시된 질문과 답변은 다른 사용자들도 누구나 열람할 수 있지만 챗GPT에 남긴 질문은 사용자가 아니라면 아무도 볼 수 없다. 이전에는 나와 같은 오류에서 헤맸던 누군가의 기록을 볼 수도 있고 그 아래 달린 답변과 논의를 보면서 뜻밖의 심화 학습을 할 수도 있었지만, 이제는 그런 공론장을 보기 힘들어진 것이다. 이전에는 우리가 묻고 답한 것들이 데이터로 남아 누구든 볼 수 있었지만, 이제 그러한 질답 데이터가 모두 AI 개발사의 소유가 될 것이다.
 전문가들은 사람들의 지식이 쌓이고 모이는 열린 공론장이 사라진다면, 챗GPT 역시 학습할 데이터를 찾지 못해 곤란에 빠질 것이라 지적한다. 실제로 챗GPT 출시 이후 스택오버플로우의 사용량 감소치를 주의 깊게 연구한 논문에서는 결론부에서 다음과 같이 쓰기도 했다.
 “언어 모델이 오픈 데이터 생성을 방해한다면, 그들은 미래의 학습 데이터와 효율성 측면에서 그들 자신의 미래마저 제한할 것이다.” (p.119-120)

 특히 여러 인터뷰 가운데 8천억 원 넘는 자금을 운용하고 있는 한 벤처캐피탈의 대표는 “유행을 리드할 수 있는 기업”을 선별하겠다고 밝히며, “한국에서 스타트업 투자로 좋은 결과를 냈다고 해도 투자 대비 백 배, 천 배는 잘 나오지 않는다”고 언급한 바 있다. 그러나 ‘투자 대비 천 배’가 정말 합리적인 걸까? 천 배라고 한다면 천 원을 투자받아 백만 원으로 돌려줄 수 있는 회사일 것이다. 그런 식으로 투자금을 돌려주는 회사라면 과연 그런 회사는 무엇을 팔았던 것일까. 그것은 정말 믿을 수 있는 상품이었던 걸까? 이러한 맥락에서 테크 업계에 거는 ‘미래가치’란 언젠가 도달할 수 있는 미래의 가치가 아니라 도리어 부풀릴 수 있는 욕망의 최대치로 읽혔다. 인기 있고, 매력적이며, ‘사람들이’ 열광할 수 있는 가치로서의 기술이라고. (p.128-129)

 고통에 대해서도, 사람에 대해서도 사유하지 않고 만들어내는 그림에 대해 미야자키 하야오는 강력한 반감을 표한다. 우리가 AI와 관련한 감상을 듣기 위해 인터뷰를 청한 웹툰 작가 나향도 비슷한 심정을 표현했다. 아래는 우리가 사전에 배포한 설문지에 나향이 남긴 글이다. 그가 쓴 문장에서도 미야자키 하야오의 말처럼 하나로 일축하기 어려운 복잡한 감정들이 뚝뚝 떨어지는 듯했다.
 “AI 이미지 생성기는 분명 훌륭한 이미지를 만들어내지만 저는 기존에 사람이 그린 것에 대해 느꼈던 감정이나 애정을 가질 수가 없습니다. 좋은 그림을 그리기 위해 노력했던 마음이 무의미하게 느껴지는 부분이 확실히 있어요. 더 많은 그림을 더 쉽게 그릴 수 있다고 좋아하는 반응들을 보면 좀 더 우울감을 느끼게 됩니다.” (p.143)

 나향은 생성형 AI에 대한 불안을 표시하면서, 그린다는 행위 자체가 없어지고 그림만이 남는 현상에 주목했다. 그렇다면 만화가에게 그림을 그리는 행위는 어떤 의미인 걸까.
 “저는 그림 그리는 걸 정말 좋아했어요. 좋아한 만큼 노력도 많이 했죠. 그런데 이제 그림을 그리기 위해 노력하지 않아도 결과물이 뚝딱 만들어진다는 게 너무 허탈하게 다가와요. 그림을 그리지 않아도 되는 거잖아요. 그리지 않아도 그림은 만들어지니까. 예전에는 잘 그린 그림을 보면 어떻게 이렇게 잘 그릴까 감탄도 하고, 나도 이런 그림을 그리고 싶다고 생각하며 연습하기도 했어요. 그런데 이제는 웹에서 잘 그린 그림을 봤을 때 딱 이런 생각이 먼저 들더라고요. ‘이거 AI인가?’ 그게 썩 좋은 기분은 아닌 것 같아요.” (p.147-148)

 “사실 웹툰이 요새 엄청나게 많잖아요. 이 많은 웹툰이 모두 이 정도 분량으로 만들어져야만 하는 걸까, 우린 왜 이렇게 많은 콘텐츠 안에 살아야 하는 걸까 생각이 들기도 해요. 소비할 게 없어서 사람들이 곤란한 지경이 아닌데도 창작자를 밀어붙이면서까지 더 빨리, 더 많이 만들어내야 하는 상황을 다시금 생각하게 되네요. 그것도 다른 사람의 일자리를 없애면서까지.
 만화 시장은 만화를 보기만 하는 독자분들도 계시지만 창작자들이 소비하는 영역도 꽤 크다고 생각하거든요. 그림 어시스턴트든, 지망생이든, 작가든이요. 그런데 업계인들이 일자리를 잃으면 결과적으로 만화를 보는 독자도 더 줄어들 것 같아요.” (p.150)

 “AI가 생성한 음악 들어보신 적 있어요? 굉장히 듣기 좋고 편안해요. 그런데 딱 AI가 생성한 것처럼 유튜브에서 제가 좋아할 거라고 추천해주는 음악 플레이리스트들을 따라가다 보면, 어느 순간 저만의 음악적 취향이 반영되었다기보다는 그런 취향이 듣기 ‘편한’ 음악으로 선곡되더라고요. 내가 듣는 음악 장르 안에서 가장 대중적인 음악들로 추천되곤 해요. 제가 이 알고리즘을 그저 따라가기만 하면 제 취향은 어느새 모호해지겠죠.
 사람들은 그렇지 않거든요. 다들 자기만의 취향, 그러니까 툭 튀어나온 부분들이 있고요. 그렇게 툭 튀어나온 건 AI로 만들기 어렵죠. 그게 주류나 대세는 아니더라도, 그 ‘툭 튀어나온’ 예술을 좋아하는 사람들이 꽤 많다는 걸 알아요. 어쨌든 전 예술을 하는 사람이니까, 결과만이 아니라 예술 창작의 모든 과정을 통틀어 볼 수 있는 ‘예술적 성취’가 존재한다고 믿거든요.”
 나향은 ‘그리는 과정’ 그 자체를 탐구하고 연구하고 몰입함으로써 느끼는 즐거움이 있다고 답했고, 연정 역시 창작의 과정을 전체적으로 통틀어 자신의 예술적 성취라고 말했다. 어쩌면 그간의 생성형 AI의 예술성 논쟁에서 우리가 예술을 지나치게 협소한 방식으로 사유한 건 아니었을지 되돌아본다.
 결과물을 두고 이것이 어떤 예술성을 담고 있는지 논의하는 게 아니라, 어떤 고민과 과정 속에서 이 작품이 탄생했는지를 살피고 그 고민을 우리의 시대 안에 받아들여 어떻게 의미화할 수 있는지, 그 모든 과정이 예술이 아닐까? 어쩌면 작가의 창작뿐만 아니라 독자들이 예술 작품을 수용하고 예술가와 소통하는 그 과정까지도. (p.159-160)

 “캐셔 직군만 본다면 (인력이) 좀 줄어든 것같이 보이죠. 그런데 그분들은 지금 도리어 과노동을 하고 있어요. 요새 대형 마트는 온라인 배송을 많이 하잖아요. 캐셔로 일했던 분들이 그냥 잘리는 게 아니라, 이제 온라인 배송을 위한 물품을 포장하는 업무로 재배치되어서 밤늦게까지 일해요. 오히려 과로가 문제입니다, 지금. 어떤 관점에서 보면 마치 풍선 같아요. 한쪽을 누르면 다른 쪽으로 부풀어 오르니까요.”
 이현은 마트 노동자뿐만 아니라 백화점 노동자들도 온라인 판매 서비스가 강화됨에 따라 도리어 오프라인에서 해야 할 업무들이 늘었다는 사실을 지적했다. 고객들이 오프라인 매장에서는 화장품을 테스트해보기만 하고 구매는 대체로 온라인 쇼핑몰에서 하는데, 그렇게 구매한 온라인 쇼핑몰에서 물건이 잘못 와서 교환, 반품을 원하거나 사용법 등을 문의할 때 다시 온라인을 이용하지 않고 오프라인 매장에 와서 원하는 바를 해결해 달라고 요청한다는 것이다.
 고객 입장에서는 같은 브랜드인데 온라인이든 오프라인이든 무슨 상관이냐 할 수 있지만, 사실 매장 직원 입장에서 이는 다소 부당한 일이다. 대체로 낮은 기본급에 판매 수익을 통한 성과급을 얹는 백화점 노동자의 급여 구조에서 온라인 업무 대응에 대한 수익 배분은 전무했기 때문이다.
 이러한 문제 때문에 2022년부터 여러 백화점 노동자들의 노동조합에서는 온라인 업무 대응에 ‘온라인 판매 기여 노동’이라 이름 붙이고, 온라인 판매 수익을 오프라인 매장 직원들에게도 일정 부분 나누어야 한다는 요구 사항을 내걸었다. (p.168-169)

 우리는 종종 기술은 사용자가 어떤 목적으로 어떻게 쓰는가에 따라 방향성이 결정된다고 생각한다. 하지만 기술은 그 기획과 개발 단계에서 이미 큰틀에서의 방향성이 결정되어 있다. 물론 그렇다 하더라도 대다수의 사용자에게 그러한 방향성을 설득시키지 못하면 금세 폐기되곤 하지만, 그 과정을 뛰어넘어 생존한 기술은 이윽고 사용자를 설득할 뿐 아니라 바꾸기까지 한다. 처음에는 일상과 일터를, 그 후엔 사회를. 심지어 기후까지도. (p.190-191)

 그런즉 AI의 급속한 발전에 두려움을 느끼거나 우울 또는 불안을 느끼는 것은 자연스러운 일이다. 그런 감정 자체가 기술에 적응하지 못했다거나 새로운 기술을 거부하고 있다는 의미인 건 아니다. 그 무엇도 합의되지 않는 상황에서 섣불리 일상 속에 밀려드는 파도를 그 누가 선뜻 기뻐할 수 있겠는가? 어쩌면 우리의 마음, 왜 이토록 요동치는지 알 길 없는 이 감정이야말로 가장 솔직한 응답인지도 모른다. 그러니 우리는 그 감정을 다스리려 노력할 것이 아니라 귀 기울이고 분석해야 한다. 왜 우울한가. 어떤 점이 불안한가. 지금 이 기술은 우리에게 어째서 문제적인가. (p.221-222)