자동화되는 것은 기술인가 인간인가

[워커스] 기술문화비평


우리는 인공지능이나 로봇이 인간의 삶을 얼마나 편리하게 만들고 있는지 감탄하면서도 머지않아 인간의 일자리를 모조리 기계들에 빼앗길 것이라는 공포에 사로잡혀 있기도 하다. 물론 18~19세기 산업혁명과 마르크스의 시대에도 기계에 대한 노동 해방의 기대와 노동 소외의 두려움은 공존했다. 기계에 대한 인간의 상상과 욕망은 이중적이어서, 인간의 노동을 대체하는 자동화된 시스템은 인간을 고통스러운 노동으로부터 해방시킬 유토피아적 희망으로도, 동시에 가치를 생산하는 원천인 인간 고유의 노동을 빼앗아 인간을 잉여화시키고 마는 디스토피아적 절망으로도 그려진다.

여기서 기계나 로봇은 단순히 기술적인 메커니즘을 가진 개체라기보다는 자동화된 시스템으로 외부의 에너지를 이용해 인간의 노동력을 투여하지 않아도 스스로—하지만 미리 정해진 순서와 작동과정을 따라—움직이고 동작하는 장치를 의미한다. 물론 스스로 움직인다는 의미가 인간처럼 자율적으로 판단하고 행동하는 것이라고 보기는 어렵다. 완전히 자동화된 기계가 가까운 미래에 존재할지는 미지수이지만, 근대 이후의 산업 현장에서의 생산 장치와 컴퓨터의 도움을 받는 현대적 일상에서의 전자 장치들은 거의 자동화됐다고 할 수 있을 것이다. 눈앞에 인간을 닮은 로봇들이 활보하고 있지는 않더라도, 우리는 이미 많은 부분 자동화된 기기들이 구성하는 자동화된 시스템 속에서 살아가고 있다.

최근의, 그리고 다가올 미래의 가장 대표적이고 핵심적인 자동화 시스템은 인공지능이다. 인공지능을 어느 정도까지 인간의 지능에 비견할 만한 것으로 인정할지, 다양한 종류의 인공지능 중에서 어떤 것을 자동화됐다고 부를지는 아직 합의된 바가 없다. 그럼에도 인공지능은 우리 시대의 자동화에 대해 생각할 수 있는 길을 열어준다. 인간의 작업과 노동을 대체해주는 그야말로 기계적인 장치라는 인식을 넘어, 인공지능은 인간의 정신적 혹은 인지적 능력인 추측, 판단, 평가, 분석을 행할 수 있는 역량을 가진 기술이다. 딥러닝과 같은 인공지능 기술은 어떤 것의 순위를 매기거나, 종류와 범주를 분류하거나, 서로 관련 있는 것을 짝지우거나, 불필요한 것을 걸러내고 중요한 것을 골라내는 작업에서 인간의 능력과 한계를 훌쩍 뛰어 넘는다.

더 나아가서 흔히 소셜 로봇이라고 불리는 장치들은 서비스나 사회적 돌봄의 영역 등에서 인간을 대면하고 자동화된 방식으로 필요한 서비스를 제공하는 역할을 한다. 마주하는 인간의 상태에 따라 인사하거나 친절하게 미소를 짓기도 하고 진지한 목소리로 설명하기도 하는 등 인간의 감성적 혹은 사회적 필요까지 헤아리는, (외양은 그렇지 않을지라도) 매우 인간적인 면모를 보여준다. 이렇듯 자동화되어가는 기술들은 점점 인간을 닮고 또 능가하고 있는 듯 보인다. 그러나 자동화의 과정, 자동화된 시스템 속에서 과연 우리 인간은 어떻게 변하고 있는 것일까? 보다 더 급진적으로 질문하자면, 인간이 노동하거나 생각할 필요도 없어지는 이 자동화의 과정 속에서 인간의 쓸모란 대체 무엇일까? 인간 노동을 대체하는 자동화된 시스템 내에서 오로지 안온한 편리를 누리고 기술을 가속화하기만 하면 되는 것일까?

작게는 온라인 쇼핑이나 택시 잡기, 홈오토메이션부터, 사무 자동화와 공장 자동화를 거쳐, 크게는 스마트시티와 전지구적 자동화에 이르기까지 우리 삶의 대부분이 자동화된 과정에 맡겨져 있다. 자동화되어 있기에 우리는 더 이상 그 과정이나 결과에 대해 생각할 필요가 없다. 상황에 대한 객관적인 분석과 평가를 통해 최적의 솔루션을 제공하고 있는 알고리즘, 인공지능, 자동화를 그저 믿고 온전히 그 판단을 따르는 것이 합리적이라고 믿는 수밖에 없다. 취업, 시험, 보험, 대출에서부터 법률, 경영, 정치, 우주과학에 이르기까지, 현존하는 온갖 종류의 데이터를 수집하고 미지의 데이터를 발굴하고 추출해내는 과정에서 인공지능 알고리즘은 완전히 자동화된 방식으로 그 존재와 작동의 패턴을 발견하여 스스로에게 그리고 다시 재귀적으로 우리에게 적용한다.

흔히들 ‘4차 산업혁명’이라고 추켜세우는 이 익숙한 이야기의 구도를 다시금 유심히 들여다보면 실상 인간이 보이기 시작한다. 자동화라는 것의 이면에는 기계와 인공지능과 로봇의 모델이 되고 그들이 연료로 삼는 데이터를 제공하는 인간의 노동과 사회적 삶이 있다. 보다 더 깊은 심연에는 자동화 과정의 구축에 필요한 모든 데이터가 추출되는 자연 혹은 실재가 있다. 따라서 자동화는 애초 인간 혹은 자연을 초월한 어떤 추상적이고 그 자체로 객관적인 것에서 기인하는 것이 아니다. 오히려 바로 인간의 살아있는 신체, 활동, 노동, 인지와 감정을 포함한 삶 전체가 포착(포섭)되고 추출(착취)됨으로써 (그것에 기반한) 자동화 시스템이 가능해지는 것이다.

예컨대 얼굴인식 인공지능은 도처에 설치된 감시카메라와 SNS에 자발적으로 올려진 셀카들을 기반으로 기계학습을 거치며 진화하는 중이다. 음성인식 인공지능 스피커도 매번 그 앞에서 질문하고 명령하는 사람들의 목소리와 말뭉치를 지속적으로 분석하면서 점점 더 영리해지고 있다. 많은 일상적 기술을 사용하는 이들의 온갖 데이터가 실은 바로 그 기술의 핵심적 알고리즘 개선을 위해 피드되고 있지만, 미래의 개선된 기술에 대한 약속 이외에 어떠한 대가도 주어지지 않는다. 『고스트워크』에서 메리 그레이와 시다스 수리가 제시하는 개념인 ‘고스트워크(ghost work)’도 결국 인공지능의 작동이나 개선을 위해 자동화 알고리즘의 뒤에서 감춰진 일을 하는 플랫폼 혹은 온디맨드(on-demand・정보기술 인프라로 맞춤 서비스를 제공) 노동자들의 존재를 전면에 드러내기 위한 것이다.

우리 시대에 자동화라는 기술적 이상과 알고리즘 통치성이라는 정치적 이념의 배후에는 사실상 기계와 컴퓨터로 작동되는 자동화 시스템의 가장자리에서 컴퓨터와 인공지능을 보조하여 그림자 노동을 하는 인간의 노동이 감추어져 있다. 에크비아와 나르디는 이런 종류의 시스템 작동방식을 자동화, 즉 오토메이션과 대비해 ‘헤테로메이션(heteromation)’이라고 부른다. 이는 겉보기로는 우리 사회가 기술의 발전과 더불어 완전 자동화의 길로 가고 있는 듯 보이지만 실은 자동화 과정에서 그 바깥으로 내밀린 상당수의 인간 노동과 인지가 더욱 그 자동화의 과정에 투여돼야만 하는 역설적인 현실을 통찰하게 해준다. 자동화되는 것은 인공지능과 같은 기술이 아니라 자동화 시스템 내에서 그 자동 부속품처럼 작동하는 인간의 삶이 아닌가. 인간이 기계적 자동화로 노동에서 해방될 것이라는 순진한 이상과 기계와 인조인간에 지배당할 것이라는 무구한 공포에서 벗어나, 자동화 체제 속에서 인간과 비인간 사이의 현실적인 협력과 공진화를 고민해야 하는 시점이다.[워커스 58호]