“촌스럽기는…. 우린 데이터로 감시하고 알고리즘으로 통제한다”

[워커스 이슈①] 4차산업 혁명적으로!!! 노동하라???

[출처: 김용욱]

기계 문지기

신기술은 여러 경로를 통해 우리 일상에 파고든다. 하반기 채용 시즌인 요즘 눈길을 사로잡는 AI면접도 하나의 경로일 것이다. 어느 블로그에는 AI면접에 대비한 화장법, 표정 관리법, 언어 표현 지침 등 유용한 팁을 소개하고 있으니 말이다.

개발업체가 내놓은 면접 프로그램을 사례로 AI면접 과정을 훑어보면 다음과 같다. 먼저 마이크가 달린 헤드셋을 착용한다. 면접 프로그램이 깔린 PC에 이름과 수험번호를 입력한 뒤 얼굴‧목소리 인식 과정을 거치고 나면 AI면접 시작이다. 면접은 AI의 질문에 답하는 방식인데, 자기소개와 자신의 장단점에 대한 질문부터 상황 대처 능력을 파악하기 위한 돌발 질문이나 직무 역량을 평가하는 질문, 이미지 선택이나 인지 게임까지 다양하다. 면접 프로그램의 설명에 따르면, AI면접에서 활용되는 질문 개수는 5만 개를 넘는다고 한다. 신기한 건 면접 동안 인공지능은 지원자의 얼굴에 수십 개의 포인트를 정해 시각 분석, 음성 분석, 언어 분석, 생체 분석까지 가능하다고 한다. 결과도 빠르게 확인할 수 있다. 지원자의 집중력, 기억력, 성향, 어휘 특징 등이 수치화, 시각화된다.

어떻게 평가하든 인공지능은 노동 세계의 판도를 뒤바꿀 게임 체인저라고 이야기된다. 물론 면접에 인공지능을 활용하겠단 기업이 많은 건 아니다. 채용 과정의 보조 수준에 그치고 있지만 인공지능 면접관이 늘어날 것은 어렵지 않게 예상할 수 있다. AI면접을 도입하겠다고 밝힌 기업들은 이것이 시간과 비용을 줄일 수 있을뿐더러 공평한 기회 제공, 객관적이고 공정하고 투명한 방법이라며 설파하고 있다. 지원자의 음성뿐 아니라 표정 또는 뇌파까지 파악해 면접 내용을 최적으로 판단한다는 이런 기계 문지기들의 평가는 프라이버시 침해라는 비판으로부터 자유로울 수 없다.

사실 AI면접이 도입 초기인 만큼 프라이버시 침해 등 문제의 지점을 구체적으로 발견하기는 어렵다. 『대량살상수학무기』의 저자 캐시 오닐은 이러한 빅데이터 알고리즘 문제를 전면에 제기한다. 기업들은 객관성, 공정성, 투명성을 내세워 AI면접을 정당화하고 있는데, 과연 그 알고리즘은 공정한가? 투명한가? 그의 결론은 알고리즘이 회사의 목표와 이념을 반영하고 있고 나아가 사회적 편견이 투영된 데이터를 토대로 만들어지기에 불평등을 심화하고 확증 편향을 강화한다고 일갈한다. 그는 인간에게서 차별하는 법을 배운 인공지능은 인간보다 한술 더 떠서 기가 막힐 만큼 효율적으로, 동시에 차별적으로 심사한다고 본다.

캐시 오닐은 미국에서 신용평가로 활용되는 e점수를 일례로 들면서 데이터 기반의 알고리즘 모형이 인종차별이나 성차별을 코드화해 불평등을 확대한다고 지적한다. 신용평가점수는 주로 재무 정보를 취합해 만드는데, 재무 정보 외에 인종, 학력, 출신지, 심지어는 범죄기록, 언어 사용 능력 등 온갖 데이터를 수집해 신용도를 예측한다. e점수를 활용해 단기소액대출을 제공하는 한 회사는 대출 신청자 1인당 최대 1만 개의 데이터를 수집 분석해 위험도를 측정한다. 온라인으로 대출신청서를 작성할 때 맞춤법에 맞게 쓰는지, 구두점은 제대로 찍는지, 신청서를 읽는 데 얼마나 시간이 걸리는지, 이용약관을 꼼꼼히 확인하는지 등도 체크된다. 이는 ‘규칙을 준수하는 사람’이 신용도가 높다고 판단한 것인데, 이 때문에 교육 수준이 낮은 저소득층이나 이민자들은 높은 이율의 대출을 받게 됐다. 캐시 오닐은 이런 과정이 인종이나 가난에 대한 차별임에도 알고리즘에 교묘하게 숨겨져서 드러나지 않을 뿐이라고 비판한다. e점수는 대출이나 보험뿐만 아니라 일자리를 구하고, 아파트를 빌리거나 심지어 데이트·결혼 상대를 소개해주는 업체에까지 평가 잣대로 확장되고 있고, 이는 곧 사회 곳곳에서 빅데이터 알고리즘의 차별적 판단이 일상에 깊숙이 파고들었음을 의미한다. 비용 절감과 공정성의 논리를 앞세운 신기술은 지원자의 언어, 목소리, 표정, 행동 나아가 심장박동, 맥박, 뇌파 등의 생체정보 추출을 정당화하고 있고 차별적 판단의 위험성을 가리고 있는 모양새다.

실시간 종추적

치매환자의 행방불명 사고가 매년 1만 건을 넘는 일본에서 신원확인 첨단서비스로 최근 주목받는 건 손톱에 붙이는 ‘신원판별 QR스티커’다. 1cm 크기의 QR코드 스티커는 네일 스티커와 크게 다르지 않다. QR코드를 몸에 붙인다고 하니 프라이버시 침해를 지적하는 목소리가 적지 않지만 부양가족의 반응이 좋아 여러 지자체가 도입을 고려한다고 한다.

기사를 읽고 ‘전자발찌야 뭐야’ 하는 반감이 들었던 필자도 얼마 전 초등학교에 막 입학한 아이의 안전사고를 걱정했던 차에 ‘위치알림이’를 한참 고민했다. 방과 후 이 학원 저 학원을 옮겨 다녀야 하는 딸아이에게 혹시나 하는 안전사고에 대비해 맞벌이였던 내가 할 수 있는 최소한의 대비책은 아닐까 싶었다.

하루 지나면 쏟아져 나오는 신기술 상품들이 미디어나 광고를 도배할 정도다. 그러니 치매노인이나 아이, 반려동물을 포함해 귀중품의 위치를 실시간으로 파악해준다는 제품들이 그리 특별해 보이는 뉴스는 아니다. 해외여행을 오가는 비행기 안에서 찍은 사진 기록이 해상 위에 표기된다는 이야기도 그리 신기한 경험이 아니다. 각종 배달의 실시간 종추적에 대한 내용도 이젠 뉴스거리도 아니게 됐다. 소비자 편의뿐만 아니라 환자·아이·반려동물·귀중품 보호, 건강관리, 범죄예방, 재미나 오락, 나아가 국민 편익 등의 이데올로기는 프라이버시 침해의 위험이 높은데도 신기술 상품을 정당화하고 어느새 ‘없으면 안 될’ 그 무엇으로 만들고 있다.

업무 효율을 앞세운 신기술 장치도 노동 과정에 빠른 속도로 도입되고 있다. 업무용 앱이 그 사례다. 업무용 앱 도입의 바람은 기업, 정부 가릴 것 없이 거세다. 대표적인 형태는 엠디엠(Mobile Device Management), 즉 모바일기기관리 시스템이다. 이는 회사 IT부서가 직원의 스마트 기기를 원격으로 관리하는 방식으로 개인 프라이버시를 과도하게 침해한다는 문제를 안고 있다. 하지만 업무용 앱의 형태도 신기술의 속도만큼이나 빠르게 탈바꿈한다.

그 변화는 프라이버시 침해, 보안 침해 등에 대한 문제 제기의 속도보다 더 빨라 보이는 듯하다. 엠디엠의 다음 버전으로 모바일앱관리(MAM)가 등장했고 UEM, EMM, BYOD, BYOT, BYOP 등 업무 편의, 보안 강화를 내세운 신기술 장치들은 업그레이드 중이다. 보완된 보안 기술을 들어 프라이버시 침해를 차단할 수 있다고까지 설파한다.

업무용 앱이 문제로 부각됐던 사례는 2014년 KT의 사례를 들 수 있다. KT 사측의 업무용 앱 설치 지시를 직원 이모 씨가 거부하면서 촉발된 사건이다. KT는 무선 통신의 품질을 측정하는 안드로이드 기반 앱을 만들고 설치 방법 등에 대한 교육을 실시한 뒤 업무지원단 직원 일부에게 개인 스마트폰에 앱을 설치하라고 지시했다. 해당 앱은 위치 정보는 물론 개인 스마트폰의 카메라, 연락처, 개인정보(달력 일정), 저장소, 문자메시지, 계정 정보 등 12개 항목에 접근 권한을 가지고 있었다.

업무지원팀에 근무하던 이 씨는 앱 설치 대상에 포함되자 개인정보 침해가 우려된다는 이유로 앱 설치를 거부하고 업무용 단말기를 따로 지급해 주거나 다른 부서에 배정해달라고 요청했다. 그러나 KT는 인사위원회를 열어 이 씨가 ‘성실 의무’와 ‘조직 내 질서존중의 의무’를 위반했다며 정직 1개월의 징계를 내리고 정직 기간이 끝나자 타 부서로 전보발령 냈다. 이에 이 씨는 KT의 업무지시가 개인정보보호법을 위반한 것으로, 앱 설치 거부를 징계사유로 삼을 수 없다며 소송을 제기했고 재판부는 이 씨의 손을 들어줬다.

많이 회자되는 배달앱이나 GPS트래커가 최근 플랫폼 노동자에 적용되는 신기술 장치들이라면, 업무용 앱은 배달앱의 오피스 버전이다. 두 형태 모두 노동을 탈공간화하는 동시에 위치 추적을 포함해 업무의 전 과정을 실시간으로 데이터화 할 수 있다. 눈여겨 봐야 할 사항은 데이터화 자체가 디지털 모바일 시대에 ‘적합한’ 관리·감시 양식이라는 점이다. 업무 과정의 실시간 데이터화는 감시의 개인화, 일상화 나아가 지능화와 연결되는 대목이다.

이전의 감시는 작업장을 전제하고 집단적으로 관찰한 후 사후적으로 평가하는 방식이었다. 파놉티콘(panopticon)은 말 그대로 특정 공간 전체를 눈으로 관찰하는 장치를 말한다. 이에 비해 업무용 앱은 특정한 공간 안팎을 가릴 것 없이 개별 노동자에 직접 관통하는 방식으로 노동자의 종추적은 물론 실시간으로 파악 가능하다. 작업장에 CCTV를 설치하고 녹화해 문제 발생의 a, b, c, d를 사후적으로 판단, 평가하는 것에 비해, 앱으로 추출된 데이터는 개별 노동자의 이동 동선, 결재-성과 보고 등 업무의 전 과정을 실시간으로 맵핑(지도화)할 수 있다. 일일이 관찰하지 않고도 작업장 안팎에서 노동자의 행동 하나하나까지 데이터화할 수 있는 다시 말해, 노동자의 품행 하나하나를 가시화할 수 있는 새로운 형식의 파놉티콘, 일종의 데이터 감시(dataveillance)다. 기술철학자 베르나르 스티글러는 이를 알고리즘 통치성이라고 말하기도 한다. 핵심은 데이터화가 기존 시공간 중심의 훈육을 대체하고 노동자의 행동 하나 하나를 재정의할 수 있는 기술적 조건을 갖췄다는 이야기다.

앤드류 유어는 초기산업화 시기 노동자의 ‘게으른 습관’ ‘방탕함’ ‘무규율’ 등을 골칫거리로 여기고 이를 제거하는 혁신적인 방법으로 기계인 자동 뮬기(self-acting mule)를 꼽았고 철인이라 일컬었다. 지금 이 시대야말로 노동자의 무규율을 완벽히 제거하려 했던 유어의 꿈이 완성되는 단계에 이르렀다고 말할 수 있지 않을까 싶다. 배달앱 광고, 무인매장 광고, AI면접 광고, 드론 광고 등 신기술을 홍보하는 광고를 보면 많은 곳에서 유어의 꿈을 엿볼 수 있다. 단순히 비용 절감 차원에 머무는 것이 아니라 자본이 골칫거리로 여겨왔던 것을 제거할 수 있는 혁신 수단으로 동원하고 있다.

‘알고리즘의 노예’

언어는 비춰볼 수 있고 들여다볼 수도 있는 렌즈라고 한다. 클로프닝(clopening=closing+opening)은 신기술이 파고든 서비스업계의 변화된 풍경을 엿볼 수 있는 신조어다. 클로프닝은 종업원이 밤늦게까지 일하다 매장 문을 닫고 퇴근한 뒤 몇 시간 후 새벽에 다시 출근해 매장 문을 여는 상황을 가리킨다. 클로프닝과 관련한 애로사항으로 수면 부족 문제를 들 수 있다. 클로프닝을 담당하고 있는 직원의 60% 이상이 7시간도 채 되지 않는 휴식시간에 힘들어 한다는 응답은 최적의 인력을 산출한다는 알고리즘이 어떻게 노동의 고충을 양산하는지 가늠해 볼 수 있다. 통근 거리가 꽤 되는 경우 아예 매장에서 자야 하는 경우가 발생하고 최소의 휴식권 조차 보장받지 못하는 문제들이 보고된다.

이러한 신조어는 스타벅스가 인력 산출을 최적화하기 위해 크로노스 같은 스케줄링 프로그램을 활용하면서부터 탄생했다. 교대제를 짜는 이전의 방식에서는 물량이나 수요, 피크타임, 고객의 방문 패턴, 인원 수, 각각의 근무일정 정도의 요소들을 고려했을 것이다. 또한 요소들을 분석해 예측한 인력을 현장에 투입하기까지는 어느 정도 시간적 간격이 발생할 수밖에 없었다. 요소들을 아무리 잘 버무려도 인력의 과소 산출이나 과잉 투입에 따른 서비스 질 하락이나 과다 비용 문제를 피하기는 어려웠다. 반면 스케줄링 프로그램은 영업 패턴, 날씨, 보행 패턴, 교통량, 트윗 양, 실시간 검색어, 고객 패턴, 고객 평가 등의 여러 요소와 빅 데이터를 투입해 교대제 인력을 산출한다. 이를테면 미세먼지 예보를 실시간으로 반영해 인력을 산출하는 것이다. 실시간 검색이나 트윗 양도 프로그램이 수요 변화를 예측하는 원료로 쓴다. 트윗 양을 통해 작년 세일 때보다 고객이 얼마나 증감할 것이냐를 예측할 수도 있다.

자본은 빅 데이터 알고리즘을 통해 인력을 과소 또는 과잉으로 산출할 리스크를 제로화해 노동비용을 최적화할 수 있는 ‘적합한’ 기술 양식을 확보한 것이라 말할 수 있다. 물론 여기서 ‘최적의’ 인원 투입은 빅 데이터 알고리즘에 따른 것이지 현장 노동자들의 집합적인 이해와 요구를 반영한 것은 아니다. 또한 요소들의 인풋이 왜 그러한 아웃풋으로 나왔는지 그 알고리즘을 노동자는 알 수 없다. 알고리즘이 산출한 ‘적정’ 노동의 고통은 온전히 노동자에게 전가된다. 한 스타벅스 노동자는 스타벅스가 ‘적정’을 가장한 채 최소한의 교대 인력(skeleton shift)을 사용하기에 언제나 인원 부족에 시달린다고 호소한다. 통보도 일주일 전, 심지어 하루 전인 경우도 다반사다. 업무도 시간 단위로 쪼개서 할당한다. 그래서 이 같은 스케쥴링 프로그램 앞에 온콜(on call)이란 표현이 덧붙여 사용되는 이유다.

주목해야 할 점은 느슨한 시간을 깨끗하게 제거하고 불필요한 인력을 줄이고 필요에 따라 실시간으로 조정하는 이와 같은 방식이 노동의 불안정성을 극단적으로 이끈다는 것이다. 노동자의 스트레스도 이만저만이 아니다. 삶의 불안정성도 높아졌다. 노동자들은 스케줄의 종속성도 높아졌다고 한다. 데이비드 와일이 말하는 ‘쪼개질 대로 쪼개진 노동’의 현재 버전인 셈이다. 이런 문제에 처한 노동자를 캐시 오닐은 ‘알고리즘의 노예’라고 일갈한다.

이 같은 방식의 온콜스케줄링 프로그램(on call scheduling program)은 스타벅스를 비롯해 맥도날드, 월마트, UPS, DHL 등으로 빠르게 확산하고 있다. 캐시 오닐은 시간, 비용, 재고를 절감하기 위한 적기생산방식이 특정 업종에 제한하지 않고 빅데이터 알고리즘을 매개로 서비스 업종을 비롯해 여러 부문으로 확대대고 있음을 지적하면서 ‘JIT(just-intime) 경제의 확장’이라고 진단한다. 21세기의 유연화 화법은 빅 데이터, 인공지능, 앱 같은 신기술의 배치를 통해 그 목적을 달성해 나가는 모양이다.[워커스 47호]