코로나19 이후 우리 사회 전반의 디지털 전환이 급격히 이뤄지고 있다. 온라인 쇼핑과 라이브 커머스, 온라인 수업과 면접, 챗봇 상담, 키오스크를 통한 상품 주문은 이제 일상의 한 부분으로 완전히 스며들었다.

이러한 디지털 기술의 밑바탕에는 데이터를 바탕으로 개인을 분석해 효과적인 선택을 할 수 있도록 돕는 ‘알고리즘’ 이 작동하고 있다. 알고리즘은 인간을 돕는 효과적인 기술이지만 그 자체의 특성 탓에 도리어 인간을 소외시키고 노동자를 예속하는 역작용이 최근 드러나고 있다.

작년 말 고용노동부 통계에 따르면 플랫폼 노동자는 약 22만명이며 넓은 의미에서 플랫폼 산업에 종사하는 노동자는 약 179만 명에 달하는 것으로 집계된다. 상대적으로 자유로운 노동 환경과 비대면 사회 심화로 새로운 일자리를 찾는 이들이 플랫폼 노동시장에 유입되고 있으며 이전에 없던 직군과 일자리도 창출되고 있다.

하지만 알고리즘 기술의 기반인 ‘효율성’은 때로 인간을 통제하는 수단으로 악용되고 있다. 배달업 플랫폼 서비스에서 작동되는 알고리즘은 배달 시간과 구역을 제한하고, 알고리즘의 배정을 거부하면 평점을 깎거나 벌칙을 주는 등 노동자의 예속을 심화시키고 위험에 내몰기도 하며 결과적으로 노동의 질을 떨어뜨리고 있다.

미디어에 적용된 알고리즘 역시 마찬가지다. 사용자 분석이 추천 콘텐츠에 철저하게 반영되는 알고리즘은 확증편향을 심화시켜 인간의 사고와 정보를 통제하고 있다. 넷플릭스의 미디어 추천 알고리즘이 대표적이다. 개인의 관심사, 기존에 즐겨 본 콘텐츠와 유사한 것들이 맞춤형으로 추천되는 넷플릭스와 유튜브 알고리즘은 개인 취향의 반영이다. 그러다 보니 비슷한 내용만을 반복적으로 소비하게 되고 내가 미디어 속 세상만이 전부라고 생각하기 쉽다.

알고리즘에 투입된 데이터는 인공지능 학습을 통해 그 특성을 강화하는데, 오류가 있는 데이터가 다량으로 주어진다면, 결과물에 왜곡과 편향이 발생할 수 밖에 없다. 몇 달 전 발생한 인공지능 챗봇 ‘이루다’사건을 기억한다. 알고리즘에 투입된 대화 데이터에 윤리와 인권이 부족할 때, 알고리즘 결과의 질, 콘텐츠의 질이 떨어져 물의를 일으킨 사건이다.

사회 통념 데이터를 알고리즘에 투입한다 해도 소수 데이터는 과소대표되고, 다수의 데이터는 과대표 되는 경향이 발생할 수 밖에 없다. 사회에 존재하는 차별이 알고리즘 속에서 더욱 강화되는 것이다.

때문에 인간에게도 사회화 과정이 필요하듯, 알고리즘에도 사회화가 필요하다. 알고리즘이 인간을 위한 기술로 온전히 기능하기 위해서는 인간의 통제가 필요하다.

알고리즘이 대부분의 생활 영역을 간섭하고 있는 오늘과 같은 사회에서는 단순 규제가 아닌 기술에 대한 철학적 고민이 선행되어야 한다. 사회가 작동하는데 효율만이 제일 가치인지, 인간을 위한 기술은 무엇인지, 삶의 편의가 인간의 휴식과 행복에 우선할 수 있는지에 대한 모두의 고민과 공론화가 필요한 시점이다. /윤영찬 (국회의원·민주당·경기 성남시 중원구)

저작권자 © 전북일보 인터넷신문 무단전재 및 재배포 금지