최종편집2022-05-19 02:33 (목)
[예술비밥] 안전 장치 없는 기술 진보에 정의는 없다
상태바
[예술비밥] 안전 장치 없는 기술 진보에 정의는 없다
  • 안혜경
  • 승인 2021.05.21 10:00
  • 댓글 0
이 기사를 공유합니다

‘소셜 딜레마’와 ‘알고리즘 편견’에 대하여
넷플리스 다큐 '소셜딜레마' 

코로나로 국경문턱이 높아졌지만 인터넷과 소셜 네트워크 기술인 영상통화와 줌 토크 덕에 식구들 안부도 묻고 전시도 준비 중이다. 인터넷 소통기술이 부재의 빈자리를 메워주고 위안하고 보듬는 따스한 인간애적 기술이기만 하면 좋겠다. 그러나 지나치게 뜨거워진 그 열기가 모든 걸 다 녹여내는 것 같아 두렵다.

검색과 이메일 확인과 자료 주고받기를 위해 인터넷을 접속하고 있지만 검색엔진에 줄줄이 대기하고 있는 뉴스 제목들이 심상치 않다. 논란의 대상이 된 사건을 자극적인 제목으로 다룬 기사 일수록 광고로 도배되기 일쑤고 내용은 꽝인 경우가 허다해 바로 나오게 되지만 이미 내가 클릭한 사이트 주소는 그들의 데이터베이스에 기록된 뒤다. 혹여 광고에 혹해 클릭이라도 했다면 그 광고를 바로 닫았다 해도 팝업이 다시 뜨면서 내 이성을 배반한 손가락으로 구매를 클릭하도록 징그럽게 따라붙는다. 이미 나의 사고와 행동 양식은 검색 엔진의 볼모가 된 것이다. 그 광고를 클릭하려는 나와 무시하려는 내가 수시로 갈등하게 된다. 안전장치 없는 기술 진화의 시대에 나와 너의 행동과 사고가 방대한 데이터가 되어 무료로 모아져 IT산업계로 쌓이는 경로다.

실리콘 밸리 전문가들이 자신들의 창조물에 대해 용기 내어 경고하는 <소셜 딜레마 >. 안면 인식 소프트웨어가 왜 흑인여성의 얼굴은 제대로 인식하지 못하는지 그 이상한 점을 발견하고 질문하며 알고리즘 속 편견과 차별을 파헤친 <알고리즘의 편견>. 이 두 다큐멘터리는 소셜 미디어 중독과 가짜 뉴스에 시달리는 현대사회의 문제를 자연환경재앙 이상의 문제로 인식하게 만들었다. 막연하게 느끼던 인터넷기술의 감시와 편견 그리고 이들이 조장하는 분리와 증오와 불신의 문제들이 전문가 자신들의 고백과 추적 연구와 실증으로 섬뜩하게 보여진다.

페이스북, 이메일 등 SNS 기술이 급격히 발전하면서 사람들은 중독되기 시작했고 일을 하는데도 필수 요소가 되어버렸다. 공짜는 없다. 더 많은 사람들이 접속하고 그들에게서 무료로 얻어낸 데이터로 IT 업계 곡간이 넘쳐난다. 우리를 조정해 돈을 버는 방식이다. 고객을 사용자라 부르는 산업은 불법 마약과 소프트업계 뿐이란다. 이제 더 이상 수퍼컴퓨터를 바둑이나 체스로 대적해 이길 인간은 없을 것이다. 축적된 데이터로 만들어진 지능은 이런 시합에서 이길 수 있는 능력을 갖췄지만 많은 위험이 도사리고 있었다. 

넷플리스 다큐 '알고리즘 편견'의 한 장면.
넷플리스 다큐 '알고리즘 편견'

아마존이 AI(인공지능)로 직원을 채용하려다 포기했다. 여성에 관련된 어떤 이력이라도 들어가면 AI가 채용에서 배제하고 있음을 알게 되었기 때문이다. 이는 학습능력이 뛰어난 AI가 집적된 편견도 함께 받아들여 그것을 기준으로 판단한다는 한 작은 사례에 불과했다. 수많은 사람들이 자신들의 목숨을 걸고 성과 인종 등에 관한 편견을 없애려 오랜 기간 투쟁해왔는데, 기술에만 의존하는 미래에는 편견까지도 축적한 데이터가 만든 알고리즘으로 오히려 정의나 평등과 같은 가치의 퇴보가 심화될 거라는 경고였다.

실리콘밸리의 거대 회사들이 지난 10년간 자신들이 개발한 기술의 ‘사용자인 나’도 모르게 ‘나의 감정과 행동’을 관찰 기록하여 전례 없는 양으로 광고주에게 팔고 있다. 특히 캘리포니아에 있는 20-35세 정도의 백인남성 50명의 디자이너가 20억 명의 사람들에게 영향을 끼치고 있다니! 호러 영화 수준이 아닌가?

올려놓은 광고에 ‘사용자’가 예측대로 행동하지 않으면 설득의 심리학까지 섭렵한 전문기술자들이 관련 데이터들을 끼워 넣어 자제를 방해하고 누군가의 행동을 바꾸게 한다. 그 장면을 본 순간 나의 분기가 탱천해진다. 그러나 인공지능의 꾐이 아닌가? 하느님이 금한 선악과의 유혹과 경쟁할 만하지 않을까? 시시 콜콜 사진 찍어 SNS에 올리는 데이터 상납도 모자라 좋아요에 매달리고 비현실적인 미의 기준이나 욕망과 호기심으로 끊임없이 접속하며 불안과 우울을 조장한다. 이것을 2011년 이후 70%나 증가한 미국 10대 소녀 자살률의 원인으로 꼽는다.

비슷한 뉴스들에 현혹되어 반복해서 보고 들으면 다른 의견을 받아들이기 어렵다. 기술이 인간의 약점을 압도해 중독, 분노, 허영 등의 감정을 기초로 객관성을 잃게 만들고 있다. 알고리즘은 상업적 이득이나 감시와 배제를 위해 만들어지고 있었고 이 와중에 생겨난 가짜뉴스의 파급력이 6배나 강력하다는데 진짜 뉴스와의 구별도 어려워진다. 클릭수가 진실로 둔갑한다. 이런 알고리즘은 사회의 분극화를 가속화시켜 단기적으로는 내전으로, 20년 쯤 후면 문명이 망가질 수 있다는 IT전문가의 진단을 들으면 정말 소름이 쫙 끼친다. 

최근 코로나와 백신을 두고 벌어지는 가짜 뉴스와 이로 인한 불신과 차별 분노와 폭력들이 떠오른다. 부추겨진 증오심이 인종, 성, 계층 간 폭력을 심화시키다보면 기후위기 이전에 인간이 멸종할 수도 있겠다. 어떻게 이를 피할 수 있을까?  페이스북, 트위터, 프린터리스트, 인스타그램 등등은 봉함을 열고 나온 저주의 기술일까?

“필멸의 인간이 저주 없이 광대해질 수는 없다” 기원전 5세기 시인 소포클레스가 <소셜 딜레마> 첫 페이지에 불려나왔다. 기술재앙도 환경재앙 못지않게 시급한 문제로 다가왔다.

 

안혜경

안혜경 아트스페이스·씨 대표

예술은 뜬구름 잡는 이들의 영역이 아니라 보이지 않는 것을 포착해 굳어진 뇌를 두드리는 감동의 영역이다. 안혜경 대표가 매월 셋째주 금요일마다 연재하는 '예술비밥'은 예술이란 투명한 창으로 평범한 사람들의 일상과 사회를 엿본다. 

 


관련기사

댓글삭제
삭제한 댓글은 다시 복구할 수 없습니다.
그래도 삭제하시겠습니까?
댓글 0
0 / 400
댓글쓰기
계정을 선택하시면 로그인·계정인증을 통해
댓글을 남기실 수 있습니다.