뉴스 > 기획특집

알고리즘이 지배하는 세상

[Prologue] 서서히 정체를 드러내는 그림자

기사입력 2020-10-27 오전 12:36:15 입력
페이스북 트위터

[SNS 타임즈] 플랫폼을 움직이는 알고리즘 자체가 이용자 개인의 과거 히스토리, 과거의 개인 데이터에 기반해 컨텐츠를 추천하기 때문에 앞으로 나가지 못하게 하고, 과거에 붙들어 매는 근본적인 문제가 있다.

 

▲ (자료 사진. /SNS 타임즈)

 

10월초 네이버는 자사 플랫폼 소속 스마트 스토어와 네이버 TV의 상품과 영상을 검색에 우선적으로 노출시켜 플랫폼의 공정성을 침해했다는 위법행위로 공정거래위원회로부터 276억원의 과징금 처분을 받았다.

 

네이버는 수년간 네이버 포털의 검색 알고리즘을 40여 회 수정했는데, 그 중 5회 수정건만 공정위에서 꼭 집어서 알고리즘을 불공정하게 수정했다고 지적하고 과징금을 부과한 공정위의 조치에 불복하며 행정 소송을 제기했다.

 

9월초 국회에서 네이버 부사장 출신으로 현 정부 청와대 비서실 국민소통 수석을 역임한 윤영찬 더불어 민주당 의원이 야당 주호영 원내 대표가 국회 본회의 대표 연설 중 카카오 다음 포털 검색 순위 1위에 올라가자, 보좌진에게 보낸 "카카오 좀 들어오라고 하세요"라는 카톡 메시지가 기자 카메라에 찍혀 기사화 되자, 포털의 알고리즘이 그 정도로 쉽게 조작 가능한 것으로 인식되기도 했다.

 

포털 알고리즘은 검색시 컨텐츠를 노출하는 순서를 어떤 기준에 따라 결정하는 방식이다. 이젠 검색의 시대는 가고, AI알고리즘이 컨텐츠를 추천하는 시대가 왔다고들 한다.

 

넘쳐나는 정보의 홍수 속에서 볼만하거나 원했던걸 꼭 집어주니귀찮니즘에 빠진 현대인들이 선호할 수 밖에 없다.

 

유튜브를 클릭하면 영상 추천 목록이 나오는데, 유튜브 알고리즘이 개인에 특화된 방식으로 좋아할만한 영상을 추천해준다. 그 결과 유튜브 이용자들은 검색 보다 알고리즘이 추천하는 영상을 더욱 선호하게 된다.

 

알고리즘

 

초기 컴퓨터 상에서 작동하던 알고리즘은 계산을 신속하게 처리하는 수학능력, 연산 프로세스에 불과했었다. 그러나 요즘 빅데이터 기반 플랫폼상에서 작동하는 AI 알고리즘은 우리가 원하는 것, 편한 것, 친숙한 것들부터 검색해주고 연결해주면서, 우리 인간들을 다양한 특성에 따라 그룹으로 나누고 있다.

 

음악을 제공하는 플랫폼에서 노래를 추천하는 알고리즘을 만들 때 기본적인 방식은 선호하는 노래와 나이, 성별 등을 기초로 그룹핑한 후, 같은 그룹내의 고객이 좋게 반응한 노래를 동일 그룹내에서 그 노래를 아직 선택하지 않은 고객에게 추천하는 것이다.

 

네이버에서 키워드를 검색하면, 알고리즘에 의해 컨텐츠가 노출되는 순서가 정해진다. 예를 들어 상품을 클릭하는 경우, 여러 페이지에 노출되는데 실제 구매 결정은 거의 첫 페이지에서 이루어지므로 노출 순서를 결정하는 알고리즘의 공정성이 대단히 중요하다.

 

이처럼 요즘 의사 결정의 중심은 데이터와 알고리즘으로 흘러가고 있다. 

 

유튜브는 우리가 어떤 영상을 선호하는지 알아서 추천해준다. 넷플릭스는 우리가 어떤 영화를 선호할 것인지를 알고 추천해준다. 음원 사이트는 내가 무슨 음악을 들으면 좋은지를 가려낸다. 운전하면서는 내비게이션이 지시대로 따라 간다.

 

기업의 채용 과정도 최소한 1차는 AI심사로 대체되기 시작했다. 은행대출도 많은 경우 알고리즘에 의해 결정되는 추세다. 주식 투자의 70~80%는 알고리즘이 담당하고 있다. 앞으로 직업이나 전공 선택, 그리고 배우자 선택 등에 있어서 컴퓨터 알고리즘의 도움과 역할이 점차 더 커질 전망이다.

 

네이버와 구글은 포털 플랫폼에서 형성되는 빅데이터와 AI알고리즘에 의해 세상의 모든 것을 알고 미래까지 알 수 있다는 것이다. 그래서 네이버 신(), 구글 신() 이라는 용어가 나오기까지 했다.

 

빅데이터 기반의 플랫폼 기업은 이미 글로벌 세상의 빅브라더가 되고 있다. 애플, 구글, 아마존, 페이스북 등이 대표적인 사례다.

 

빅데이터 기반 플랫폼상에서 컨텐츠를 추천하는 알고리즘의 원리를 보여준다. (출처: 삼성 뉴스룸)

 

알고리즘의 폐해

 

빅데이터 기반 플랫폼기업들은 사용자들을 가능한 한 플랫폼에 많이 유입시켜 오랜 시간 동안 붙잡아 놓는 것을 목표로 알고리즘을 만들어 간다. 그 결과 사용자들이 선호하는 대상을 뽑아내 맞춤형으로 제공해 주게 된다.

 

알고리즘은 사람들이 인터넷 공간에서 컨텐츠 만나는 방법을 송두리째 바꾼다. 이런 기능을 비판적 전문가들은 필터버블(Filter Bubble)이라고 한다.

 

필터버블은 인터넷 검색 업체나 SNS 등이 이용자 맞춤형 정보를 제공하는 과정에서 이용자가 특정 정보만 편식하게 되며 편향된 정보 세상에 갇히게 되는 현상을 가리키는데 엄청난 대가가 뒤따른다.

 

유튜브 이용자가 개인 맞춤형 추천 영상에 감사하는 긍정적인 반응을 플랫폼에 피드백하는 등의 과정 속에서 지속적으로 개인 데이터를 축적해서 더욱 더 개인에 특화된 정교한 알고리즘으로 다듬어 간다.

 

 

유튜브의 개인에게 특화된 알고리즘으로 추천한 영상 컨텐츠에 감동하는 이용자 리뷰.

 

이런 방식으로 당신이 누구인지, 뭘 원하는지, 뭘 찾을 것인지, 알고리즘을 만들어 당신과 당신의 친구들이 인터넷 공간에서 끝임 없이 만들어내는 개인 데이터를 활용해서 당신을 이 세상에서 가장 잘 아는 정교한 알고리즘으로 업그레이드 해간다.

 

문제는 이 알고리즘에는 내가 좋아하는 사람만 있고, 내가 좋아하는 생각만 있고, 내가 좋아하는 관심사만 있다는 것이다.

 

그로 인해 사용자들은 자신이 좋아하고 선호하는 것만 보게 되는 위험성에 빠지게 된다. 결과적으로 세계관이나 역사관, 이념관 등에서 확증 편향(Confirmation Bias)에 빠져 편협한 가상 세상을 살아갈 수 있다.

 

마치 반향실(反響室) 속에서 자신이 좋아하는 목소리만 듣다가 사유의 절름발이, 확증편향의 노예로 전락할 수 있다. 지금처럼 다양한 문화와 가치를 품어야 하는 대규모 사회에서는 오작동을 일으킬 수 있다.

 

두 쪽으로 갈라진 반향실에서 나는 목소리 중 어느 쪽이 크냐에 따라 선거 결과도 결정된다. 집권 후에도 자신을 지지하는 사람들의 목소리에 귀 기울일 수밖에 없기 때문에 누가 권력을 잡아도 통합의 정치에서 멀어지고, 민주주의는 쇠퇴하게 된다.

 

세상 사람들이 플랫폼상에서 양극단으로 확증편향에 빠지게 되면 공정성이 검증된 알고리즘이더라도, 그것이 편향되어 있다고 비판하는 악순환에서 벗어나지 못하게 된다. 이와 같은 알고리즘의 부작용은 국가사회 여론 형성에도 악영향을 미친다.

 

조국 사태를 놓고 정부에 반대하는 광화문 집회와 지지하는 서초동 집회로 여론이 첨예하게 갈린 것을 보면, 우리나라 시민들 중 상당한 비율이 확증 편향에 빠져 있다는 상징적인 증거가 된다.

 

구글, 네이버, 페이스북, 유튜브 등과 같은 빅데이터 기반 플랫폼의 영향력이 상상이상으로 지대해지면서 알고리즘에 대한 평판도 다음과 같이 극단적이고 부정적이다.

 

"알고리즘이 만들어가는 편향된 세상"

"포탈, SNS의 알고리즘에 의한 사회적 갈등 증폭"

"쓰레기 같은 알고리즘"

"악마 같은 알고리즘"

 

플랫폼을 움직이는 알고리즘 자체가 이용자 개인의 과거 히스토리, 과거의 개인 데이터에 기반해 컨텐츠를 추천하기 때문에 앞으로 나가지 못하게 하고, 과거에 붙들어 매는 근본적인 문제가 있다.

 

요즘 전세계적인 극단의 대결이나 진보와 보수 갈등, 지역 갈등, 세대 갈등, 남녀 젠더 갈등 등이 악화되는 원인을 포털과 SNS 알고리즘에서 찾는다면 지나친 비약일까?

 

본 특집에서는 빅데이터 플랫폼을 움직이는 알고리즘에서 나타나는 다음과 같은 부정적인 이슈를 차례대로 다뤄 보고자 한다.

 

1: 세상을 움직이는 권력, 알고리즘

2: 사회적 갈등을 증폭하는 포털, SNS 플랫폼 알고리즘

3: 알고리즘이 만들어 가는 편향된 양극화 세상

4: 플랫폼 노동자를 노예로 만드는 알고리즘

5: 플랫폼 AI 알고리즘의 중립성과 공정성

6: 빅데이터 플랫폼 알고리즘 검증 필요성

 

 

- Copyright, SNS 타임즈 www.snstimes.kr

이상일 논설고문 (editor@snstimes.kr)

최근기사

네티즌 의견28
내용은 200자 이내로 적어야합니다. 기사와 무관한 글은 임의로 삭제 될 수 있습니다.
(스팸방지코드  )
의견
쓰기

  • 김덕수
    2020-10-28 오후 3:46:09
    우리 자신도 모르게 알고리즘에 중독되고 지배 당하는 세상이 올 것만 같습니다. AI 알고리즘을 검증할 수 있도록 법제도 및 물리적/논리적 안전장치 마련해야 할 것 같습니다.
  • 김태환
    2020-10-27 오후 5:28:49
    지금까지는 몰랐던 알고리즘에 대해 공부하겠습니다
  • 정이도
    2020-10-27 오후 1:10:06
    알고리즘을 이해하고 앞으로의 세상을 움직이는 자세를 준비햐야 하겠습니다. 기고 감사합니다
정보네트워크
최근에 가장 많이 본 기사 인물
최근 가장 많이 본 기사인물은 독자들이 기사인물에 대한 클릭수가 실시간으로 적용된 것입니다.
최근에 많이 본 기사

전체메뉴