뉴스 > 기획특집

알고리즘이 지배하는 세상(5)

플랫폼 AI 알고리즘의 중립성과 공정성

기사입력 2020-12-01 오전 11:15:31 입력
페이스북 트위터

[SNS 타임즈] 포털, SNS등 플랫폼의 검색과 추천 알고리즘 조작 논란이 불거질 때 마다 카카오와 네이버는 ‘AI 알고리즘의 결과이기 때문에 인위적인 개입이 있을 수 없다며 해명해왔다.

 

그러나 기계가 한다는 이유로 중립성이 보장되는 것은 아니다.

 

이처럼 알고리즘은 중립성과 공정성 시비가 있을 때 기계로 시선을 돌려 책임을 회피하는 수단으로도 쓰인다. 국내 포털들도 중립성과 공정성을 얘기할 때 알고리즘을 주로 앞세운다.

 

알고리즘이 가치 중립적이고 공정한가? 그렇지 않다면 편향성 검증과 공정성 확보는 어떤 방식으로 이뤄져야 할까?

 

최근 국내에서는 정치권의 포털 통제 의혹이 불거지고, 플랫폼 기업의 갑질이 사회문제로 부상함에 따라 컨텐츠 노출과 배열을 결정하는 알고리즘의 중립성과 공정성에 대한사회적 감시요구가 거세지고 있다.

 

AI알고리즘은 중립적인가?

 

네이버와 카카오의 뉴스 배열은 사람의 손을 거치지 않고 AI알고리즘을 통해 이뤄지지만 초기 AI역시 사람이 만든 데이터를 기반으로 학습하고, 특정한 방향성으로 결과값이 도출되도록 프로그램을 만들 가능성도 배제할 수 없다.

 

정희용 국민의 힘 의원은 최기영 과학기술정보통신부 장관에게알고리즘은 결코 중립적이지 않고 만든 사람이 책임져야 한다포털이 알고리즘을 공정하게 운영할 수 있도록 과기부에서 살펴야 할 것 같다고 요구했다.

 

이에ICT 전문가인 최 장관은알고리즘을 중립적으로 만드는 것은 굉장히 어려운 일이고 알고리즘 공개는 영업비밀 문제가 있어서 쉽지 않다, “중립적으로, 편향성 있지 않게 하는 건 인공지능 윤리에 들어가야 한다고 생각하지만 강제하긴 어렵다고 답변했다.

 

실제로 유럽연합 집행위원회가 2017 6월 구글이 인터넷 검색결과에서 자사의 비교쇼핑서비스(구글 쇼핑)를 우대했다며 과징금을 물렸을 때도, 구글 본사의 서버를 조사해 자료를 확보한 게 아니라 자료 제출 요구 등 간접적 방법을 동원하는데 그쳤다.

 

그 동안 구글이나 아마존의 알고리즘이 특정 인종이나 지역을 차별한다는 논란이 끊이지 않았으나, 알고리즘 자체에 대한 검증이 이뤄지진 않았다.

 

일반적으로 알고리즘 자체는 인간이 설정해놓은 목표나 목적이 기업의 경우 매출을 극대화 하는 방향으로 자동으로 변경되게 만들어지며, 이 과정에서 목적을 달성하지 못하는 경우는 알고리즘이 변경되고 조작된다. AI가 기업이 설계한대로 혹은 기업의 현상을 반영해 판단할 가능성이 높다.

 

현재 AI알고리즘은 초보적인 기술 수준이기 때문에 세상의 편향된 데이터를 토대로 그대로 학습할 수 밖에 없으며, AI가 스스로 자신의 알고리즘을 체크해 편향성을 스스로 수정하고 보완할 수 있는 수준은 돼야 중립성을 기대할 수 있다.

 

알고리즘의 윤리성, 공정성

 

알고리즘이 적용된 대부분의 산업에서는 개인의 이익과 공공의 이익이 충돌하는 상황이 발생한다.

 

예를 들어 암을 치료하는데 사용되는 의료기기를 만들 때 개인과 인류 중 누구를 위해 작동되어야 하는지, 그리고 인류 전체 이익을 위해 만들어지는 기계는 되도록 많은 생명을 살리는데 우선을 둘 것이고, 보험사의 목적에 맞춘 기계는 되도록 비용을 적게 들이도록 할 것이고, 제약회사에 중점을 둔 기계는 특정 약품을 다른 약품 보다 많이 쓰도록 초점을 맞출 것이다.

 

자율주행차의 경우에도 유사한 딜렘마가 발생한다. 차량을 설계할 때 탑승자와 보행자 중 어느 목숨을 우선해야 할지, 충돌을 피할 수 없는 상황에서 그대로 달려 보행자를 희생시키고 탑승자를 살릴 것인지, 반대로 콘크리트 벽을 들이박고 보행자를 살릴 것인지의 상황을 직면할 수 있다.

 

이처럼 책임과 윤리적 문제는 알고리즘에서 불가피한 논제다.

 

이런 딜레마는 알고리즘의 신뢰를 넘어 인간의 한계와 가치까지 결정할 것으로 요구받는다. 목표와 동기가 충돌하는 경우 알고리즘의 위험은 은폐되고 이익은 부풀려진다.

 

알고리즘의 담합과 EU의 개인정보보호 규정 도입, 알고리즘의 윤리성·공정성·편향성 등이 AI알고리즘 관련 주요 이슈와 쟁점으로 부각되고 있다. (자료 사진. /SNS 타임즈)

 

알고리즘은 편향성을 가질 가능성이 높다. 먼저 알고리즘을 설계하는 개발자의 의식적, 무의식적 편향이 들어간다.

 

개발자의 편향에는 그에게 월급을 주는 회사의 편향이 아주 큰 영향을 미칠 수밖에 없다. 개발 회사의 편향 가운데 가장 강력한 것은 지금 거금을 투자해서 짜고 있는 알고리즘이 회사에 이익을 가져다 줘야 한다는 것이다.

 

이를 부정한다면 이 회사는 자선단체 아니면 사기집단이다. 결국 거대 기술 기업의 알고리즘은 개발회사의 이익에 가장 부합하도록 만들어지는 것이다. 이는 아주 자연스러운 것으로 전혀 이상하지 않다.

 

플랫폼 개발 회사 편일 수밖에 없는 알고리즘이 누구에게나 공정하다고 알려진다는 것이다.

 

포털 플랫폼에 들어와 사업하는 중소업체들은 알고리즘이 공정할 것이라고 믿고 열심히 일한다.

 

동영상 플랫폼을 찾는 개인들은 지금 보는 화면이 내가 원하는 것이라고 철석같이 믿고 몇 시간을 보낸다. 열심히 일하고 몇 시간을 보내면 나에게도 이익이 돼야 하는데 과연 이익이 되는지, 내가 정당한 몫을 가져오는지 도대체 알 길이 없다.

 

알고리즘이 공정하다고 믿는 한 우리는 문제가 있는지 생각조차 못하고 지나간다. 알고리즘의 편향은 이래서 무섭다.

 

알고리즘의 공정성 문제도 있다.

 

모든 걸을 공정하게 처리할 것으로 알았던 알고리즘이 편향을 드러낸다. 범죄 용의자를 분류할 때 백인에 비해 흑인이 2배 정도 고위험군으로 분류될 확률이 높은 사례에서 보는 것처럼, 알고리즘이 모든 사람을 똑같이 다루지 않는다는 것이다.

 

구글의 알고리즘은 성차별과 인종차별의 대표적 사례로 비난 받는다.  구글 검색창의 자동 완성 문구는 가장 적나라한 성차별의 전시장이다.

 

검색창에여성은 해서는 안 된다’(women should not)를 치면권리를 가져서는 안 된다’ ‘선거권을 가져서는 안 된다’ ‘일을 가져서는 안 된다가 뜨고, ‘여성은 해야 한다’(women should)를 치면집에 머물러야 한다’ ‘휘어 잡혀야 한다’ ‘주방에 있어야 한다’ ‘교회에서 말하지 말아야 한다는 등의 문장이 자동으로 완성된다.

 

인종차별은 어떤가?

 

오바마가 미국 대통령이던 시절검둥이 집을 구글 맵에 검색하면 백악관이 표시됐다. ‘흑인은 왜 그토록이라는 문구를 치면시끄러운가’ ‘게으른가’ ‘인색한가등의 단어가 자동 완성 문구로 뜨고, ‘흑인 여성은 왜 그토록이라고 입력하면화를 내는가’ ‘목소리가 큰가’ ‘인색한가’ ‘게으른가등의 문장이 완성된다.

 

‘10대 흑인 3이란 단어로 이미지 검색을 하면 무수히 많은 10대 흑인들의 머그샷(구금 과정에서 찍는 얼굴 사진)이 뜨지만, ‘10대 백인 3으로 검색하면 건전한 모습의 백인 소년들의 사진이 나열된다.

 

결론적으로 구글의 검색 결과는 오로지백인 남성들만을 주요 고객으로 모시는 상업적이고 차별적이고 비윤리적인 상품일 뿐이라는 게 비판자들의 주장이다.

 

이런 비판에 대해 구글은 알고리즘의 성적, 인종적 편향성 지적에 대해, 항상 이것은 사용자들의 사용 빈도에 따른 중립적이고 객관적인 결과물일 뿐이기에통제 밖의 문제라고 대응해왔다.

 

이처럼 알고리즘의 중립성과 공정성 시비가 있을 때 기계로 시선을 돌려 책임을 회피하는 전략을 쓴다.

 

국내 포털들도 중립성과 공정성을 얘기할 때 알고리즘을 주로 앞세운다. 알고리즘을 둘러싼 또 다른 문제점은 알고리즘이 접근할 수 없고 분석할 수 없는 신화의 영역으로 간주되며 권력화하고 있다는 점이다.

 

비판자들은 만일 구글이 자신의 알고리즘에 대해 책임이 없다면 누가 책임져야 한단 말인가라는 질문은 던진다.

 

애플과 구글의 인앱 결제(IAP: In App Payment)

 

애플은 앱스토어에서 자사의 내부결제 시스템만 이용하도록 제한한다. 이것을 인앱 결제(IAP: In App Payment)라고 한다. 애플에 이어 구글도 인앱 결제를 도입할 것이라고 밝혔다.

 

국회에서는 앱 마켓 사업자가 모바일 컨텐츠 사업자에게 특정 결제 방식을 강제하는 행위를 금지하는 전기통신사업법 개정안을 준비하고 있다.

 

그러자 애플은 중소기업의 경우는 수수료를 30%에서 15%로 인하하는 계획을 발표했고, 구글은 인앱 결제 시행 시기를 2021 9월로 연기하였다.

 

구글을 비롯한 글로벌 사업자는 해외의 본사에서 운영하는 서비스라는 이유로 국내법을 피해왔기 때문에 국내법을 개정하더라도 실효성 있는 제재가 가능할지 의문이다.

 

세계 모바일OS를 양분하고 있는 애플의 iOS와 구글의 안드로이드는 자사의 플랫폼에서 일어나는 앱의 판매 금액에서 30%를 플랫폼 수수료로 가져간다.

 

구글과 애플이 만들어내지 않았다면 세상에 존재하지 않았을 시장이자 판매루트이기 때문에 앱 개발사들은 불평 없이 이 비용을 지불해왔다.

 

그러나 스마트폰이 등장한 지 10년이 넘었고, 세상은 모바일을 중심으로 재편됐다. 이제 모바일 플랫폼은 추가적인 판매루트가 아니라, 가장 중요하거나 업체에 따라서는 유일한 판매루트가 된 것이다.

 

그 사이 애플과 구글은 모바일 플랫폼 제국이 되버렸고, 이를 통해 돈을 버는 업체들은 플랫폼 통행료가 너무 과도하다면서 새로운 룰을 요구하기 시작한 것이다.

 

실제 해외에서는 구글과 애플에 맞서 싸움이 벌어지고 있다. 전 세계 이용자 수만 35000만명으로 전세계 게임 1위를 차지한 총쏘기 게임 '포트나이트'가 최근 구글과 애플 앱스토어에서 삭제됐다.

 

포트나이트는 에픽게임즈가 2018년 출시한 게임이다. 당시 출시 5개월만에 1억 다운로드란 대박 기록을 세웠지만, 번 돈의 30%는 앱스토어 측이 가져갔다.

 

에픽게임즈는 8월 초 새로운 아이템 구매 기능을 도입하면서 애플이나 구글의 결제 시스템을 사용하지 않고, 자신들의 결제 시스템을 이용하면 20% 할인된 가격에 게임 아이템을 살 수 있도록 했다.

 

그러나 애플과 구글은 당장 포트나이트가 규정을 어겼다며 각각 앱스토어와 구글플레이에서 삭제했다. 에픽게임즈는 곧장 법원에 '애플과 구글이 수수료를 강제하고 있다'며 반독점 행위 소송을 제기했다. 같은 상황에 놓인 페이스북, 티파이, 매치그룹 등 앱 사업자도 에픽게임즈 지지에 나섰다.

 

앱마켓 업체에 반기를 든 에픽게임즈의포트나이트’. 오른쪽 사진은 에픽게임즈가 애플을 독재자에 비유한 영상 장면. (출처: 에픽게임즈)
 

반면, 반론의 목소리도 눈여겨 볼 필요가 있다. , 앱 기반 경제는 애플과 구글의 주도로 세상에 없던 시장이 새롭게 창출됐다는 점과 초기 막대한 투자와 시장 형성을 위해 무료 서비스를 제공하는 등 역할론에 무게를 싣고 있다.

 

이런 생태계 조성을 위한 노력 후 유료로 전환하면서 자사의 결제 방식을 강요하는 것을 갑질이라고 볼 수 있을지 논쟁거리가 될 수 있다는 것이다

 

만약 국회가 앱상에서 이루어지는 모든 결제를 인앱으로 강제하고 수수료로 결제금액의 30%를 부과하는 것을 금지하는 법안을 통과시키면 FTA 위반 등 국가간 분쟁꺼리가 될 소지가 있다.

 

플랫폼을 움직이는 AI알고리즘의 규제 필요성

 

플랫폼 중립성을 망중립성(Network Neutrality) 처럼 정부에서 정책적으로 규제해야 하는 것인지, 아니면 시장 자율에 맡기는 것이 적절한지는 앞으로의 전방위적 플랫폼 사업 전개 추이를 보고 대응하는 것이 효율적이란 지적이다.

 

알고리즘이 공정하지 않고 편향된 결과를 내는 요인으로 첫째, 데이터 자체를 잘못 고른 것. 둘째, 불완전하고 부정확한, 시기에 안 맞는 데이터. 셋째, 편향적인 데이터 선택. 넷째, 역사적인 편향성 등이다.

 

이를 보면 편향적인 결과를 얻기 위해 일부러 의도하지 않더라도 데이터의 문제점 때문에 공정하지 않고 편향된 결과가 나올 수 있음을 알 수 있다.

 

그렇기 때문에 알고리즘이 잘못된 결과를 낼 수 있다는 사실과 또, 사람에 의해 끊임없이 보정돼야 한다는 점을 명확히 인식하며 대처해 나갈 필요가 있다는 지적이 끊임 없이 제기되고 있다.

 

 

- Copyright, SNS 타임즈 www.snstimes.kr

이상일 논설고문 (editor@snstimes.kr)

최근기사

네티즌 의견28
내용은 200자 이내로 적어야합니다. 기사와 무관한 글은 임의로 삭제 될 수 있습니다.
(스팸방지코드  )
의견
쓰기

정보네트워크
최근에 가장 많이 본 기사 인물
최근 가장 많이 본 기사인물은 독자들이 기사인물에 대한 클릭수가 실시간으로 적용된 것입니다.
최근에 많이 본 기사

전체메뉴