[SNS 타임즈] 전문가들은 정부가 중독성이 있는 향정신성 약물 사용을 제한하는 것 같은 원리로, 마약보다 더 크게 부정적인 영향을 미치는 향정신성 기술인 알고리즘을 규제하고 감시해야 한다고 주장한다.

구글의 행동 강령 첫번째 조항은 ‘사악해지지 말자’(Don’t be Evil)로 알려져 있다.

구글의 이 강령이 지켜지고 있다고 믿는 소비자 비율은 얼마나 될까?

플랫폼을 움직이는 알고리즘은 정치적으로는 중립성을, 경제적으로는 공정성을, 사회적으로는 윤리성을 가져야 한다.

포털 기사 검색시 알고리즘이 어떤 기사를 첫 화면에 보여주는지에 따라 여론에 영향을 미치게 되기 때문에 정당이나 정치인의 지지도가 달라질 수 있다.

또 온라인 쇼핑 몰에서는 알고리즘이 어떤 상품을 먼저 보여주는지에 따라 상품 매출에 영향을 미친다. 이처럼 알고리즘 영향력이 막강하기때문에 중립성 검증이 필요하다.

글로벌 플랫폼 기업은 이미 정치 권력을 추월하며, 세상 경제와 일상을 지배하는 플랫폼 제국을 형성하고 있다.

일부 전문가들은 정부가 중독성이 있는 향정신성 약물 사용을 제한하는 것 같은 원리로, 마약보다 더 크게 부정적인 영향을 미치는 향정신성 기술인 알고리즘을 규제하고 감시해야 한다고 주장한다.

알고리즘 중립성, 공정성, 윤리성 침해 사례

2020년 9월초 윤영찬 더불어 민주당 의원이 야당 주호영 원내 대표가 국회 본회의 대표 연설 중에 카카오 다음 포털 검색 순위 1위에 올라가자, 보좌진에게 보낸 "카카오 좀 들어오라고 하세요" 라는 카톡 메시지가 기자 카메라에 잡혔다.

이것이 기사화된 후 포털의 알고리즘이 그 정도로 쉽게 조작 가능한 것으로 인식되면서 결과적으로 알고리즘의 정치적 중립성 침해 우려가 나왔다.

2020년 10월초 네이버는 자사 플랫폼에 소속되어 있는 스마트 스토어와 네이버 TV의 상품과 영상을 검색시 우선적으로 노출시켜 플랫폼의 공정성을 침해했다는 위법행위로 공정거래위원회로부터 276억원의 과징금 처분을 받았다.

네이버는 수년간 네이버 포털의 검색 알고리즘을 40여 회 수정했는데, 그 중 5회 수정건만 공정위에서 꼭 집어서 알고리즘을 불공정하게 수정했다고 지적하고 과징금을 부과한 공정위의 조치에 불복해 행정을 소송 제기했다.

알고리즘이 적용된 대부분의 산업에서는 개인의 이익과 공공의 이익이 충돌하는 상황이 발생한다.

예를 들어 암을 치료하는데 사용되는 의료기기를 만들 때 개인과 인류 중 누구를 위해 작동되어야 하는지?

인류 전체 이익을 위해 만들어지는 기계는 되도록 많은 생명을 살리는데 우선을 둘 것이고, 보험사의 영업이익에 초점을 맞춘 기계는 되도록 비용을 적게 들이도록 할 것이고, 제약회사의 실적에 초점을 맞춘 기계는 자사 약품을 다른 약품 보다 많이 쓰도록 초점을 맞출 것이다.

빅데이터 기반 알고리즘 모델에 의한 약탈적 광고의 대량적인 살포가 약탈 경제의 확산으로 이어져 양극화를 더욱 심화시킨다.

국내에서 약탈 경제의 사례로는 영세민을 대상으로 주거 환경을 제공하는 쪽방, 고금리 급전을 제공하는 일수 사채업, 플랫폼 기반의 대리기사, 카풀 기사 등을 들 수 있다. 플랫폼 알고리즘에 윤리성이 요구되는 이유이다.

자율주행차의 경우에도 윤리적인 딜렘마가 발생한다. 차량을 설계할 때 탑승자와 보행자 중 어느 목숨을 우선해야 할지? 충돌을 피할 수 없는 상황에서 그대로 달려 보행자를 희생시키고 탑승자를 살릴 것인지, 반대로 콘크리트 벽을 들이박고 보행자를 살릴 것인지의 상황에 직면할 수 있으므로 AI의 윤리성 가이드라인이 필요한 상황이다.

구글의 플랫폼 사업 전략으로 본 공정성 논란 사례

최근 구글은 2021년부터 구글 스토어에서 공급된 앱을 이용하는 소비자가 결제하는 금액의 30%를 수수료로 인앱 방식의 결제를 의무화 하겠다고 발표했다. 애플처럼 따라가겠다는 것이다.

회사 행동 강령의 첫번째 조항이 ‘사악해지지 말자’(Don’t be Evil)인 구글의 이런 모습을 보고, 이 강령이 지켜지고 있다고 믿는 소비자들은 얼마나 될까?

구글은 이제까지 게임에만 적용했던 인앱 결제를 동영상, 음악, 웹툰, 오디오북, 전자책 등 대부분 컨테츠와 서비스로 확대하겠다는 것이다.

구글은 글로벌 앱 유통 생태계를 활성화하고 지속 가능한 상태를 유지하는데 재투자하겠다고 대응하고 있다. 그들은 플레이 스토어가 앱 개발자와 컨텐츠 창작자에게 글로벌 비즈니스 기회를 주고 이용자에게는 편리하고 안전하게 앱과 컨텐츠를 구매할 수 있게 해주는데 비용이 필요하기때문에 수수료 징수는 정당하다고 주장한다.

그러나 이런 조치로 앱 개발자와 컨텐츠 창작자에게는 수수료 부담이 커질 수 밖에 없고, 이는 이용자들의 서비스 이용료 인상으로 이어질 수 밖에 없는 결과를 초래하게 된다.

구글이 주도한 안드로이드 기반의 개방형 모바일 생태계는 카카오톡, 배달의 민족, 마켓 컬리 등과 같은 스타 기업들이 탄생할 수 있었던 바탕이 된 것은 긍정적인 부분이다.

돈 없고 빽 없어도 열정 하나로 성공할 수 있다는 믿음으로 구글 플랫폼으로 몰려들었다.

그렇다면 구글이 변심하여 갑자기 구글 플랫폼을 통해 이루어지는 모든 거래에 30% 통행세를 받겠다는 것이 구글의 배신일까?

글로벌 플랫폼 사업의 속성이 초기에는 개방, 무료를 포장하며 생태계를 조성하지만 시장을 독점한 뒤는 시장 지배력을 이용해 수익을 챙기는 방식으로, 이는 플랫폼 기업의 전형적인 비즈니스 모델이다.

특히 국내 스마트폰 이용자의 80%가 안드로이드를 쓰고 있다. 그렇게 구글은 모바일 생태계에 최고의 권력자가 됐다.

구글이 내놓는 플레이 스토어 정책 하나 하나가 스타트업들의 성패를 가른다. 구글의 유튜브 역시 광고 분배 방식과 컨텐츠 관리 가이드라인에 따라 전업 유튜버들의 생계가 좌지우지된다.

이처럼 구글이 최초 설계한 플랫폼 독점화 전략을 미리 인식했더라도 대안이 없지 않았을까 싶다.

구글의 사례에서 본 것처럼 빅데이터 기반의 플랫폼은 오늘날 세계화된 시장자본주의에서 강력한 ‘보이지 않는 손’이다.

알고리즘에 따라 작동되는 플랫폼은 그것을 만든 기업의 이익을 우선하므로 공정성이라는 가치를 중요하게 고려하지 않는다. 어떤 알고리즘의 수학 모형도 인간의 편견과 지식을 바탕으로 만들어지는 한 불완전성을 내포하기 마련이다.

그럼에도 빅데이터 기반의 알고리즘은 신과 같은 완전한 존재로 인식되곤 한다. 그 이유는 알고리즘의 작동 원리를 알 수 없기 때문에 알고리즘의 주술적 효과가 극대화되기 때문이다, 이것은 마치 중세시대 성직자들이 성서를 독점해 사회를 지배하던 문화적 암흑시대에 비유할 수 있다.

플랫폼 기업에 대한 강력한 비판자들은 구글은 이제 악마가 되고 있다고 비판한다. 구글은 개인정보를 확보해 이 정보를 이용해 사용자를 중독시켜 수익 창출의 도구로 활용한다는 것이다.

사용자가 늘어날수록 더 많은 사용자가 몰려드는 네트워크 효과 때문에 플랫폼의 힘은 더욱 커지게 된다. 구글의 이익이 소비자의 이익과 일치할 때도 있었지만, 이젠 그 시대가 지났다고 비판한다.

그리고 페이스북 같은 소셜 미디어가 커지면서 전통미디어가 약화되면서 가짜 뉴스, 확증 편향 등으로 또 다시 인간 사회가 커다란 분열이 시작되고 있다고 비판한다.

글로벌 플랫폼 기업은 이미 정치 권력을 추월해 세상 경제와 일상을 지배하는 플랫폼 제국을 형성하고 있다. 결과적으로 글로벌 플랫폼 기업을 규제하지 않으면 자유 민주주의, 자유 시장경제, 개인의 자유와 안보가 모두 위험해질 가능성이 크다.

전문가들은 정부가 중독성이 있는 향정신성 약물 사용을 제한하는 것 같은 원리로, 마약보다 더 크게 부정적인 영향을 미치는 향정신성 기술인 알고리즘을 규제하고 감시해야 한다고 주장한다.

알고리즘 중립성 검증은 기술적인 난제

플랫폼을 움직이는 알고리즘의 허점과 부정적인 영형력이 드러나자 사회적 감시를 강화하자는 요구가 거세지고 있다.

컨텐츠 노출이나 배열을 결정하는 알고리즘의 로직은 기업 외 누구도 알지 못한다. 작동 방식을 알 수 없는 불투명한 블랙박스와 같은 알고리즘을 공개해 투명성을 확보해야 한다는 주장이 설득력을 얻고 있다.

포털이나 소셜미디어 플랫폼 알고리즘이 많은 문제를 가지고 있지만, 알고리즘의 중립성과 공정성을 기술적으로 검증하기는 어렵다.

AI 알고리즘이 개인 맞춤형 서비스 제공으로 이용자로 하여금 특정 성향의 컨텐츠만 접하는 필터버블(Filter Bubble)에 빠지게 하고, 그 결과 보고 싶은 것만 보는 성향으로 인해 확증 편향(Confirmation Bias)에 가득찬 대중 심리가 알고리즘을 불신하게 되는 악순환이 반복된다.

플랫폼 AI알고리즘은 기업의 영업 비밀이자 지식 재산으로 함부로 외부인에게 공개하기 어렵다. 알고리즘은 내부를 들어다 볼 수 없다.

설사 알고리즘을 검증하기 위해 소스코드를 공개해봐야 그 양이 너무 방대하기 때문에 이해하기 어렵고 시간도 너무 많이 걸릴 뿐 아니라, 오히려 공개된 소스 코드를 부당하게 사익을 취할 도구로 이용할 수 있기 때문에 공개하기가 쉽지 않다. AI알고리즘이 일부라도 공개되면 이를 악용하는 자들이 나오기 마련이다.

예를 들어 뉴스 편집 알고리즘이 기사를 추천하는 원리를 공개하면 어뷰징에 악용될 수 있다.

우리나라 입장에서 고려해야 할 또 다른 문제는 국내 플랫폼 사업자에 대한 역차별이다. AI알고리즘 공정성 검증제도를 도입하더라도 구글이나 페이스북 같은 해외 플랫폼 사업자에게 실효성 있게 적용하기는 어렵기 때문이다.

알고리즘 공정성 검증 방법

플랫폼을 움직이는 AI알고리즘은 중립성과 공정성을 갖도록 설계해야 하는데, 쉬운 일이 아니다. 중립성과 공정성 기준 자체가 가변적이고, 주관적이며, 시대 상황에 따라 변화하기 때문이다.

알고리즘은 가치 중립적이며 공정해야 한다는 생각 자체가 편견일 수 있다. 작동 과정엔 사람이 개입하지 않을지라도 그 알고리즘을 만든 것은 결국 사람이기 때문이다. 그러므로 개발자나 서비스 회사의 주관이 반영될 수 밖에 없다.

운용 중 오류가 발생하거나 서비스 환경이 바뀌면 수시로 알고리즘을 업그레이드해야 하는데, 이 과정에서 공정성 시비가 발생할 가능성이 다분하다. 플랫폼 사업자 입장에서는 업그레이드이지만, 불만이 있는 쪽에서 보면 조작으로 볼 수 있기 때문이다.

사회적인 영향력이 큰 플랫폼의 알고리즘의 경우, 기업 영업 비밀 침해와 어뷰징 등 부작용을 최소화하면서 기준과 원칙을 투명하게 검증할 수 있는 해법을 찾아야 한다.

기업의 영업 비밀을 지키면서도 최소한의 감독과 평가를 받을 수 있는 절충점을 찾아야 하는데, 일반 공개가 아닌 감독 당국의 검증을 받는 등 신뢰와 투명성을 확보할 수 있는 시스템을 고려해야 한다.

이런 필요성을 인정한 과기정통부는 올해 4분기 중 디지털뉴딜의 일환으로 AI법제도 개선 로드맵을 제시하고, AI 윤리 기준과 하위법령을 제정할 예정이다. 정부의 AI윤리 규범이 실효성이 있을지 기대된다.

공정거래위원회에서 공정화 법 개정 추진

공정거래위원회가 쇼핑 검색 알고리즘을 조작해 자사의 제품을 우대한 네이버와 같은 사례를 막기 위해 법 개정을 추진한다.

쇼핑 플랫폼 검색 결과 표시와 관련한, 내부 순위 정렬 기준을 공개해 소비자의 기만을 막겠다는 의도다.

공정거래위원회는 ‘전자상거래법’과 ‘온라인 플랫폼 공정화법’ 등 2개 법 개정안에 검색 결과 조작을 방지하는 방안을 담을 계획이다. 이 법에는 온라인 플랫폼의 쇼핑 검색 결과, 상품 노출 순위 기준을 투명하게 알리도록 하는 방안(전자상거래법 개정안), 플랫폼 회사가 상품·서비스를 노출하는 기준을 계약서에 기재하게 하는 내용(플랫폼 공정화법) 등이 포함될 전망이다.

전자상거래법이 개정되면, 공룡 플랫폼뿐 아니라 소규모 쇼핑몰도 '인기순'이라는 상품 정렬기준이 매출액 기준인지, 매출액 순이라면 1주 혹은 한 달간의 실적을 토대로 한 결과인지 등을 별도의 아이콘을 통해 공개해야 할 전망이다.

온라인 플랫폼 공정화법안에는 플랫폼 회사가 상품·서비스를 노출하는 방식이나 노출 순서를 결정하는 기준을 입점 업체와 맺는 계약서에 필수로 기재하게 하는 내용이 포함됐다. 온라인 플랫폼 회사는 입점업체가 내는 수수료가 검색 결과나 노출 순위, 순서에 미치는 영향도 입점업체에 알려야 한다.

완전한 중립성을 갖는 알고리즘은 없다.

알고리즘은 인간의 주관이 개입할 수 밖에 없는 구조이고, 현재 AI기술은 초기 단계이므로 알고리즘만으로 중립성과 공정성을 확보하기는 어렵다는 것이 전문가들의 판단이다.

향후 AI스스로가 프로그래밍하는 ‘강한 AI‘시대가 도래하면 스스로가 공정성을 확립해 나갈 수 있다.

그러므로 기업의 자율성을 해치지 않는 범위내에서 AI가이드라인을 제도화하며 알고리즘의 중립성과 공정성을 확보해나가는 것이 바람직하다는 의견이다. 알고리즘의 구성과 변수 등 기준 항목을 설정해서 공개하게 할 수도 있다.

알고리즘은 신적인 존재가 아니라, 잘못과 왜곡되고 편향된 결과를 낼 수 있으므로 알고리즘이 항상 완전하다는 일반인들의 잘못된 인식을 바로잡아야 한다. 이와 함께 중립성과 공정성을 지키는 일에는 인간이 주도적으로 관여해야 한다는 사실을 인식해야 한다.

알고리즘은 그것을 운영하는 회사의 영업 비밀이고, 설사 공개해도 알아보기 어렵다.

그러므로 관계 당국과 소비자는 플랫폼 기업의 알고리즘이 중립적으로 공정하게 윤리적으로 문제없이 작동하는지 끊임없이 감시하고, 잘못된 결과로 소비자를 오도하는 알고리즘 운영회사를 제재할 수 있는 법 제도를 정비해야 한다.

- Copyright, SNS 타임즈 www.snstimes.kr