[ET] 알고리즘에 영업 당했다…걸러내는 방법은?

■ 프로그램명 : 통합뉴스룸ET
■ 코너명 : 호모 이코노미쿠스
■ 방송시간 : 10월19일(월) 17:50~18:25 KBS2
■ 출연자 : 김덕진 한국인사이트연구소 부소장
■ <통합뉴스룸ET> 홈페이지 :
http://news.kbs.co.kr/vod/program.do?bcd=0076&ref=pMenu#20201019&1

[앵커]
경제하는 사람들의 마음을 읽어보는 코너 호모 이코노미쿠스입니다. 물건을 사려고 포털 사이트에서 검색어를 치면 이렇게 관련 상품이 주르륵 뜨죠. 아무래도 먼저 뜨는 상품에 눈길이 가기 마련인데. 한 번쯤 궁금하지 않으셨나요? 누가 이런 검색 순위를 만들어내는지, 혹시 나도 모르게 결과가 조작되는 건 아닌지. 오늘 호모 이코노미쿠스는 IT 전문가 김덕진 한국인사이트연구소 부소장과 함께 검색 알고리즘에 얽힌 비밀을 풀어볼까 합니다. 부소장님 안녕하십니까?

[답변]
네 안녕하세요? 반갑습니다.

[앵커]
참 많은 분들이 믿고 봤던 네이버 쇼핑, 공정거래위원회 설명대로라면 이 검색 순위를 네이버가 자사에 유리하게 조작을 했다는 거잖아요? 기술적으로 어떻게 가능한 건가요?

[답변]
간단하게 설명 드리면 검색을 할 때 한번 똑같이 검색이 된 것을 검색의 가중치를 바꿔서 예를 들면 네이버 안에 있는 쇼핑몰 같은 경우는 한번 검색을 해도 1.5번 이상 검색되는 것처럼 바꾸고요. 타사의 쇼핑몰 같은 경우는 한번 검색됐을 때 0.7번 검색하는 것처럼 가중치를 바꾸는 방식으로 했다고 보시면 될 것 같고요. 결국에 시간이 지나면 자사의 쇼핑몰에 있는 것들이 상위권에 나오는 이런 방식을 활용했다고 볼 수 있을 것 같습니다.

[앵커]
의외로 간단하네요? 네이버 측에서는 뭐라고 해명합니까?

[답변]
실제 이거에 대해서 네이버에서는 사용자 편의를 위해서 다양한 제품을 한눈에 보여주기 위해서 개선했다, 라고 얘기하고 있고요. 실제로 50회 정도 이런 걸 했는데 이 중에서 5번 정도만 공정위에서 지금 공격하는 것이다라고 지금 이야기하고 있는 상황입니다.

[앵커]
그렇다면 전문가 입장에서 볼 때 누구 말이 맞습니까?

[답변]
어떻게 한쪽으로 이야기하기가 애매한 부분이 있긴 한데요. 그래도 중요한 것은 어쨌든 자사 쇼핑몰에서는 어쨌든 기업의 입장에서 유리한 쪽으로 보통 움직이고 있다라는 정도로 얘기 드릴 수 있을 것 같습니다.

[앵커]
유튜브에서도 어떤 영상을 검색하면 그 이후에 추천 영상이 계속 순위별로 노출이 되잖아요. 이 순위도 좀 의심이 가네요?

[답변]
이 순위 같은 경우에도 유튜브의 알고리즘을 통해가지고 움직이는 거라고 보시면 될 것 같은데요. 자동으로 영상을 추천해 주는데 그 영상에서 알고리즘 자체가 오픈되어 있진 않지만 유튜브 안에 있는 조회 수나 시청 시간, 증가 속도 등 여러 가지 복합적인 요소로 우리에게 추천되고 있다, 라고 설명 드릴 수 있을 것 같습니다.

[앵커]
보통 유튜브 이용자들이 알고리즘이 나를 이 영상으로 이끌었어요, 이런 말을 아주 편하게 쓰던데. 일종의 그런 개념이라고 보면 되는 걸까요?

[답변]
네 맞습니다. 실제로 알고리즘에 대해서 우리가 여러 가지 얘기하고 있지만 간단하게 알고리즘을 설명 드리면 일종의 수학 공식 같이 생각하시면 될 것 같습니다. 어떤 프로그램이 데이터를 계산하기 위한 하나의 공식이라고 볼 수 있을 것 같은데요. 실제로 이런 공식을 통해서 인공지능이 학습하는 방식을 최근엔 유튜브뿐만 아니라 다양한 쇼핑 사이트나 우리가 알고 있는 대부분의 포털들이 이런 알고리즘을 기반으로 여러 가지 것들을 추천해 주고 있다, 라고 설명 드릴 수 있을 것 같습니다.

[앵커]
눈에 보이진 않지만 일상을 지배하고 있는 게 알고리즘이기도 하네요. 그런데 그 구동 과정에는 개입을 하지 않더라도 결국 그 프로그램을 짜는 건 사람이잖아요. 이재웅 전 다음 창업자도 이런 얘기를 했습니다, 페이스북을 통해서. AI는 가치중립적이라고 생각하지만 그렇지 않다. 설계하는 사람이 주관이 반영될 수밖에 없다. 어떠세요? 동의하시나요?

[답변]
실제로 저도 어느 정도 동의하는데요. 왜냐면 어쨌든 인공지능 자체도 사람이 가르쳐 준 대로 학습하는 거거든요. 그렇기 때문에 공식을 짜는 것도 사람이고 그 데이터를 처음에 어떻게 넣으라고 하는 것도 사람이기 때문에 만드는 사람의 어떤 생각이나 가치관이 들어갈 수밖에 없는 구조다, 라고 설명 드릴 수 있을 것 같습니다.

[앵커]
그래서 일각에서는 그냥 기업들이 이런 알고리즘을 속 시원하게 공개하면 안 되나? 이런 반문도 하는데 여기에 대해서는 어떻게 보시나요?

[답변]
어쨌든 이 알고리즘 자체도 결국 기업의 기밀이고 기업의 자산이기 때문에 전 세계적으로도 알고리즘 자체를 공개하는 것은 드뭅니다. 하지만 많은 사람들이 거기서 나오는 데이터들을 가지고 간접적으로 추정하면서 알고리즘이 이런 식의 구조를 가지고 있을 것이라고 연구하고 있다, 라고 설명하는 게 정확할 것 같습니다.

[앵커]
기업 입장에서는 영업 비밀이라는 얘기지만 소비자 입장에서 보면 당연히 알 권리 아닌가? 이런 반문도 가능할 거 같은데요.

[답변]
실제로 기업 입장에서 그런 부분들이 소비자 입장에서 있었다 보니까 과거에 2018년에 네이버에서 실제로 뉴스 알고리즘 검토 위원회를 열었어요. 그때도 어떤 게 문제였냐면, 알고리즘을 오픈했느냐 그것이 아니라 알고리즘을 통해서 나온 결과들을 가지고 그것을 확인해봐라, 라고 했었던 거고요. 거기에서 있었던 한계점들이 있다 보니까 항상 포털들에게 일부라도 알고리즘을 오픈해라 계속적으로 요구하고 있는 상황이다라고 볼 수 있을 것 같습니다.

[앵커]
사실 저같이 이것저것 누르는 거 귀찮아하는 사람들은 추천해주는 영상, 상품, 그대로 따라가게 되거든요? 이런 알고리즘의 취향에 지배당하지 않기 위해서 내가 선제적으로 취할 수 있는 조치 같은 건 없나요?

[답변]
일단 최근에 유튜브 동영상 많이 보시니까 유튜브에서 추천해주는 자동 알고리즘을 피할 수 있는 하나의 팁을 알려드릴게요. 일단은 모바일로 요즘 많이 보시니까 모바일에서 메뉴에 들어가시면 거기에 설정이라고 하는 메뉴가 있습니다. 설정에 들어가시면 그 안에 여러 가지 정보가 나오는데 그중에서 기록 및 개인정보 보호라고 하는 게 있어요. 거기에 마지막에 들어가셔서 세 번째로 시청기록 지우기라고 하는 것이 있는데 저걸 누르게 되면 기존에 내가 시청했던 목록들이 없어지거든요. 그렇게 되면 과거에 내가 했던 행위들을 학습하지 않게 하기 때문에 어느 정도 추천 알고리즘에서 벗어날 수 있다라고 설명 드릴 수 있을 것 같고요. 이것보다 더 근원적으로는 동영상 재생에 그 밑에 자동재생기능이 있어요. 자동재생 기능을 끄는 것만으로도 내가 원하는 만큼의 영상을 보고, 세상을 나올 수 있는 이렇게도 설명 드릴 수 있을 것 같습니다.

[앵커]
사실 세계적인 IT 기업 구글 같은 경우도 네이버하고 비슷한 방식의 검색을 했다가 유럽연합에서요, 굉장히 막대한 과징금을 부과받지 않았습니까? 그때만 해도 3조 원 가까이 과징금이었는데 네이버 같은 경우는 267억 원. 이 정도면 한두 달 정도 벌면 이거 충분히 낼 수 있다, 솜방망이 처벌 아니냐, 이런 지적도 나오는데.

[답변]
어쨌든 국내 입장에서 보면 상징적인 의미로 볼 수 있는 게 지금까지 그 정도 금액도 이렇게 과징한 적이 없기 때문에 이것은 어떻게 보면 향후에 우리가 이런 플랫폼 기업들에 대해서 감시를 강화할 것이다, 라고 얘기하는 것일 수 있고요. 또 한 가지는 말씀하신 구글 같은 경우에는 유럽연합에서 무려 7년 동안 조사를 진행했습니다. 결국에는 철저한 조사를 통해서 그것에 대해서 검증했기 때문에 큰 과징금을 부과한 것인데요. 우리 역시도 단순한 조사가 아니라 데이터를 기반으로 꾸준한 조사를 통해서 명확하게 밝힐 것들은 밝히고 그것에 대해서 과징금을 줄 것은 주는 이런 문화들이나 구조가 생겨야 될 것으로 보입니다.

[앵커]
앞서 우리가 당근마켓 소식 전하면서도 느꼈지만 요즘 AI, 인공지능이 이렇게 검색해서 정보를 제공해 주는 서비스가 굉장히 다양하잖아요. 특히 카카오택시 같은 경우는 소속 기사들에게 콜을 우선적으로 배차해 준다, 이런 몰아주기 의혹도 받고 있는 거 같은데 이 논란은 어떻게 된 거예요?

[답변]
말씀하신 것처럼 카카오 같은 경우는 카카오에 소속돼 있는 택시, 그리고 그렇지 않은 일반 택시가 있는데 그중에서 카카오에 소속된 기사들에게 몰아준다 이런 논란들도 있었죠. 그리고 그 외에도 뉴스와 관련된 여러 가지 이런 알고리즘에 대한 것들이 있는데 결국 거기서 우리가 생각할 것은 인공지능이 뭔가를 한다고 했을 때 무조건 올바른 것인가에 대해서 우리가 구체적으로 생각해봐야 될 필요가 있다, 라고 생각해볼 수 있을 것 같습니다.

[앵커]
사실 자율성을 강조하기에는 이미 포털 업체들의 영향력이 너무 세진 상황인데 이런 AI의 어떤 공정성과 중립성을 지키기 위한 외부 감시의 제도적인 보완책? 이런 건 어떤 게 있을 수 있을까요?

[답변]
분명히 필요한 부분이 있고요. 특히 이미 해외에서는 기업들이 오히려 기업들이 스스로 나서서 인공지능 윤리와 관련된 가이드라인을 만들거나 외부에 있는 전문가들을 초빙하기도 합니다. 즉, 기업들이 먼저 위험성을 생각하면서 나서고 있는 것인데요. 국내 IT 기업들 역시도 이러한 인공지능 윤리와 관련돼서 지금보다 더 많은 투자가 필요하지 않을까, 라고 생각됩니다.

[앵커]
AI, 인공지능이 아무리 똑똑하더라도 그 결과에 대해서는 합리적인 의심, 과학적인 의심을 해봐야 된다는 이 설명까지 듣도록 하겠습니다. 지금까지 호모 이코노미쿠스 김덕진 부소장과 함께했습니다. 말씀 잘 들었습니다.