2024년 6월 5일, 공정거래위원회 전원회의 심판정에서는 쿠팡의 알고리즘 조작 사건을 놓고 열띤 공방이 벌어졌다.

쿠팡 쇼핑몰에서 상품을 검색하면 쿠팡의 직매입 상품이나 자체 브랜드(PB : Private Brand)가 조작에 의해 상위권에 표시된다는 공정위의 주장과 별도 조작 없이 고객의 선호가 반영된 결과가 나온다는 쿠팡의 반박이 맞부딪쳤다.

그런데 심의 도중 재밌는 얘기가 오갔다. 검색 알고리즘의 결과를 추적할 수 있냐 없냐는 내용이었는데, 이는 스스로 학습하고 결정하는 인공지능(AI : Artificial Intelligence)의 행위를 처벌할 수 있냐 없냐는 영역으로 이어진다. 경쟁법은 AI를 처벌할 수 있을까.

위법 알고리즘은 3종

공정위가 문제 삼은 건 쿠팡의 알고리즘 3종으로, ▲프로덕트 프로모션(Product Promotion) ▲스트레터지 굳 프로덕트(Strategic Good Product) ▲콜드스타트 프레임워크(Cold-start Framework)다. 양태는 세부적인 차이가 있지만 직매입과 PB상품을 검색순위 상단에 노출한다는 공통점이 있다.

예를 들어 쿠팡의 PB상품인 '탐사수 2리터(L) 12개'의 경우 알고리즘을 적용하기 전에는 검색순위 100위권 밖이었지만, 알고리즘을 적용한 뒤에는 1위로 올라섰다. 2019년부터 이런 식으로 알고리즘을 조작했다는 게 공정위의 결론이다.

공정위는 조사 과정에서 알고리즘 3종이 발생시킨 관련매출액을 제출하라고 했지만, 프로덕트 프로모션의 관련매출액만 제출했을 뿐 나머지 2종의 관련매출액은 제출하지 않았다, 아니 못했다는 게 쿠팡의 설명이다. 왜 그랬을까.
 

"우리도 몰라"

다시 전원회의로 돌아가서 관련 대화를 보면 알 수 있다.

- 상임위원 (판사 격) : "그 행위(알고리즘)와 관련된 상품이 분명히 드러나는데 왜 심사관께서는 그것과 관련된 상품에서는 제외했나?"

- 공정위 심사관 (검사 격) : "인위적 조정 수단으로 쓰인 3가지 방식에 대해서 관련매출액을 다 내라고 요구했다. 프로모션은 냈는데 나머지 2개의 방식을 자신들도 사후적으로 추적이 어렵다, 관련된 순위가 의무로 적용됐고 어디에 있었는지를 파악하기 어렵다고 하면서 자료를 제공하지 않았다."

쿠팡 측은 위법하지 않은 행위라는 전제하에 공정위 설명과 동일하게 실제 결과를 알 수 없다고 말했다.

- 쿠팡 측 대리인 : "머신 러닝이고 AI가 작동하고 거기에 따라서 바뀌는 것을 저희가 일일이 써서 낼 수가 없고 아무도 모릅니다. 그걸 계속 학습해서 하는 거니까요."

결론은 검색 결과에 활용한 알고리즘을 회사 측도 모른다는 것이다. AI가 스스로 학습해서 스스로 성능을 향상시키기 때문에 결괏값을 추적하기 어렵다는 뜻이다.
 

결국 과징금 못 매겨

공정위가 과징금을 산출하기 위해서는 위법 행위로 인한 관련매출액이 필요하다. 과징금은 관련매출액에다 법에 정해진 비율을 곱해 산출하기 때문이다.

관련매출액을 당사자인 쿠팡 측도 모른다고 했기 때문에 공정위는 과징금 산출 과정에서 ▲스트레티지 굳 프로덕트(Strategic Good Product) ▲콜드스타트 프레임워크(Cold-start Framework)로 인한 관련매출액을 제외했다. 과징금을 매기지 못했다는 뜻이다. 원래대로라면 이번 사건으로 쿠팡 측이 부과 받은 1628억 원보다 금액이 더 커졌을 수도 있다는 뜻이다.

AI가 촉발시킨 문제는 이 지점이다. 인간이 AI를 창조하긴 했지만 작동 이후엔 그 결과를 인간도 모른다는 것이다. AI도 법으로 규율할 수 있을까.
 

'디지털 카르텔'

사정이 이렇게 되면 이런 가정이 가능하다. AI를 활용해서 담합을 하면 어떻게 될까. 전통적인 담합 사건에서는 가담자들의 담합 합의로 사건이 성립한다. 과거에는 쪽지나 메모, 회의록 등이 주요 증거로 채택됐었고, 점점 지능화되면서 합의의 증거를 남겨놓지 않는 경우가 많은 게 최근의 현실이다.

여기에 AI의 등장은 또 다른 고민을 낳게 한다. 쿠팡의 설명처럼 AI가 스스로 학습해서 내린 결정에, 또 인간의 의도가 직접적으로 반영되지 않은 결정에 경쟁법을 적용할 수 있을까 하는 의문이 남는다. 이를 '디지털 카르텔'이라고 칭할 수 있다. 전통적인 개념의 담합은 아니지만 외형의 결과는 담합과 동일하게 된다. 해외에서도 유사한 판례가 있긴 하지만 명확하게 어떻게 제재할지는 아직 초기 논의 수준이다. 미국의 우버가 가격 알고리즘을 도입해 사용하다 소송이 제기된 적이 있지만 중간에 합의돼 법원의 판단까진 도달하지 못했다.

그렇다고 완전히 규제의 사각지대에 있는 건 아니다. 쿠팡 사례처럼 현행법으로도 제재가 가능하다. 다만, 공정위 제재 이후 상고심이 진행되고 있는 만큼 최종 결론에서는 어떤 결과가 나올지 지켜봐야 한다. 알고리즘은 보통 기업의 영업 기밀로 간주되기 때문에 조사 과정에서도 충분히 공개되지 않는다. 공개된다 하더라도 해당 전문가가 아니면 알고리즘이 어떻게 작동하는지 전부 이해하기 어렵다. 이미 아마존, 구글 등도 쿠팡처럼 자사의 상품을 우대한 혐의로 경쟁당국의 제재를 받은 바 있다. 이 사건에 활용된 도구도 알고리즘이다.
 

AI와 경쟁법

최근까지 공정위가 알고리즘을 제재한 사건은 카카오택시의 호출 몰아주기와 호출 차단, 쿠팡의 검색 알고리즘 조작건이다. 몇 해 전으로 거슬러 올라가면 자사의 동영상 검색 결과를 우대한 네이버 검색 동영상 사건도 있다. 이후 알고리즘을 활용한 사업모델은 폭발적으로 늘었다. 유튜브, 에어비앤비, 네이버, 카카오 등 주요 빅테크의 핵심 사업에는 알고리즘이 있다.

당분간 쿠팡처럼 AI에게 책임을 떠넘기게 되면 제재할 때 논란을 부를 수밖에 없다. 우리 공정위뿐만 아니라 글로벌 경쟁당국이 공통적으로 하고 있는 고민이다. 업계에서는 AI가 주는 문명의 이기를 유지하고, 산업의 역동성을 저해하지 않기 위해 법의 규제에는 신중해 달라는 입장을 표명하고 있다.

최승재 세종대 법학부 교수는 지난 6월 열린 'AI와 경쟁법' 학술대회에서 "담합의 목적으로 알고리즘이 사용됐다면 문제 제기를 할 수 있다"라며 "단순히 알고리즘으로 가격이 일치한다고 제재하는 건 어렵다고"라고 말했다. AI 담합도 법으로 규제할 수 있어야 한다는 의견이다.

현재로선 기업의 판단에 따라 규제의 강도가 달라질 것으로 점쳐볼 수 있다. AI를 무기로 내세워 담합에 나선다면 규제의 틀은 보다 더 촘촘해지고 튼튼해질 것이다.