네이버 검색 알고리즘 제재 취소…플랫폼 규제 기준 흔들린다

검색 알고리즘을 둘러싼 플랫폼 규제의 기준선이 다시 흔들리고 있다. 대법원이 공정거래위원회가 네이버에 부과했던 ‘동영상 검색 알고리즘 조작’ 시정명령까지 모두 취소해야 한다고 판단하면서다. 플랫폼이 자사 서비스를 검색 결과에서 어떻게 배치할 수 있는지, 이를 어디까지 ‘부당한 차별’로 볼 수 있는지가 핵심 쟁점으로 떠오른다. 업계에서는 이번 판결을 두고 국내 온라인 플랫폼 알고리즘 규제의 정교화와 재설계를 촉발할 분기점이 될 수 있다는 관측이 나온다.

법조계에 따르면 대법원 1부는 이달 6일 네이버가 공정위를 상대로 제기한 시정명령 및 과징금 납부명령 취소 소송 상고심에서, 원심의 원고 패소 부분을 파기하고 사건을 서울고법으로 돌려보냈다. 하급심에서 적법하다고 유지됐던 시정명령 부분까지 모두 다시 보라는 취지로, 사실상 공정위 제재 전부에 제동을 건 셈이다.

분쟁의 출발점은 2020년 10월 공정위 결정이었다. 공정위는 네이버가 동영상 검색 알고리즘을 전면 개편하면서 경쟁사에는 구체적인 정보를 알리지 않은 채, 자사 서비스인 ‘네이버TV 테마관’ 동영상에만 가점을 부여하도록 설계했다고 판단했다. 검색 알고리즘은 이용자가 입력한 키워드와 여러 신호를 반영해 어떤 콘텐츠를 먼저 보여줄지 결정하는 핵심 기술이다. 공정위는 이런 가점 부여가 동영상 검색 순위를 인위적으로 끌어올리는 방식의 ‘알고리즘 조작’에 해당한다고 봤다.

공정위 조사 결과에 따르면 알고리즘 개편 후 가점을 받은 동영상의 검색 노출 수 증가율은 43.1퍼센트 늘어난 반면, 경쟁 동영상의 노출 수는 일제히 감소한 것으로 분석됐다. 공정위는 이를 근거로 네이버에 과징금 2억 원을 부과하고 시정명령을 내렸다. 네이버는 2021년 2월 곧바로 소송을 제기했다. 공정위 심결이 1심과 같은 효력을 갖기 때문에, 이 제재에 대한 불복 소송은 전속 관할인 서울고법에서 다뤄져 왔다.

서울고법은 2023년 2월 네이버 손을 일부 들어줬다. 과징금 전액과 일부 시정명령을 취소하면서도, 네이버TV 테마관 동영상에만 가점을 더해 검색 순위를 조정한 행위 자체는 부당한 고객유인에 해당한다고 판단했다. 소비자에게 자사 동영상이 경쟁사 것보다 더 우수하거나 유리한 것처럼 오인하게 한 행위이므로, 관련 시정명령은 유지된다는 결론이었다.

법적 근거는 공정거래법상 이른바 ‘위계에 의한 고객유인’ 조항이었다. 부당한 방법으로 경쟁사의 고객을 자기와 거래하도록 유인하는 행위를 금지하는 규정으로, 보통 허위 정보 제공이나 과장 광고가 대표적 사례로 거론된다. 원심은 특정 서비스에만 유리한 가점을 숨겨두는 방식의 알고리즘 설계도 이 범주에 포함된다고 본 것이다.

대법원은 정반대에 가깝게 판단했다. 핵심은 세 가지 쟁점으로 요약된다. 첫째, 네이버가 허위 정보를 전제로 소비자 착각을 유발했는지 여부, 둘째, 경쟁사보다 현저하게 우월한 것처럼 보이도록 만들었는지 여부, 셋째, 그 결과 소비자의 합리적 선택이나 공정거래 질서가 실제로 저해될 우려가 있었는지 여부다.

대법원은 먼저 네이버가 운영하는 검색 서비스 구조를 짚었다. 네이버는 동영상 검색 결과에 자사·타사 여부를 구분하지 않고 다양한 출처의 콘텐츠를 노출해 왔지만, 그렇다고 해서 “자사 동영상을 언제나 다른 사업자의 동영상과 동등하게 대우해야 할 법적 의무가 바로 성립하는 것은 아니다”라고 밝혔다. 플랫폼이 자사 서비스를 일정 부분 우대하는 자체 설계를 곧바로 불법으로 볼 수 있는지는 별도의 엄격한 기준이 필요하다는 취지다.

특히 가점 부여 그 자체를 ‘허위에 기반한 착각 유발’로 보기는 어렵다고 봤다. 대법원은 네이버가 테마관 동영상 게재에 앞서 추가적인 내부 심사를 거쳤다는 점에 주목했다. 선별 기준이 공개돼 있지 않더라도, 일정 수준의 품질 심사를 거친 콘텐츠에 가점을 주는 구조에는 나름의 합리성이나 소비자 편익 증진 효과가 있을 수 있다는 것이다. 자사 서비스 우대와 소비자 기만 사이의 선을 기술적 맥락과 서비스 설계 목적까지 감안해 판단한 셈이다.

현저한 우위 인식에 대한 증명 부족도 지적됐다. 공정위는 가점을 받은 네이버 동영상의 검색 노출 수와 재생 수가 경쟁사 대비 크게 늘어난 점을 강조했지만, 대법원은 이를 소비자의 인식 변화로 곧바로 연결하기 어렵다고 봤다. 실제 동영상 선택 과정에서 이용자는 노출 순위 외에도 제목, 썸네일, 채널 신뢰도, 추천 알고리즘 등 다양한 요소를 고려한다. 단순히 순위가 올랐다는 이유만으로 ‘실제보다 훨씬 우량하다’는 인식이 대다수 이용자 사이에 일반화됐다고 보기는 어렵다는 해석이다.

대법원은 “네이버 동영상이 경쟁사 콘텐츠보다 현저하게 우위에 있다는 소비자 인식이 형성됐다는 점이나, 그러한 인식이 검색결과 순위와 직접적으로 연동된다고 볼 만한 객관적 근거를 찾기 어렵다”고 지적했다. 결국 위계에 의한 고객유인행위 요건 중 현저성과 위계성 모두 인정하기 어렵다는 결론이다.

부당성, 즉 공정거래 질서 저해 여부에 대해서도 판단은 비슷했다. 대법원은 “고객의 합리적 동영상 선택이 저해됐다거나 다수 고객이 궁극적으로 피해를 볼 우려가 있었다고 볼 만한 사정이 확인되지 않는다”고 못 박았다. 소비자의 선택권이 실질적으로 왜곡되거나 장기적으로 시장 경쟁을 심각하게 약화시킬 정도의 영향은 입증되지 않았다는 취지다.

공정위가 상고 과정에서 추가로 문제 삼은 ‘차별적 정보 제공’ 부분도 받아들여지지 않았다. 공정위는 네이버가 2017년 8월부터 2020년 9월까지 동영상 키워드 중요성 등 검색 알고리즘 개편 관련 주요 정보를 자사 서비스 담당부서에만 우선 제공한 점이 경쟁을 왜곡했다고 주장했다. 그러나 대법원은 이런 내부 정보 공유가 고객 오인을 일으킬 우려까지는 인정하기 어렵다는 원심 판단에 법리 오해는 없다고 봤다. 공정위 상고는 기각됐다.

이번 판결은 같은 달 선고된 네이버 쇼핑 검색 제재 사건 상고심과도 맞물려 있다. 대법원 2부는 10월 16일, 공정위가 2010년 네이버 쇼핑 검색 알고리즘 조정과 관련해 부과했던 265억 원 규모 과징금과 시정명령을 적법하다고 본 원심을 파기하고 사건을 다시 심리하라고 판결했다. 쇼핑과 동영상, 두 가지 검색 영역 모두에서 공정위 판단의 법리 구조를 다시 점검하라는 신호로 해석된다.

플랫폼 업계에서는 이번 대법원 판단이 향후 검색 알고리즘 설계와 자사 서비스 우대 전략에 중요한 기준이 될 것으로 보고 있다. 자사 서비스에 일정한 가점이나 노출 우선권을 부여하더라도, 그 구조와 목적이 일정 수준의 합리성과 소비자 편익을 갖추고 있고, 소비자 오인과 경쟁 저해 효과가 명확히 입증되지 않으면 곧바로 불공정 행위로 보기는 어렵다는 방향성이 나온 셈이다.

반면 공정위 입장에서는 온라인 플랫폼 알고리즘을 통한 ‘은밀한 차별’에 어떻게 법적 잣대를 적용할지, 규제 프레임을 정교히 다듬어야 하는 과제가 남았다. 검색 알고리즘은 AI 추천 기술과 결합돼 점점 더 복잡해지고 있고, 노출 순위와 추천 구조에 따라 온라인 광고와 콘텐츠 산업 전반의 수익 배분이 크게 달라지는 만큼, 산업계와 규제 당국 간 기준 합의가 필요하다는 지적이 나온다.

법조계 한 관계자는 “대법원이 소비자 오인과 경쟁 저해를 구체적으로 따져보라고 요구한 만큼, 앞으로 알고리즘 규제에서는 데이터 분석과 이용자 행태 연구가 핵심 증거가 될 가능성이 크다”며 “산업 구조와 기술 특수성을 반영하지 못한 포괄적 규제보다는, 명확한 피해 구조를 입증하는 정밀 규제가 요구되는 국면으로 접어들고 있다”고 말했다.

플랫폼 산업계는 이번 판결 이후 공정위와 법원이 제시할 새 기준을 예의주시하고 있다. 검색과 추천 알고리즘이 온라인 생태계를 좌우하는 시대에, 기술 혁신과 공정 경쟁, 소비자 보호를 동시에 충족시키는 규율 체계가 무엇인지에 대한 논의가 더욱 치열해질 전망이다.