제보
주요뉴스 산업

'무개념 판매 논란' 당근마켓, '사용자·AI 검열' 실효성 있을까

기사등록 : 2020-11-10 14:12

※ 뉴스 공유하기

URL 복사완료

※ 본문 글자 크기 조정

  • 더 작게
  • 작게
  • 보통
  • 크게
  • 더 크게
생명 판매 게시글로 '플랫폼 이용환경' 개선 목소리 커져
유소년층 위주로 사용되는 신조어 등도 적발 가능해야

[서울=뉴스핌] 이서영 기자 = 신생아부터 장애인까지, 당근마켓이 최근 '무개념 판매'로 곤혹을 치르고 있다. 이에 당근마켓은 지난 6일 '신뢰·존중·윤리'를 키워드로 한 건강한 서비스 조성에 나선다고 밝혔다. 생명 경시나 사기행위, 차별 및 혐오 발언이 포함된 게시글 등을 사용자들과 '함께' 검열해 나가자는 것이 골자다. 하지만 일각에선 가이드라인의 실효성에 의문을 드러낸다.

사용자들이 아무리 감시를 하더라도 '무개념 게시글'은 어떤 형태로든 올라올 수 있기 때문이다. 아울러 사안의 경중에 따라 '법적 제재'까지 검토할 수 있다는 것 역시 커뮤니티 자정 효과를 보장할 수 없다는 점이 의문을 더한다. 실제로 최근 '장애인 무료 판매' 게시글은 만 14세 미만 촉법소년의 소행인 것으로 밝혀져 '보호처분'에 그쳤다.

당근마켓은 사용자 검열과 함께 인공지능(AI) 등을 이용한 자체 검열도 하겠다는 입장이다. 당근마켓은 현재 부적절한 게시물에 대해 ▲내부 모니터링 ▲AI 필터링 ▲키워드 정교화를 통한 필터링 등 대응 프로세스를 운영 중이다. 당근마켓은 여기서 더 나아가 모니터링 강화를 위해 AI 기술 고도화에 힘쓰겠다고 약속했다. 다만 이 같은 필터링이 진짜 실효성을 확보하기 위해선 신세대들의 용어와 줄임말 등을 적용하는 것이 관건이란 지적이다.

[서울=뉴스핌] 이서영 기자 = 당근마켓 로고. [사진=당근마켓] 2020.11.10 jellyfish@newspim.com

◆ 생명 판매 게시글도...'플랫폼 이용환경' 개선 목소리↑

지난달 16일 당근마켓은 20대 미혼모 A씨가 36주 된 아이를 입양하겠다는 글을 올렸다. 거래 금액은 20만원. 뒤이어 같은 달 30일, 10대 B씨가 '장애인 판매' 게시글을 올려 사회적 공분을 샀다. 하지만 미혼모 A씨와 10대 B씨 모두 형사 처분을 면했다.

제주 서귀포경찰서는 A씨에 대해 '아동보호사건 처리의견'으로 검찰에 송치했다. A씨가 갑작스러운 출산과 주변에서 도움을 받을 수 없는 상황인 것을 고려한 조치다. 아동보호사건은 아동에 대한 접근금지, 감호, 치료, 상담, 교육 등 보호처분을 내리는 것을 말한다. 마찬가지로 10대 B씨 역시 만 14세 미만 '촉법소년'에 해당되고, 피해자가 처벌을 원치 않아 '보호처분'에 그쳤다.

이에 당근마켓은 생명을 사고파는 행위나 폭력 및 비윤리 내용을 담은 불법 게시물의 경우 장난으로 올린 글이라 하더라도 법적인 처벌이 가능하다는 점을 공지하고, 관련 게시글 발견 시 신속하고 적극적으로 신고해줄 것을 당부했다.

또 불법 게시글을 올린 이용자에 대한 제재 강도도 높아진다. 가이드라인을 위반시 게시글 미노출, 강제 로그아웃, 한시적 또는 영구적인 서비스 이용 제재는 물론 수사기관 연계 등 조치를 마련했다. 이미 탈퇴한 사용자도 신고가 가능하며 동일한 기준의 제재를 받는다.

당근마켓 관계자는 "이용자의 선한 영향력과 당근마켓 기술의 만남으로 자정 능력을 갖춘 건강하고 안전한 온라인 커뮤니티 공간으로 자리매김할 수 있도록 최선을 다하겠다"고 강조했다.

지난 4일 온라인 유투브 채널로 진행된 한국동서발전 동해바이오화력본부의 2020 청소년 꿈 드림 진로콘서트.[사진=동해바이오화력본부] 2020.11.05 onemoregive@newspim.com

◆ 유소년층 위주 사용 신조어 구분이 관건

현재 당근마켓으로선 '사용자 고발'에 더 의존하는 편이다. 실제로 논란이 된 게시글 두 건 모두 이용자들 신고로 적발됐다. 다만 당근마켓 측은 사용자 고발과 함께 추후 AI 머신러닝 등을 통한 이상 게시물을 '필터링' 할 수 있도록 중장기적으로 투자한다는 방침이다.

현재 당근마켓이 보유한 AI 필터링 기술은 주로 '의약품' 같이 특수 상품 거래 위주로 구성돼 있다. 이를테면 해당 제품을 거래할 경우, 의약품상 문제가 없는 제품인지 등을 검열하는 것. 또 거래 채팅창 등을 통해 부적절한 언사가 오가면 빨간색 알람이 뜨면서 "주의하세요" 등의 멘트가 자동으로 뜬다. 마찬가지로 개인정보 노출 등이 이뤄져도 경고창이 뜬다. 실생활에서 사용되는 용어들을 적발하진 못하는 셈이다.

더 나아가 당근마켓은 중장기적 투자로, AI 시스템이 게시글의 '이상패턴'이나 정상범주에서 벗어난 내용을 적발할 수 있도록 한다는 입장을 내놨다. 청소년 관련 전문가는 당근마켓의 경우 1:1로 거래가 이뤄지는 곳인 만큼 청소년들을 위주로 이뤄지는 '대리구매' 등을 눈여겨 봐야 한다고 조언했다.

대리구매는 성인들이 청소년들을 대신해 술이나 담배 등을 '대리구매' 해주는 사회현상을 말하며 일명 '댈구' 혹은 '담뚫' 같은 용어와 함께 쓰인다.

이현숙 탁틴내일 상임대표는 현재 개인 소셜네트워크 서비스들 위주로 진행되던 대리구매가 언론에 노출되며 규제되기 시작하자, 다른 사이트로 옮겨갈 가능성이 있냐는 질문에 대해 "1:1 대화나 직거래 만남이 이뤄질 수 있는 곳이라면 다 위험하다"고 답했다.

일각에서 'AI 필터링'이나 '키워드 정교화' 기술이 실효성을 갖추기 위해서는 청소년들 위주로 형성된 '신조어'나 '줄임말' 등에도 주목해야 한다는 주장에 대해 당근마켓 측은 "키워드나 AI 적용 범위가 어디까지 이뤄질 것인지는 좀 더 확인해볼 것"이라고 덧붙였다.

jellyfish@newspim.com

<저작권자© 글로벌리더의 지름길 종합뉴스통신사 뉴스핌(Newspim), 무단 전재-재배포 금지>