틱톡, 타사 AI 생성 콘텐츠에도 자동으로 'AI' 라벨 표시

[서울=뉴스핌]박공식 기자 = 동영상 공유 플랫폼 틱톡이 타사 플랫폼에서 제작된 AI 생성 콘텐츠에도 자동으로 'AI 생성' 표시를 붙이는 정책을 시행한다.

틱톡은 마이크로소프트, 어도비 등이 설립한 '콘텐츠 출처 및 진위 확인을 위한 연합'(C2PA: Coalition for Content Provenance and Authenticity)과 콘텐츠 투명성 정책을 구현하기 위한 협정을 체결해 C2PA의 콘텐츠 인증 기술을 이용해 타사 플랫폼에서 제작된 AI 생성 콘텐츠에도 'AI 생성' 라벨을 자동으로 붙일 수 있게 됐다.

자사 앱내 툴로 만든 AI생성 콘텐츠에 대해서는 이미 'AI 생성' 라벨을 부착해 왔던 만큼 이번 조치는 오픈 AI 등 다른 플랫폼에서 AI로 만들어 올린 이미지와 동영상에 'AI 생성' 라벨 표시를 한다는 데 의미가 있다. 틱톡의 운영·신뢰·안전 책임자인 아담 프레서는 "AI 생성 표시가 없는 콘텐츠를 플랫폼에 올리면 동영상 공유 커뮤니티 지침을 어긴 것으로 보고 제거할 것"이라고 말했다.

틱톡이 사용하는 '콘텐츠 크리덴셜'이라 부르는 워터마크 기술은 C2PA가 주도하지만 다른 기업도 사용하도록 개방돼 있다. 챗GPT를 만든 오픈AI도 이를 채택했다. 알파벳 자회사 구글 소유의 유튜브, 인스타그램과 페이스북을 소유한 메타 플랫폼 역시 콘텐츠 크리덴셜을 사용할 계획을 밝혔다.

이 시스템이 작동하려면 콘텐츠 제작에 사용한 생성형 AI 툴을 만든 기업과 해당 콘텐츠를 배포하는 플랫폼 양측이 모두 콘텐츠 크리덴셜을 산업 표준으로 인정해야 한다.

가령 오픈AI의 달-E(Dall-E) 툴로 이미지를 만들면 오픈AI가 해당 이미지에 워터마크 표시를 하고 파일에 데이터를 추가해 나중에 조작 여부를 알 수 있다. 워터마크 표시가 된 이미지를 틱톡에 올리면 자동으로 AI 생성 표시가 나타난다.