이제 틱톡은 외부 플랫폼에서 제작된 AI 생성 콘텐츠에 자동으로 라벨을 지정하여 잘못된 정보 캠페인을 차단할 수 있게 되었다.
이 소셜 미디어 대기업은 콘텐츠 출처 및 진위 확인을 위한 연합(C2PA)의 콘텐츠 인증 기술을 사용하여 타사 도구를 사용하여 만든 AI 제작 이미지와 동영상에 라벨을 붙이고 있다. 오디오 전용 자료에는 “곧” 라벨이 부착될 예정이라고 틱톡은 밝혔다.
틱톡은 또한 자체 AI 효과 생성기의 출력물에 콘텐츠 자격 증명을 추가하여 다른 플랫폼으로 가짜를 퍼뜨리는 것을 더 어렵게 만들 것이라고 밝혔다. 이 회사는 이미 자체 사용자를 위해 효과에 라벨을 붙이고 있으며, 지난 1년 동안 크리에이터에게 사실적인 AI 제작 자료에 라벨을 붙이도록 요구해 왔다.
틱톡은 이러한 조치를 취한 최초의 동영상 공유 플랫폼인 만큼 자동 라벨링된 AI 콘텐츠가 보편화되기까지는 다소 시간이 걸릴 수 있다고 경고했다. 다른 소셜 네트워크에서도 이 기술을 채택함에 따라 이 문제는 더 쉬워질 것이다.
틱톡은 사용자가 AI를 식별하고 잘못된 정보에 빠지지 않도록 돕기 위한 미디어 리터러시 캠페인 계획을 동시에 공개했다. 미디어 리터러시 기술을 가르치는 동영상을 연내 12개 공개할 계획이며, 또 다른 이니셔티브에서는 AI 라벨링과 잘못된 정보 인식에 관한 동영상 시리즈를 제작할 예정이다.
AI 라벨링 시스템은 중요한 시기에 도입되었다. 중국과 러시아 같은 국가에서 선거를 조작하기 위해 AI를 사용할 수 있다는 우려가 널리 퍼져 있으며, 심지어 미드저니와 같은 회사는 미국 대선 후보인 조 바이든과 도널드 트럼프가 포함된 이미지의 생성을 차단하고 있다. 틱톡은 이론적으로 악의적인 사용자가 다른 곳에서 가짜 스토리를 제작하여 사용자의 피드에 삽입하는 것을 어렵게 만들고 있다.
또한 바이든 대통령이 1년 이내에 바이트댄스가 틱톡을 매각하거나 금지 조치를 취하도록 하는 법안에 서명한 직후에 나온 조치이기도 한다. 정치인들은 바이트댄스가 중국 정부에 의해 틱톡 사용자 데이터를 염탐하거나 여론에 영향을 미치기 위해 알고리즘을 왜곡하도록 강요당할 수 있다고 우려하고 있다. 틱톡은 이 법안이 수정헌법 제1조 언론의 자유를 침해한다고 주장하며 미국 정부를 상대로 소송을 제기했다.