틱톡, 이제 자동으로 인공지능 컨텐츠 분류 시작

테코피디아 신뢰성
핵심 내용

  • 틱톡은 이제 다른 플랫폼에서 AI로 생성된 이미지와 동영상에 자동으로 라벨을 붙인다.
  • 오디오 기능도 곧 추가될 예정이다.
  • 이러한 움직임은 소셜 네트워크에서 잘못된 정보를 제한하는 데 도움이 될 수 있다.

이제 틱톡은 외부 플랫폼에서 제작된 AI 생성 콘텐츠에 자동으로 라벨을 지정하여 잘못된 정보 캠페인을 차단할 수 있게 되었다.

이 소셜 미디어 대기업은 콘텐츠 출처 및 진위 확인을 위한 연합(C2PA)의 콘텐츠 인증 기술을 사용하여 타사 도구를 사용하여 만든 AI 제작 이미지와 동영상에 라벨을 붙이고 있다. 오디오 전용 자료에는 “곧” 라벨이 부착될 예정이라고 틱톡은 밝혔다.

틱톡은 또한 자체 AI 효과 생성기의 출력물에 콘텐츠 자격 증명을 추가하여 다른 플랫폼으로 가짜를 퍼뜨리는 것을 더 어렵게 만들 것이라고 밝혔다. 이 회사는 이미 자체 사용자를 위해 효과에 라벨을 붙이고 있으며, 지난 1년 동안 크리에이터에게 사실적인 AI 제작 자료에 라벨을 붙이도록 요구해 왔다.

틱톡은 이러한 조치를 취한 최초의 동영상 공유 플랫폼인 만큼 자동 라벨링된 AI 콘텐츠가 보편화되기까지는 다소 시간이 걸릴 수 있다고 경고했다. 다른 소셜 네트워크에서도 이 기술을 채택함에 따라 이 문제는 더 쉬워질 것이다.

틱톡은 사용자가 AI를 식별하고 잘못된 정보에 빠지지 않도록 돕기 위한 미디어 리터러시 캠페인 계획을 동시에 공개했다. 미디어 리터러시 기술을 가르치는 동영상을 연내 12개 공개할 계획이며, 또 다른 이니셔티브에서는 AI 라벨링과 잘못된 정보 인식에 관한 동영상 시리즈를 제작할 예정이다.

AI 라벨링 시스템은 중요한 시기에 도입되었다. 중국과 러시아 같은 국가에서 선거를 조작하기 위해 AI를 사용할 수 있다는 우려가 널리 퍼져 있으며, 심지어 미드저니와 같은 회사는 미국 대선 후보인 조 바이든과 도널드 트럼프가 포함된 이미지의 생성을 차단하고 있다. 틱톡은 이론적으로 악의적인 사용자가 다른 곳에서 가짜 스토리를 제작하여 사용자의 피드에 삽입하는 것을 어렵게 만들고 있다.

또한 바이든 대통령이 1년 이내에 바이트댄스가 틱톡을 매각하거나 금지 조치를 취하도록 하는 법안에 서명한 직후에 나온 조치이기도 한다. 정치인들은 바이트댄스가 중국 정부에 의해 틱톡 사용자 데이터를 염탐하거나 여론에 영향을 미치기 위해 알고리즘을 왜곡하도록 강요당할 수 있다고 우려하고 있다. 틱톡은 이 법안이 수정헌법 제1조 언론의 자유를 침해한다고 주장하며 미국 정부를 상대로 소송을 제기했다.

Hyunwoo Kim
Editor
Hyunwoo Kim
-

본 작가는 MIT에서 컴퓨터과학을 전공한 후 지난 5년 동안 자연어 처리에 중점을 두고 다양한 소프트웨어 엔지니어링 프로젝트에 깊이 파고들었습니다. 자신의 엔지니어링 기술과 글쓰기에 대한 열정을 결합하여 통찰력 있고 유익한 콘텐츠를 통해 복잡한 기술 세계를 이해하기 쉽게 설명합니다. 주로 인공지능과 신규 기술 분야 관련 혁신적인 변화에 대한 기사를 작성하고, 독자들에게 정보를 전달하는 역할을 수행하고 있습니다.