AI 워터마크

AI 워터마크란 무엇인가?

AI 워터마크는 디지털 콘텐츠가 기계에 의해 생성되었음을 나타내는 특수한 유형의 디지털 패턴이다.

표준화된 AI 워터마크는 앞으로 책임 있는 AI 이니셔티브에서 중요한 역할을 할 것으로 예상되며, 허위 정보를 방지하는 데 도움이 될 것이다. 이상적인 AI 워터마크는 제거하기 어렵지만, 사람의 눈이나 적절한 소프트웨어 도구로 쉽게 감지될 수 있어야 한다.

AI 워터마크는 왜 중요한가?

생성형 AI와 멀티모달 AI 소프트웨어가 지속적으로 발전하고 접근성이 높아지면서, 사람이 직접 생성한 콘텐츠와 AI가 생성한 콘텐츠를 구별하기 점점 어려워지고 있다.

워터마크가 있다면, 콘텐츠 관리자가 콘텐츠를 검토하거나 일반 사용자가 콘텐츠를 소비할 때, 그것이 사람이 만든 것인지 아니면 AI가 만든 것인지 쉽게 알 수 있다. 이로 인해 온라인에서 유통되는 정보의 신뢰성을 유지할 수 있으며, 정보의 출처를 명확히 함으로써 사람들이 더 신뢰할 수 있는 환경을 만드는 데 도움이 된다.

AI 콘텐츠에 대한 워터마크는 정부, 뉴스 소스, 학술 연구자, 창작 산업 등에서 특히 중요한 문제이다. 콘텐츠의 출처가 그 콘텐츠의 가치를 결정할 수 있기 때문이다.

AI 워터마크는 어떻게 생성되는가?

AI 워터마크는 생성 워크플로우에 내장되거나 사후에 추가될 수 있다. 이상적으로, 워터마크는 AI 생성 콘텐츠의 품질이나 사용성에 영향을 주지 않으면서 제 기능을 해야 한다.

내장형 AI 워터마크(Embedded AI watermarks)는 생성 알고리즘에 직접 작성된 코드 조각이나 마커로 생성된다. 이러한 유형의 워터마크는 생성된 콘텐츠의 구조에 녹아들어 있기 때문에 특별한 소프트웨어 도구 없이는 감지하기 어렵다. 내장형 워터마크를 제거하거나 변경하려고 시도하면 생성된 결과물이 자동으로 변경된다.

사후 처리 AI 워터마크(Post-processing AI watermarks)는 생성 워크플로우의 마지막에 추가되는 그래픽 오버레이나 스니펫이다. 이러한 유형의 워터마크는 육안으로 볼 수 있는 경우가 많다.

그러나 사후 처리 워터마크는 생성 과정에 통합되지 않았기 때문에, 생성된 콘텐츠에 영향을 주지 않고도 더 쉽게 제거하거나 수정할 수 있다.

AI 워터마크의 유형

AI가 생성한 콘텐츠를 식별하는 워터마크를 만드는 데 널리 사용되는 접근 방식은 다음과 같다:

• 오버레이 워터마크(Overlay Watermarks): 이 사후 처리 기법은 AI 생성 콘텐츠 위에 그래픽 워터마크를 겹쳐서 표시한다. 오버레이 워터마크는 콘텐츠를 보는 사람이 누구든지 볼 수 있도록 설계되어 있다. 콘텐츠의 구조에 통합되지 않았기 때문에 오버레이 워터마크는 제거될 수 있는 경우가 많다.
• 스테가노그래피 워터마크(Steganographic Watermarks): 이 내장형 기법은 생성된 콘텐츠에 미세한 패턴을 삽입하여 워터마크를 만든다. 스테가노그래피 AI 워터마크는 ‘섭동 워터마크(perturbation watermark)’라고도 불리며, 특수 소프트웨어 없이는 사람이 감지하기 어렵도록 설계되었다. 이미지나 비디오의 경우 특정 픽셀에 약간의 변화를 주는 방식으로 적용되며, 오디오의 경우 특정 음향 신호에 약간의 변화를 주는 방식으로 적용할 수 있다. 텍스트의 경우 특정 위치에 추가적인 공백을 넣거나 특정 유형의 문장 구조를 사용하거나 수동태를 일관되게 사용하는 방식으로 스테가노그래피 워터마크를 생성할 수 있다.
• 메타데이터 워터마크(Metadata Watermarks): 이 사후 처리 기법은 생성된 콘텐츠의 메타데이터에 추가 정보를 삽입하는 기술이다. 일반적으로 이 유형의 워터마크에는 사용된 AI 모델, 생성 날짜, 생성자의 세부 정보 등이 포함된다. 메타데이터 워터마크는 기술에 익숙한 사람들은 쉽게 확인할 수 있으며, 메타데이터 파일을 편집하여 쉽게 제거하거나 수정할 수 있다.
• 암호화 워터마크(Cryptographic Watermarks): 암호화 워터마크는 고급 워터마킹 기법으로, 워터마크를 암호화하여 특별한 해독 방법 없이는 쉽게 탐지할 수 없게 만드는 방식이다. 이 워터마크는 콘텐츠가 생성되는 과정에서 삽입되거나, 생성된 후에 추가될 수 있다. 좋은 점은, 암호화된 워터마크는 제거하기가 매우 어렵다는 것이다. 하지만 그만큼 이 기술을 실제로 적용하는 데에도 어려움이 따른다.
• 블록체인 워터마크(Blockchain Watermarks): 블록체인 워터마크는 암호화 워터마크와 유사하게 작동하는 고급 후처리 기법이지만, 암호화 키 대신 해시 함수를 사용한다는 점이 다르다. 콘텐츠를 생성할 때 해시 함수를 이용해 해시를 만들고, 그 해시는 블록체인에 저장된다. 누군가가 해당 콘텐츠의 출처를 확인하고 싶을 때는, 먼저 원본 해시를 생성할 때 사용된 해시 함수가 무엇인지를 알아야 한다. 그런 다음, 확인하려는 콘텐츠의 해시 값을 생성해 블록체인에 저장된 해시와 비교하는 방식이다. 두 해시가 일치하면, 그 콘텐츠가 AI에 의해 생성되었음을 확인할 수 있는 것이다.

왜 AI 워터마크는 표준화되어야 하는가?

현재 AI로 생성된 이미지, 비디오, 텍스트에 대한 워터마크의 표준화된 형식이나 접근 방식은 없다. 법적으로 AI 콘텐츠에 워터마크를 적용할지 여부와 그 방법을 결정할 권한도 공급업체가 가지고 있다.

2023년, 아마존, 앤트로픽, 구글, 인플렉션, 메타, 마이크로소프트, 오픈AI는 사용자들이 콘텐츠가 AI로 생성되었음을 알 수 있도록 워터마크를 생성하는 것에 공개적으로 동의했다. 하지만 이러한 AI 안전장치를 구현하는 것은 말처럼 쉽지 않은 상황이다.

규제 준수는 생성형 AI의 미래를 형성하고 궁극적으로 AI 생성 콘텐츠의 레이블링 방식을 표준화할 가능성이 크다.