X 조작 미디어: 일론 머스크의 새로운 이미지 라벨링 시스템

대한민국 - 뉴스 통신사

X 조작 미디어에 대한 논의가 뜨거운 가운데, 일론 머스크의 X가 조작된 이미지를 "조작 미디어"로 분류하는 새로운 기능을 도입할 것으로 보입니다. 이는 머스크 본인의 X 게시물에서 암시되었지만, 해당 기능이 어떻게 작동하고 어떤 종류의 편집 이미지를 포함할지에 대한 구체적인 설명은 아직 없습니다.

지금까지 이 새로운 기능에 대한 유일한 정보는 일론 머스크가 익명의 X 계정 'DogeDesigner'의 새 기능 발표를 공유하며 "수정된 시각 자료 경고"라고 언급한 암호 같은 X 게시물뿐입니다. 이 DogeDesigner 계정은 종종 X의 새로운 기능을 미리 공개하는 대리인 역할을 해왔습니다.

X 조작 미디어 과거 정책과 현재의 불확실성

머스크가 X를 인수하기 전, 트위터는 조작되거나 기만적으로 변조된 미디어를 사용하는 트윗에 라벨을 붙여 삭제 대신 경고 조치를 취했습니다. 당시 트위터의 사이트 무결성 책임자였던 요엘 로스(Yoel Roth)는 2020년에 이 정책이 AI에만 국한되지 않고, "선별적인 편집이나 자르기, 속도 조절, 오버더빙, 자막 조작" 등 다양한 형태의 조작을 포함했다고 밝혔습니다.

그러나 X가 이와 동일한 규칙을 채택할지, 또는 AI 콘텐츠에 대응하기 위한 중요한 변경 사항을 적용했는지는 불분명합니다. 현재 X의 도움말 문서에는 부적절한 미디어를 공유하는 것에 대한 정책이 명시되어 있지만, 최근 동의 없는 나체 이미지 딥페이크 사태에서 보듯 거의 시행되지 않고 있습니다.

또한, "조작 미디어" 또는 "AI 이미지"라고 부르는 것 자체도 미묘한 차이가 있습니다. 국내외 정치 선전의 온상인 X 플랫폼의 특성을 고려할 때, 회사가 무엇을 "편집된" 또는 "AI 생성/조작된" 것으로 판단하는지에 대한 명확한 기준이 문서화되어야 합니다. 사용자들이 X의 크라우드소싱 커뮤니티 노트 외에 다른 이의 제기 절차가 있는지 여부도 알아야 합니다.

메타의 경험에서 배우는 교훈

메타(Meta)가 2024년 AI 이미지 라벨링을 도입했을 때, 탐지 시스템이 얼마나 쉽게 오작동할 수 있는지를 보여주었습니다. 메타는 생성형 AI로 제작되지 않은 실제 사진에 "AI로 제작됨"이라는 라벨을 잘못 부착하는 오류를 범했습니다. 이는 사진작가와 그래픽 아티스트가 사용하는 창작 도구에 AI 기능이 점점 더 많이 통합되고 있기 때문입니다.

예를 들어, 어도비(Adobe)의 크롭 도구가 이미지를 JPEG로 저장하기 전에 평면화시키면서 메타의 AI 탐지기를 작동시켰습니다. 또 다른 예로는 어도비의 생성형 AI 채우기(Generative AI Fill) 기능이 셔츠의 주름이나 원치 않는 반사를 제거하는 데 사용되었을 때도 이미지가 "AI로 제작됨"으로 라벨링 되었습니다. 결국 메타는 라벨을 "AI 정보"로 업데이트하여, 실제로 AI로 제작되지 않은 이미지를 오인하는 것을 피했습니다.

산업 표준 및 X의 역할

현재 디지털 콘텐츠의 진위와 콘텐츠 출처를 확인하기 위한 표준 설정 기관으로는 C2PA(Coalition for Content Provenance and Authenticity)가 있습니다. CAI(Content Authenticity Initiative) 및 Project Origin과 같은 관련 이니셔티브는 미디어 콘텐츠에 변조 방지 출처 메타데이터를 추가하는 데 중점을 둡니다.

C2PA는 마이크로소프트, BBC, 어도비, 인텔, 소니, OpenAI 등 주요 기업들이 운영위원회에 참여하고 있으며, 더 많은 회사가 회원으로 가입했습니다. X의 구현은 AI 콘텐츠를 식별하기 위한 알려진 절차를 따를 것으로 예상되지만, 일론 머스크는 이에 대해 명확히 밝히지 않았습니다. X는 현재 C2PA 회원 목록에 없으며, 관련 문의에도 답변하지 않는 경향이 있습니다.

X는 조작 미디어를 다루는 유일한 플랫폼이 아닙니다. 메타 외에도 틱톡(TikTok)은 AI 콘텐츠에 라벨을 붙이고 있습니다. 디저(Deezer)와 스포티파이(Spotify)와 같은 스트리밍 서비스도 AI 음악을 식별하고 라벨링하는 이니셔티브를 확대하고 있습니다. 구글 포토(Google Photos)는 C2PA를 사용하여 플랫폼의 사진이 어떻게 만들어졌는지 표시합니다.

결론적으로, X는 조작 미디어 라벨링 시스템의 세부 사항, 적용 범위, 그리고 사용자 이의 제기 절차에 대해 명확하고 투명한 정보를 제공해야 할 것입니다. 이러한 투명성은 플랫폼의 신뢰성을 높이고 사용자들의 혼란을 줄이는 데 필수적입니다.