YouTuber가 AI 딥페이크 탐지 기능을 정치인·정부 관료·언론인에게 '사전 시험'으로 확대한다

YouTuber가 AI 딥페이크 탐지 기술을 정치인과 정부 관료, 언론인을 대상으로 '사전 시험' 프로그램을 시작하며, 이는 유튜브가 AI 기술의 위험성을 인식하고 공적 공간의 신뢰성을 보호하기 위해 취하는 중요한 조치임을 알 수 있다.

YouTuber가 AI 딥페이크 탐지 기능을 4백만 명의 창작자들에게 적용한 후, 이제 정치인과 정부 관료, 언론인을 대상으로 '사전 시험'을 시작한다. 과연 이번 변화는 얼마나 중요할까?

무슨 일이 일어났나

YouTuber는 이번 주에 AI 생성 딥페이크 탐지 기술을 정치인과 정부 관료, 언론인을 대상으로 '사전 시험' 프로그램을 시작한다고 발표했다. 이 프로그램의 참여자들은 자신의 인물이 비정상적으로 생성된 AI 딥페이크 콘텐츠를 탐지하고, 해당 내용이 유튜브 정책에 위반되는 것으로 판단될 경우 제거 요청을 할 수 있는 도구에 접근할 수 있다. 이 기술은 지난해 약 4백만 명의 유튜브 파트너 프로그램 창작자들에게 적용된 후, 이전 테스트를 거쳐 출시되었다. 유튜브의 기존 Content ID 시스템과 유사하게, 인물 탐지 기능은 AI 도구로 만든 가상 얼굴을 탐지한다. 이러한 도구는 정치인이나 다른 공직자의 딥페이크 페르소나를 활용해 실제로 하지 않은 일을 말하거나 행동하는 것처럼 보이도록 만들어 정보전쟁과 현실 인식 조작에 이용될 때가 있다.

왜 중요한가

이번 변화는 사용자에게 직접적인 영향을 미치며, 특히 정치인과 공직자, 언론인 등 공적 공간에 참여하는 사람들의 신뢰성을 보호하기 위해 유튜브의 중요한 조치임이 분명하다. Content ID 시스템처럼 저작권 보호 콘텐츠를 탐지했던 것과 달리, 이 기술은 인물의 가상 얼굴을 탐지하여 정보전쟁을 방지하는 데 중점을 둔다. 또한 유튜브는 '퍼라이'나 '정치적 비평' 등 자유 표현으로 인정되는 콘텐츠도 제거하지 않기 위해 개인 정보 정책 기준에 따라 평가하겠다고 밝혔다. 이는 AI 기술의 위험성을 인식하고 동시에 자유 표현권을 보호하기 위해 유튜브가 취하는 균형 잡힌 접근 방식이다.

내가 보기엔

이번 변화는 AI 기술의 위험성을 인식하고 공적 공간의 신뢰성을 보호하기 위해 유튜브가 취하는 중요한 조치일 수 있다. 하지만 '사전 시험'이라는 점에서 미비한 부분이 있으며, 정확도와 편향성 문제를 고려해야 할 필요가 있다. 예를 들어, 딥페이크 콘텐츠가 '퍼라이'나 '정치적 비평'으로 인정되는 경우 제거하지 않기로 한 것은 긍정적인 점이다. 하지만 이 기술의 확대 적용에 따른 부작용을 예상하기 어렵다. 만약 정확도가 낮아 실제 딥페이크 콘텐츠를 제거하지 못하면 정보전쟁이 더욱 심화될 수 있고, 반대로 잘못된 내용을 제거하면 자유 표현권이 침해될 가능성도 있다. 또한 이 기술이 언젠가는 인간의 목소리나 인지되는 캐릭터까지 확장될 것으로 예상되므로, 유튜브가 미래에 어떤 방향으로 발전할지 주목해야 할 것이다.

자주 묻는 질문

Q: 이번 유튜브의 AI 딥페이크 탐지 확대는 무엇을 의미하는가? A: 이번 변화는 유튜브가 AI 생성 딥페이크 콘텐츠를 탐지하고 정치인, 정부 관료, 언론인 등 공적 공간에 참여하는 사람들의 신뢰성을 보호하기 위해 '사전 시험' 프로그램을 시작한다는 것을 의미한다. 이 기술은 지난해 4백만 명의 창작자들에게 적용된 후, 이번에 정치인과 관료, 언론인을 대상으로 확대되며, 해당 인물들이 비정상적으로 생성된 AI 딥페이크 콘텐츠를 탐지하고 제거 요청을 할 수 있도록 돕는다.

Q: 이 기술은 사용자에게 어떤 영향을 미칠까? A: 사용자에게 직접적인 영향으로, 특히 정치인과 공직자, 언론인 등의 딥페이크 콘텐츠가 더 적게 나타날 수 있으며, 정보전쟁을 방지하는 데 도움이 될 것이다. 또한 유튜브는 '퍼라이'나 '정치적 비평' 등 자유 표현으로 인정되는 콘텐츠도 제거하지 않기 위해 개인 정보 정책 기준에 따라 평가하겠다고 밝혔으므로, 자유 표현권이 침해될 가능성은 낮아질 것이라고 예상된다.

Q: 이번 사전 시험의 결과는 어떻게 영향을 미칠까? A: 이번 '사전 시험'의 결과가 얼마나 효과적인지에 따라 유튜브는 기술을 더 널리 확장할 가능성이 높다. 만약 딥페이크 탐지 정확도가 높고 부작용이 적으면, 이 기술은 인간의 목소리나 인지되는 캐릭터까지 확장될 수 있으며, 반대로 부작용이 많다면 유튜브는 조금 더 신중하게 접근할 가능성도 있다. 따라서 이번 사전 시험은 AI 딥페이크 탐지 기술의 미래를 결정할 중요한 단계일 것이다.

이 글은 TechCrunch의 보도를 바탕으로 작성되었습니다.