음악 스트리밍 서비스 Deezer, 딥페이크 노래 추적 및 제거를 위한 AI 구축

Jun 23, 2023

유럽에 기반을 둔 인기 있는 음악 스트리밍 서비스인 Deezer는 AI를 사용하여 자사 플랫폼에서 딥페이크 가수와 합성으로 생성된 노래를 탐지하고 제거할 계획을 공개했습니다. Deezer는 생성적 AI와 관련된 작품의 확인 및 태그 지정을 어느 정도 자동화하여 수입을 잃을 수 있는 아티스트와 속는 것을 달가워하지 않는 청취자를 보호하는 방법으로 시스템을 제시하고 있습니다.

Deezer는 음악 카탈로그에서 숨길 수 없는 왜곡, 템포 변화 및 기타 AI 지원 징후를 신속하게 처리하기 위한 레이더 도구를 통해 실제 사람의 음성 복제를 찾는 데 중점을 두고 프로젝트를 시작하고 있습니다. 청구서에 맞는 각 노래에는 그에 따라 태그가 지정되지만 인간은 백스톱이 되어 AI가 많은 자동 튜닝을 사용하여 노래를 표시하는 것만은 아닌지 확인합니다. 스트리밍 플랫폼의 장기 비전에는 음악 제작에 사용된 기술에 따라 아티스트를 위한 완전히 새로운 지불 구조가 포함됩니다.

Deezer CEO Jeronimo Folgueir는 "우리 플랫폼에 매일 100,000개가 넘는 새로운 트랙이 업로드되면서 양보다 질을 우선시하고 정말 가치 있는 콘텐츠를 만드는 실제 아티스트를 보호하는 것이 점점 더 중요해지고 있습니다"라고 설명했습니다. "선도적인 스트리밍 플랫폼으로서 Deezer는 음악 소비를 위한 공정하고 투명한 환경을 조성할 책임이 있습니다. 우리의 목표는 불법 및 사기성 콘텐츠를 제거하고, 투명성을 높이고, 전문 아티스트가 가치 있는 창작에 대해 보상을 받는 새로운 보상 시스템을 개발하는 것입니다. 이것이 바로 우리가 새로운 아티스트 중심 모델에 대한 논의를 수용한 이유이며, 현재 AI 생성 콘텐츠를 감지하는 도구도 개발하고 있습니다."

Deezer의 계획은 음악가와 음반사들이 기술을 실험하고 비난하거나 다른 입장을 취하려는 움직임에 따른 것입니다. Universal Music은 지난 4월 TikTok 조회수 1천만 회 이상을 기록한 후 스트리밍 서비스에서 Deepfake Drake와 The Weeknd의 Heart On My Sleeve라는 노래를 삭제하도록 설득하면서 저작권 침해를 언급했습니다. 음악 프로듀서이자 아티스트인 Timbaland는 사망한 래퍼 팬들의 반발로 작업을 일시 중단하기 전 Notorious BIG의 딥페이크 목소리가 포함된 노래 샘플을 공유했습니다.

다른 사람들은 프랑스 DJ이자 음악 프로듀서인 David Guetta가 AI가 작곡하고 Eminem의 최근 쇼 중 일부에서 Eminem 노래를 "Emin-AI-em"이라고 부르고 연주한 것처럼 딥페이크 바다를 더 공개적으로 테스트하고 있습니다. 한편, 뮤지컬 아티스트 Grimes는 자신의 목소리를 사용하는 모든 AI 생성 노래에 대해 로열티의 50%를 제공하기까지 했습니다. Holly Herndon은 Holly+라는 음악을 만들기 위해 자신의 목소리를 무료로 합성한 버전을 제공하고 있으며, 음악 그룹 YACHT는 "Chain Tripping"이라는 전체 앨범을 작성하기 위해 AI 모델을 훈련시켰습니다.

사람들이 생성 AI를 사용했다는 사실을 숨기려고 하면 식별이 어려울 수 있습니다. 음성 복제를 사용하면 일부 생체 인식 테스트와 훈련받지 않은 콘서트 관중의 귀를 속일 수 있을 만큼 오디오 딥페이크를 만들 수 있습니다. 자신의 트랙에 진정성을 각인시키려는 아티스트는 음질 저하 없이 AI가 생성한 음성을 표시할 수 있는 오디오 워터마크를 위해 Resemble AI와 같은 회사와 협력하게 됩니다. Resemble은 말하거나 노래하는 사람 아래에 사람이 전혀 들을 수 없는 소리를 겹쳐서 그 출처와 진위를 확인하는 컴퓨터로 해독할 수 있는 정보로 인코딩하는 방법을 고안했습니다.

Folgueir는 "AI를 사용하여 새롭고 놀라운 콘텐츠를 만들 수 있으며 생성 AI를 사용하면 엄청난 이점이 있다고 생각합니다. 하지만 책임감 있는 방식으로 수행되도록 해야 합니다."라고 말했습니다. "이제 AI 혁명이 시작되는 순간부터 상황을 바로잡고 가짜 뉴스가 플랫폼에 범람하기 시작했을 때 소셜 미디어 거대 기업이 했던 것과 같은 실수를 하지 않을 수 있는 기회가 있습니다. 우리는 이를 아티스트와 팬에게 빚지고 있습니다."

@voicebotai 팔로우 @erichschwartz 팔로우

Deepfake Drake와 Weeknd Creator가 Rihanna와 Bad Bunny 트랙으로 두 배로 성장했습니다.

Notorious BIG의 AI 딥페이크가 최신 Timbaland 노래를 선보입니다.