유타에서 40년 가까이 된 살인 사건이 전례 없는 법적 영역을 시험하려 하고 있다. 배심원이 사형 선고 재판에서 증거로, 사망한 여성의 목소리를 ElevenLabs 소프트웨어를 사용한 AI 음성 클론으로 만든 합성 복제 음성을 들을 수 있는지 여부다. 웨버 카운티 검사 측은 이 기술을 통해 배심원들이 다시 한 번 조이스 요스트의 말을 직접 들을 수 있다고 말한다. 변호인단과 독립 기술 전문가들은 이 기술이 훨씬 더 위험한 일을 할 수 있다고 지적한다. 바로 한 남자의 생사를 결정하는 사람들을 오도할 수 있다는 것이다.
Summary
핵심 요약
- 웨버 카운티 검사는 다가오는 더글러스 러벨의 재선고 심리에서 살인 피해자 조이스 요스트의 AI 생성 음성 클론을 재생하길 원하고 있다.
- 요스트는 1985년 러벨이 별도의 강간 사건에서 자신에게 불리한 증언을 하는 것을 막기 위해 납치·살해했으며, 시신은 끝내 발견되지 않았다.
- 이 클론은 요스트가 실종되기 직전 예비 심리에서 한 증언의 녹음 클립과 녹취록을 활용해 ElevenLabs 소프트웨어로 제작되었다.
- 유타대학교의 두 전문가들은 이 AI 음성이 배심원을 부당하게 설득할 수 있으며, 정확성을 검증할 수 없다고 경고했다.
- 마이클 디레다 판사는 11월 중순까지 증거능력 인정 여부를 결정할 것으로 예상되며, 선고는 현재 2027년 2월 말로 예정되어 있다.
검찰, 살인 피해자의 AI 음성 클론 사용 제안
유타주 파밍턴의 검찰은 더글러스 러벨의 운명을 결정할 배심원들 앞에서 조이스 요스트의 목소리를 합성 복원한 음성을 재생할 수 있도록 허가해 달라고 법원에 요청했다. 이 요청은 요스트가 수십 년 전, 살해되기 전에 남긴 한 증언에 초점을 맞추고 있다. 그녀는 그 이후로 다시는 증언대에 설 수 없게 되었다.
검찰에 따르면 더글러스 러벨은 1985년 8월 10일 밤, 별도의 강간 재판에서 자신에게 불리한 증언을 하는 것을 막기 위해 요스트를 납치해 살해했다. 요스트의 시신은 아직까지 발견되지 않았지만, 러벨은 1993년 유죄 협상 과정에서 살인을 자백했다. 그는 두 차례 사형을 선고받았고, 두 번 모두 항소심에서 뒤집혔다. 현재 배심원단은 내년 2월에 다시 그에게 형을 선고할 예정으로 잡혀 있다.
ElevenLabs 소프트웨어를 이용한 AI 음성 클론 제작
이 복원 음성을 만들기 위해 검찰 측 팀은 AI 음성 합성 회사인 ElevenLabs를 찾았고, 소프트웨어에 요스트가 실제로 말한 음성 클립과 그녀가 실종되기 직전 예비 심리에서 한 증언의 서면 녹취록을 함께 입력했다. 이 조합을 통해 도구는 요스트가 같은 말을 하는 것처럼 들리도록 새로운 합성 음성을 생성할 수 있었다. 이는 AI를 통한 음성 클론을 살인 피해자와 관련된 법정 증거로 사용하려는 최초의 시도 중 하나로 꼽힌다.
변호인 측 전문가, AI 음성 증거의 위험성과 한계 지적
러벨의 변호인단이 부른 두 명의 컴퓨터 과학자는 ElevenLabs의 AI 음성 복원이 아무리 그럴듯해 보여도, 생존한 증인이나 실제 녹음처럼 신뢰할 수는 없으며, 배심원들이 그 차이를 구분할 준비가 되어 있지 않을 수 있다고 주장한다.
캘리포니아 대학교 어바인에서 박사 학위를 받은 유타대학교 컴퓨터 과학 부교수 사미르 파틸은, 사람들이 인간이 아님을 알고 있으면서도 AI 생성 콘텐츠에 정서적 애착을 형성하는 일이 흔하다고 법정에서 증언했다. 파틸은 ChatGPT 같은 도구를 언급하며 “모두가 이게 AI라는 걸 안다”고 말했다. “인간이 개입하지 않았는데도 사람들은 여기에 정서적 애착을 느낍니다. 화가 나서 욕을 하기도 하고, 이 도구가 하는 일을 설명할 때 살아 있는 존재처럼 묘사하기도 합니다.” 그는 배심원들이 합성된 요스트의 목소리에도 같은 반응을 보일 수 있다고 경고했다. 즉, 기계가 생성한 근사치에 불과하다는 설명을 들은 뒤에도 실제 증언처럼 받아들일 수 있다는 것이다.
파틸은 더 기술적인 우려도 제기했다. 클론을 만드는 데 사용된 녹취록은 요스트의 말만 담고 있을 뿐, 실제로 어떻게 말했는지는 담고 있지 않다는 점이다. 억양, 말의 속도, 어조 같은, 연구자들이 준언어적 단서라고 부르는 요소가 없으면, AI가 만들어낸 결과물이 요스트가 증언대에서 실제로 어떻게 들렸는지와 일치하는지 확인할 방법이 없다. 파틸은 “조이스 요스트와 비슷하게 들린다고 해서 반드시 정확하다는 뜻은 아니며, 특히 그녀가 그 증언에서 그 말을 어떻게 했는지에 대해 정확하다는 뜻은 전혀 아닙니다”라고 말했다. “녹음이 존재하지 않기 때문에 그 점은 검증 자체가 불가능합니다.”
ElevenLabs의 비공개 학습 데이터에 대한 우려
두 번째 변호인 측 증인인 유타대학교 기계 학습 조교수이자 전 구글 딥마인드 연구원인 케네스 마리노는, 텍스트-음성 변환 시스템이 일반적으로 어떻게 구축되는지 법정에 설명했다. 그는 AI 기업들이 대개 온라인에서 대량으로 쉽게 구할 수 있는 오디오를 모델 학습에 사용한다고 말했다. “오디오의 경우 팟캐스트나 유튜브 영상 같은 것들이 가능성이 큽니다.”라고 마리노는 말했다. 이후 출력은 가중치라고 불리는 내부 파라미터를 사용해 미세 조정될 수 있지만, ElevenLabs는 학습 데이터도, 그 가중치도 공개하지 않는다고 그는 지적했다. “따라서 어떤 데이터로 학습했는지 사실상 전혀 알 수 없습니다.”라고 그는 말했다.
이러한 불투명성은 법적 쟁점이 되었다. 러벨의 변호인단은 음성 클로닝 도구가 어떻게 학습·개선되었는지에 대한 세부 정보를 요구하는 소환장을 ElevenLabs에 발부했다. 현재까지 회사는 이에 응답하지 않았고, 그 결과 합성된 요스트 음성이 실제로 어떤 과정을 거쳐 생성되었는지에 대한 독립적인 검증이 법정에 제공되지 못하고 있다.
사형 선고에서의 AI 활용을 둘러싼 전례 없는 법적 쟁점
법원은 오래전부터, 사망했거나 출석할 수 없는 증인의 경우 그 사람이 다시 증언할 수 없을 때, 다른 사람이 녹취록을 대신 읽도록 허용해 왔다. 그러나 사건 기록에 따르면, 사형이 쟁점인 사건에서 살인 피해자의 선서 증언을 AI 생성 음성 클론으로 제시한 사례는 이전에 없었다. 이 차이점 때문에, 이번 ElevenLabs AI 음성 복원을 둘러싼 논쟁은 웨버 카운티를 훨씬 넘어 주목을 받고 있다. 이는 다른 지역 법원이 합성 증거를 어떻게 다룰지에 대한 선례, 혹은 경고 신호가 될 수 있기 때문이다.
마이클 디레다 판사는 AI 음성 클론을 배심원에게 들려줄 수 있는지 여부를 11월 중순까지 결정하겠다고 밝혔다. 러벨에 대한 선고는 현재 2027년 2월 말 시작으로 예정되어 있지만, 변호인단은 이미 연기를 요청할 가능성이 크다고 시사했다. 따라서 일정은, 근본적인 법적 쟁점과 마찬가지로, 여전히 불확실한 상태다.
이 사안이 유타의 한 법정을 넘어 중요한 이유는, 생성형 음성 도구가 저렴하고 널리 접근 가능해짐에 따라, 검찰과 변호인 모두 언제 합성 복원이 유용한 설명을 넘어 신뢰할 수 없거나, 부당하게 설득력 있는 증거가 되는지를 판단해야 하는 압박을 점점 더 크게 받게 되기 때문이다. 이 사건의 판결은 미국 법원이 생사 문제와 관련된 사건에서 AI 생성 음성을 어떻게 다루는지에 대한 초기의 현실적 기준점 중 하나가 될 수 있다.
FAQ
검찰은 왜 조이스 요스트의 AI 생성 음성 클론을 사용하려 하나요?
검찰은 다가오는 선고 심리에서 요스트의 과거 증언을 합성 음성으로 재생해, 그녀가 직접 증언할 수 없는 상황에서도 배심원이 그녀의 말을 들을 수 있도록 하기 위해 AI 음성 클론을 사용하려 한다고 주장한다.
전문가들은 법정에서 AI 음성 클론 사용에 대해 어떤 우려를 제기했나요?
전문가들은 AI 음성 클로닝이 배심원의 감정을 편향시킬 수 있으며, 원래 증언과의 정확성을 검증하는 데 필요한 어조나 말의 속도 같은 준언어적 단서가 결여되어 있다고 경고한다.
사형 사건에서 AI 생성 음성 증거가 사용된 적이 있나요?
없다. 살인 피해자의 증언을 AI 음성 클론으로 재현해 사형 사건에 사용하는 것은 전례가 없으며, 이 분쟁은 최초의 법적 선례가 될 수 있는 사안으로 평가된다.
판사는 AI 음성 증거의 증거능력에 대해 언제 결정하나요?
마이클 디레다 판사는 러벨의 선고 심리가 2027년 2월 말로 예정된 것에 앞서, 11월 중순까지 증거능력 인정 여부를 결정할 것으로 예상된다.
{“@context”:”https://schema.org”,”@type”:”FAQPage”,”mainEntity”:[{“@type”:”Question”,”name”:”검찰은 왜 조이스 요스트의 AI 생성 음성 클론을 사용하려 하나요?”,”acceptedAnswer”:{“@type”:”Answer”,”text”:”검찰은 다가오는 선고 심리에서 요스트의 과거 증언을 합성 음성으로 재생해, 그녀가 직접 증언할 수 없는 상황에서도 배심원이 그녀의 말을 들을 수 있도록 하기 위해 AI 음성 클론을 사용하려 한다고 주장한다.”}},{“@type”:”Question”,”name”:”전문가들은 법정에서 AI 음성 클론 사용에 대해 어떤 우려를 제기했나요?”,”acceptedAnswer”:{“@type”:”Answer”,”text”:”전문가들은 AI 음성 클로닝이 배심원의 감정을 편향시킬 수 있으며, 원래 증언과의 정확성을 검증하는 데 필요한 어조나 말의 속도 같은 준언어적 단서가 결여되어 있다고 경고한다.”}},{“@type”:”Question”,”name”:”사형 사건에서 AI 생성 음성 증거가 사용된 적이 있나요?”,”acceptedAnswer”:{“@type”:”Answer”,”text”:”없다. 살인 피해자의 증언을 AI 음성 클론으로 재현해 사형 사건에 사용하는 것은 전례가 없으며, 이 분쟁은 최초의 법적 선례가 될 수 있는 사안으로 평가된다.”}},{“@type”:”Question”,”name”:”판사는 AI 음성 증거의 증거능력에 대해 언제 결정하나요?”,”acceptedAnswer”:{“@type”:”Answer”,”text”:”마이클 디레다 판사는 러벨의 선고 심리가 2027년 2월 말로 예정된 것에 앞서, 11월 중순까지 증거능력 인정 여부를 결정할 것으로 예상된다.”}}]}
이 기사는 인공지능의 도움을 받아 제작되었으며, 편집팀의 검수를 거쳤습니다.
