아마존의 영성 서적 코너를 스크롤하며 위카 의식이나 힌두 철학에 관한 책을 찾다가, 가상 서가에 있는 대부분의 책이 인간 작가의 손을 거치지 않았을지도 모른다는 사실을 알게 된다고 상상해 보자. 이것이 바로 AI가 집필한 종교 서적에 대한 새로운 연구가 그려내는 불안한 그림이다. 이 연구에 따르면 기계가 생성한 텍스트가 아마존 플랫폼의 종교·영성 출판물 상당 부분을 조용히 잠식했다.
이번 주 AI 탐지 업체 오리지널리티.ai(Originality.ai)가 발표한 이 연구는 아마존에서 판매되는 14개 종교 및 신앙 카테고리에 걸친 최근 출간된 2,000여 종의 서적을 표본으로 삼았다. 결론은 이렇다. 세 권 중 거의 두 권은 사람보다 인공지능이 집필했을 가능성이 높다는 것이다.
Summary
핵심 요약
- 오리지널리티.ai는 아마존에서 분석한 종교 서적 2,034권 중 1,272권, 즉 63%를 AI가 집필했을 가능성이 높은 책으로 표시했다.
- 마법(위치크래프트) 카테고리가 가장 높은 비율인 78%를 기록했으며, 힌두교는 76%, 도교는 74%에 달했다.
- 연구진은 마법 관련 서적에서 사실 확인이 가능한 주장 중 53%를 잠재적으로 거짓일 수 있다고 표시했다.
- 아마존은 저자가 스스로 AI 집필 여부를 공개하는 ‘명예 시스템’에 의존하고 있으며, 실제로 얼마나 많은 저자가 이를 공개하는지에 대한 공개 데이터는 없다.
- 아마존은 AI 학습 데이터를 위해 상업적 유통망을 통해 종이책을 구매해 페이지를 스캔하고 있음을 인정했다.
아마존 종교 서적의 다수가 AI 집필일 가능성
이 연구의 수치만 놓고 봐도 상당히 충격적이다. 표본으로 삼은 종교 서적의 63%가 오리지널리티.ai의 탐지 모델에서 충분히 높은 점수를 받아 기계가 집필했을 가능성이 큰 책으로 분류됐다. 이는 서점의 한 구석에 묻힌 변두리 결과가 아니라, 여러 세계 종교를 아우르는 하나의 상업 카테고리 전체에서 다수의 결과를 차지한 것이다.
오리지널리티.ai 연구와 방법론
보고서 저자인 마이클 프레이먼은 팀이 각 서적의 소개 글, 저자 약력, 본문 샘플을 분석해 점수화 모델에 돌렸다고 설명했다. 점수가 50 이상이면 ‘AI일 가능성이 높음(Likely AI)’으로 분류했다. 검토한 2,034권 중 1,272권이 이 기준을 넘었다.
프레이먼은 이 결과를 ‘증거’가 아니라 ‘확률’로 제시하는 데 신중했다. 그는 디크립트(Decrypt)에 “우리는 책이 확실히 AI로 집필됐다고 단정하지 않는다. 우리 모델은 어떤 것이 AI로 작성됐을 가능성을 일정 수준의 확신을 가지고 산출할 뿐”이라고 말했다. 그는 또 연구진이 표시된 제목들을 수작업으로 표본 점검했으며, 이제는 “AI가 쓴 콘텐츠와 사람이 쓴 콘텐츠를 구분할 수 있다”고 덧붙였다.
종교별 카테고리에서의 AI 저작 비율
모든 신앙 전통이 똑같이 영향을 받은 것은 아니다. 아마존의 위카, 마법 & 이교도(Paganism) 목록에서 가져온 마법(위치크래프트) 카테고리는 치유 크리스털, 허브 요법, 부정적 에너지 정화 등에 관한 제목을 포함해 78%로 가장 높은 비율을 기록했다. 프레이먼은 출판사 입장에서 그 매력이 분명하다고 지적했다. 이런 책들은 과학적 기준을 충족할 필요 없이 정신 건강이나 ‘디톡스’에 대한 해결책을 약속할 수 있기 때문이다.
힌두교가 76%로 그 뒤를 이었고, 도교는 74%였다. 시크교, 불교, 이슬람, 가톨릭, 개신교, 정교회, 유대교는 그 사이 어딘가에 위치했다. 몰몬교는 42%, 무신론은 40%, 사탄교는 22%로 조사된 카테고리 중 가장 낮았다. 연구진은 카테고리별 표본 크기가 상당히 달랐기 때문에, 이 비율들을 서로 직접 비교하는 데에는 한계가 있다고 경고했다.
AI 탐지의 검증 난제와 오탐 가능성
AI 탐지 점수가 높다고 해서 책이 곧바로 오도된다는 뜻은 아니다. 그러나 마법 카테고리에서는 이 둘 사이에 우려스러운 겹침이 발견됐다. 연구진은 마법 관련 서적에서 사실 확인이 가능한 주장 중 53%를 잠재적으로 거짓일 수 있다고 표시했으며, 그 결과 아무도 검증하지 않은 AI 생성 영적 조언을 독자들이 건강·웰빙 정보로 받아들일 위험에 대한 우려가 제기됐다.
AI 글쓰기 탐지 도구의 한계
오리지널리티.ai의 모델과 같은 탐지 도구는 판결을 내리기보다 가능성을 추정하도록 설계돼 있다. 이 차이는 중요하다. AI 탐지 기술 전반이 일관성 부족의 전력을 가지고 있기 때문이다. 프레이먼이 모델을 ‘결정적 증거’가 아니라 ‘일정 수준의 확실성’을 제공하는 도구로 규정한 것은, 현재 어떤 탐지기도 정확성을 보장하지 못한다는 업계 전반의 인식을 반영한다.
상충하는 AI 탐지 결과 사례
AI 탐지기의 신뢰성 부족은 가정이 아니다. 2024년 10월, 미국 독립선언서를 대상으로 네 개의 서로 다른 도구를 시험한 결과는 극명하게 엇갈렸다. 제로GPT(ZeroGPT)는 이를 97.93% AI 생성으로 평가했고, 퀼봇(QuillBot)은 전적으로 인간이 쓴 글이라고 판단했으며, GPT제로(GPTZero)는 인간이 썼을 확률을 89%로 제시했다. 같은 18세기 문서를 두고 세 도구가 서로 모순되는 답을 내놓은 셈이다.
3월에는 사안이 더 심각해졌다. 콜롬비아 대법원이 한 법적 서류를 탐지기가 AI 생성으로 표시했다는 이유로 기각한 것이다. 아이러니하게도, 한 변호사가 나중에 법원의 판결문을 같은 탐지기에 돌려보자 93% AI 생성이라는 결과가 나왔다. 이 사건은 탐지 점수를 법정에서 통용될 만한 증거로 취급하는 것이 여전히 법적으로 불안정하다는 점을 잘 보여준다.
아마존의 역할과 AI 콘텐츠·학습과 관련된 윤리적 쟁점
아마존은 서로 연결돼 있지만 다른 두 가지 논란의 중심에 서 있다. 하나는 자사 마켓플레이스에서 판매되는 AI 집필 서적을 어떻게 관리·감독하느냐는 문제이고, 다른 하나는 자사 AI 모델을 학습시키기 위한 원문 텍스트를 어떻게 조달하느냐는 문제다. 두 관행 모두 현재까지는 대중에게 많은 정보가 공개돼 있지 않다.
AI 콘텐츠 공개에 대한 아마존의 명예 시스템
프레이먼에 따르면, “아마존은 자사 플랫폼에서 AI 집필 콘텐츠가 얼마나 흔한지 알고 있으며, 저자가 자신의 작품을 AI 집필물로 자진 신고하는 명예 시스템을 사용하고 있다.” 오리지널리티.ai는 연구 결과를 발표하기 전에 아마존과 공유하지 않았고, 프레이먼은 “실제로 얼마나 많은 저자가 이를 공개하는지에 대한 데이터는 없다”고 분명히 밝혔다. 아마존은 디크립트의 논평 요청에 즉각 응답하지 않았다.
이 문제는, 검증 없이 자진 신고에만 의존하면 규정상 요구되는 것과 실제로 일어나는 일 사이에 큰 간극이 생기기 때문에 중요하다. 종교 서적에서 AI 집필 비율이 실제로 3분의 2에 가깝다면, 순수한 명예 시스템만으로는 그 일부만 포착하고 있을 가능성이 크다.
AI 학습을 위한 종이책 활용과 윤리적 우려
한편, 아마존의 학습 데이터 수요는 종이책을 어떻게 다루는지에 대한 의구심을 낳았다. 한 조사에서는 희귀 서적 배송 물류를 추적해 라스베이거스의 한 아마존 시설에 도착한 뒤, 작업자들이 책의 제본을 잘라내고 페이지를 AI 학습 데이터셋으로 스캔하는 과정을 확인했다.
아마존은 “고객이 사용하는 제품과 서비스를 개발·개선하기 위해 상업적 유통망을 통해 책을 구매한다”고 인정했지만, 이 문장은 AI 학습에 사용된다는 점을 명시하는 데에는 이르지 않았다.
이 두 가지 흐름을 함께 놓고 보면 같은 근본적 긴장이 드러난다. 한쪽에서는 AI 생성 텍스트가 종교 출판과 같은 카테고리를 검증되지 않은 콘텐츠로 범람시키고 있으며, 일부는 거짓 주장까지 담고 있다. 다른 한쪽에서는 그러한 AI 시스템을 구축하는 데 쓰이는 원재료가, 공적 책임이 거의 없는 상태에서 파괴되는 종이책에서 나오고 있다. 판매자를 위한 아마존의 자진 신고 시스템도, 학습 데이터를 위한 도서 조달 파이프라인도 현재 규모에 대한 충분한 가시성을 제공하지 못하고 있으며, 그 결과 독자·저자·서점은 실제로 온라인 서점 뒤에서 무슨 일이 벌어지고 있는지 이해하기 위해 외부 조사를 거의 유일한 정보원으로 삼을 수밖에 없는 상황이다.
FAQ
아마존에서 AI가 집필한 종교 서적을 탐지하는 신뢰도는 어느 정도인가?
오리지널리티.ai는 확실성보다는 가능성을 나타내는 점수 시스템을 사용한다. 연구진은 이 결과가 AI 저작일 ‘가능성’을 시사할 뿐, 결정적 증거는 아니라고 경고한다.
어떤 종교 서적 카테고리가 AI 집필일 가능성이 가장 높은 책 비율을 보였는가?
마법(위치크래프트) 카테고리가 가장 높은 비율을 기록했으며, 표본으로 삼은 제목의 78%가 AI 집필일 가능성이 높은 책으로 표시됐다.
아마존이 종이책을 AI 학습에 사용하는 것과 관련해 제기되는 윤리적 우려는 무엇인가?
아마존은 때로는 희귀본을 포함한 종이책을 AI 학습을 위해 구매·스캔한 뒤 폐기하는데, 이는 원본 자료의 파괴와 저자의 명시적 동의 부재에 대한 윤리적 우려를 낳는다.
아마존은 저자에게 자신의 책이 AI로 집필됐는지 공개하도록 요구하는가?
아마존은 저자가 AI 집필 콘텐츠를 자진 신고하는 명예 시스템을 사용하지만, 실제로 얼마나 많은 이가 이를 공개하는지에 대한 공공 데이터는 없다.
{“@context”:”https://schema.org”,”@type”:”FAQPage”,”mainEntity”:[{“@type”:”Question”,”name”:”How reliable is the detection of AI-written religious books on Amazon?”,”acceptedAnswer”:{“@type”:”Answer”,”text”:”Originality.ai uses a scoring system that indicates likelihood rather than certainty. The researchers caution that the results point to probable AI authorship, not definitive proof.”}},{“@type”:”Question”,”name”:”Which religious book category had the highest proportion of likely AI-written books?”,”acceptedAnswer”:{“@type”:”Answer”,”text”:”The witchcraft category had the highest rate, with 78% of sampled titles flagged as likely AI-written.”}},{“@type”:”Question”,”name”:”What ethical concerns are raised by Amazon’s use of physical books for AI training?”,”acceptedAnswer”:{“@type”:”Answer”,”text”:”Amazon buys and scans physical books, sometimes rare ones, for AI training and then discards them, raising ethical concerns about the destruction of source material and the lack of explicit author consent.”}},{“@type”:”Question”,”name”:”Does Amazon require authors to disclose if their books are AI-written?”,”acceptedAnswer”:{“@type”:”Answer”,”text”:”Amazon uses an honor system where authors self-identify AI-written content, but there is no public data on how many actually disclose this.”}}]}
이 기사는 인공지능의 도움을 받아 제작되었으며 편집팀의 검수를 거쳤습니다.
