구글의 최신 AI 실험이 무너지는 데는 24시간도 걸리지 않았다. 2026년 7월 31일 단행된 Google Earth AI 제거 조치는, 도구 출시 하루 만에 이뤄진 것으로, 회사가 아직 완전히 직면하지 못했던 근본적인 긴장을 드러냈다. 현실 세계의 시각 기록을 누구나 다시 쓸 수 있게 하면 어떤 일이 벌어지는가?
Summary
핵심 요약
- 구글은 2026년 7월 30일 Google Earth 내에 Nano Banana AI 이미지 생성 도구를 출시했으나, 정책 위반 사례가 드러난 뒤 다음 날 이를 철회했다.
- 사용자들은 로스앤젤레스의 폭발 분화구, 물에 잠긴 미국 국회의사당, 이란 카르그 섬의 화재 등 실제로는 일어나지 않은 위성 장면들을 만들어냈다.
- 오픈소스 연구자 헹크 판 에스(Henk van Ess)와 벨링캣 연구자 제이크 고딘(Jake Godin)은 이 도구가 그럴듯한 가짜 지리 공간 이미지를 웹에 범람시킬 수 있다고 공개적으로 경고했다.
- Gemini 앱을 통해 AI 생성 콘텐츠를 표시하도록 설계된 구글의 방어 체계 SynthID 워터마크는 BBC Verify의 테스트에 따르면 일부 경우 우회가 가능한 것으로 드러났다.
- 구글은 더 강력한 안전장치를 구축한 뒤에만 이 기능을 다시 도입하겠다고 약속했지만, 그 시점에 대한 일정은 제시하지 않았다.
하루 만에 사라진 기능
이 도구의 이름은 Nano Banana였고, 겉보기에는 꽤 매력적으로 들렸다. 구글은 2026년 7월 30일 이를 소개하며, 사용자가 웹 버전 Google Earth에서 원하는 위치로 확대해 들어간 뒤 “이미지 생성(create image)” 버튼을 누르고, 실제 위성·항공 이미지 위에 간단한 텍스트 프롬프트를 얹어 사진처럼 사실적인 장면을 생성할 수 있게 했다. 지리 공간 전문가들은 이 도구의 잠재력을 가장 먼저 탐색한 집단 중 하나였다.
7월 31일이 되자, 이 기능은 사라졌다.
X에 게시한 성명에서 구글은 명백한 문제를 인정했다. “우리는 사람들이 세계를 신뢰할 수 있게 보여주는 도구로서 Google Earth를 특별히 신뢰한다는 것을 알고 있습니다.”라고 회사는 적었다. 이어 일부 사용자는 건설적인 활용법을 찾았지만, 다른 이들은 “당사 정책을 위반한 것으로 보이는” 생성된 스크린샷을 공유해 왔다고 덧붙였다. 이 기능은 일시 중단되며, 구글은 “더 강력한 안전장치를 구현하는” 작업을 진행 중이라고 밝혔다.
이처럼 반발이 빠르고 거셌던 이유는, 사용자가 무엇을 만들었는가뿐 아니라, 그것을 만드는 과정이 얼마나 쉬웠는가에 있었다.
사용자들이 실제로 만든 것들 — 그리고 전문가들이 경악한 이유
출시 후 몇 시간 만에, 기자들과 오픈소스 연구자들은 이 도구가 무엇을 할 수 있는지 시연하기 시작했다. 기술 매체 404 Media는 이 도구가 로스앤젤레스에 폭발 분화구를 만들고, 구글 마운틴뷰 본사 앞에 시위대 군중을 생성하는 모습을 보여줬다. NPR은 이란의 카르그 섬(Kharg Island)이 불길에 휩싸이고, 미국 국회의사당이 물에 잠긴 장면을 만들어냈는데, 맥락 없이 유포될 경우 실제로는 존재하지 않는 대규모 재난을 암시하는 시각 자료였다.
오픈소스 연구자 헹크 판 에스는 NPR에, 멕시코 국경의 난민과 이란의 원자력 발전소를 포함한 프롬프트를 사용했으며, 그 어떤 것도 거부되지 않았다고 말했다. 그는 이후 핵심 문제를 매우 명확하게 설명했다. “위조물은 그 자체로 그럴듯해 보일 필요가 없습니다. 그것이 탄생한 지도(map)의 신뢰성을 그대로 물려받기만 하면 됩니다.”
이 지적은 왜 이 문제가 중요한지의 핵심을 찌른다. 위성 이미지는 오랫동안 속보 검증, 잔혹 행위 기록, 군사 동향 추적에서 일종의 최종 심판 역할을 해 왔다. 최근까지는, 이를 그럴듯하게 조작하려면 상당한 기술력이 필요했기 때문이다. 그러나 원클릭 도구는 이 계산법을 완전히 바꿔 버린다.
BBC Verify의 자체 테스트는 이러한 우려에 더 큰 무게를 실었다. 기자들은 폐허가 된 에펠탑, 거대한 싱크홀에 삼켜진 기자 피라미드, 키이우에 배치된 러시아 군용 차량 등, 모두 실제 지리 좌표를 기반으로 하지만 완전히 조작된 이미지를 생성할 수 있었다. BBC Verify는 또한 이 기능을 구글의 자체 콘텐츠 제한 정책에 맞춰 시험해 본 결과, 프롬프트를 약간만 바꿔도 이를 우회할 수 있다는 사실을 발견했다.
SynthID 문제
구글의 초기 대응은 안전장치로서 SynthID 워터마크 시스템을 가리켰다. 회사에 따르면 이 도구가 생성하는 모든 이미지에는 AI 생성 이미지임을 식별하는 보이지 않는 워터마크가 삽입되며, 이는 Gemini 챗봇이나 Google Lens를 통해 감지할 수 있다. 이론상으로는 사용자가 보고 있는 이미지의 진위를 확인할 수 있는 수단이 되는 셈이다.
그러나 실제로는, 비평가들은 이 방어막이 허술하다고 판단했다. BBC Verify의 테스트에 따르면, 조작된 이미지를 다시 Gemini에 입력하고 프롬프트를 적절히 조정하면, 챗봇이 이를 실제 사진으로 분류하도록 만들 수 있었다. 외부 AI 탐지 도구들 역시 일부 생성 이미지를 식별하지 못했다. AI 탐지 연구자 헨리 아즈더(Henry Ajder)는 BBC Verify에, 모든 사람이 이미지를 공유하기 전에 일일이 검증하지는 않을 것이며, 특히 빠르게 전개되는 위기 상황에서는 그런 경우가 거의 없다고 말했다.
“우려스러운 점은, 신뢰할 수 있는 정보원이 또 하나 줄어들고 있다는 것입니다. AI가 개입했을지도 모른다는 지속적인 의심 때문에요.”라고 아즈더는 말했다.
위성 이미지와 검증 체계가 직면한 더 깊은 문제
이번 사건은 단순히 실패한 제품 출시의 이야기가 아니다. 이는 합성 미디어가 기자, 연구자, 정부가 의존해 온 검증 인프라를 어떻게 잠식하기 시작했는지를 보여주는 더 넓은 변화를 반영한다.
벨링캣 연구자 제이크 고딘은 이러한 도구가 가짜 지리 공간 이미지를 만드는 과정을 단순화하고, 그 확산 속도를 높일 것이라고 경고했다. 그리고 일단 잘못된 정보가 퍼지기 시작하면, 정정 보도는 이를 따라잡기 어렵다는 점을 지적했다. 더 우려스러운 점은, 정부나 악의적 행위자들이 AI 생성 도구의 존재 자체를 구실로, 진짜 위성 이미지마저 조작된 것이라며 일축할 수 있다는 가능성이 제기된 것이다.
비영리 위성 서비스 ‘커먼 스페이스(Common Space)’의 공동 설립자이자 지리 공간 분석가인 빌 그리어(Bill Greer)는 BBC Verify에, 조작된 위성 이미지가 이미 허위 정보를 퍼뜨리는 데 사용된 사례가 있다고 말했다. “정부는 데이터 접근을 점점 더 제한하고 있기 때문에, 우리는 더 많은 가짜 이미지와 더 적은 실제 이미지를 보게 될 가능성이 큽니다. 이는 신뢰를 더욱 약화시킬 것입니다.”라고 그는 말했다.
이것이 바로 누적되는 위험이다. 신뢰할 수 있는 실제 이미지의 공급이 줄어들고, AI 생성 이미지가 일반 시청자의 눈에는 구분이 어려워질수록, 저널리즘과 책임 추궁 보도에서 위성 사진이 갖는 증거로서의 가치는 크게 떨어질 수 있다.
구글의 출시 과정이 불러온 의문
이처럼 악용 가능성이 명백한 기능이 처음부터 어떻게 대중에게 공개될 수 있었는지 묻지 않을 수 없다. 기자와 연구자들이 몇 시간 만에 지적한 위험들은, 모호한 예외적 사례가 아니라, 현실 세계의 위성 뷰를 누구나 문장 하나로 바꿀 수 있는 도구에 대해 가장 먼저 떠올릴 수 있는 사용 시나리오였다.
구글이 기능을 완전히 제거하는 대신 일시 중단을 택한 것은, 특히 지리 공간 전문가를 위해 이 기술에 여전히 정당한 가치가 있다고 보고 있음을 시사한다. 그러나 BBC Verify 보도에 따르면 출시 후 48시간도 안 돼 철회가 이뤄졌다는 사실은, 내부 콘텐츠 조정 프레임워크가 출시 전에 충분히 스트레스 테스트되지 않았음을 의미한다. Nano Banana 출시는, 결과적으로 Google Earth와 가장 신뢰에 민감한 사용자층 간의 관계를 시험하는, 다소 계획되지 않은 스트레스 테스트이기도 했던 셈이다.
구글의 향후 행보 — 그리고 남겨진 질문들
구글은 Google Earth 내 AI 이미지 생성을 다시 도입하겠다고 약속했지만, 더 엄격한 보호 장치를 구현한 뒤에만 가능하다고 밝혔다. 구체적인 일정은 제시되지 않았다. 회사는 이러한 더 강력한 안전장치가 어떤 모습일지, 그리고 BBC Verify가 지적한 SynthID 우회 취약점을 해결할 것인지에 대해서도 밝히지 않았다.
분명한 것은, 워터마크만으로는 신뢰 문제를 해결할 수 없다는 점이다. 아즈더가 지적했듯, 분쟁 지역과 위기 상황에서 활동하는 기자들에게 “AI에 오염되지 않은 공간”으로 여겨지는 곳은 특별한 가치를 지닌다. 일단 그 전제가 — 비록 일시적이라도 — 깨지고 나면, 이를 완전히 회복하기는 어렵다.
구글이 이제 직면한 더 어려운 질문은 기술적인 것이 아니다. 철학적인 문제다. 실제 세계를 있는 그대로 보여주는 것을 전제로 한 플랫폼이, 누구나 상상하는 대로 세계를 보여주는 도구와 공존할 수 있는가?
FAQ
구글은 왜 Google Earth에서 Nano Banana AI 이미지 생성 도구를 제거했나요?
구글은 이 도구를 출시 하루 만인 2026년 7월 31일에 철회했습니다. 사용자가 플랫폼 정책을 위반하고 심각한 허위 정보 우려를 불러일으키는 조작 위성 이미지를 생성했기 때문입니다. 회사는 사용자가 현실 세계를 신뢰할 수 있게 보여주는 도구로서 Google Earth에 부여하는 특별한 신뢰를 이유로 들었습니다.
Nano Banana 도구로 사용자는 어떤 종류의 가짜 이미지를 만들었나요?
사용자들은 로스앤젤레스의 폭발 분화구, 물에 잠긴 미국 국회의사당, 불타는 이란 카르그 섬, 붕괴된 에펠탑, 기자 피라미드의 싱크홀, 키이우의 러시아 전차 등 실제로는 일어나지 않은 장면들을 만들어냈습니다.
구글은 Nano Banana에서 생성된 AI 이미지를 어떻게 식별하려 했나요?
구글은 모든 AI 생성 이미지에 SynthID 워터마크를 삽입해, Gemini 챗봇이나 Google Lens로 확인할 때 인공적으로 생성된 이미지임을 표시하도록 설계했습니다. 그러나 BBC Verify의 테스트에 따르면, 일부 경우 이러한 검사를 우회할 수 있었고, 외부 AI 탐지 도구들도 특정 생성 이미지를 식별하지 못했습니다.
구글은 Nano Banana 기능을 다시 도입할 예정인가요?
구글은 더 강력한 안전장치를 추가한 뒤에만 Google Earth 내 AI 이미지 생성을 재도입하겠다고 밝혔지만, 그 시점에 대한 구체적인 일정은 제시하지 않았습니다.
{“@context”:”https://schema.org”,”@type”:”FAQPage”,”mainEntity”:[{“@type”:”Question”,”name”:”구글은 왜 Google Earth에서 Nano Banana AI 이미지 생성 도구를 제거했나요?”,”acceptedAnswer”:{“@type”:”Answer”,”text”:”구글은 이 도구를 출시 하루 만인 2026년 7월 31일에 철회했습니다. 사용자가 플랫폼 정책을 위반하고 심각한 허위 정보 우려를 불러일으키는 조작 위성 이미지를 생성했기 때문입니다. 회사는 사용자가 현실 세계를 신뢰할 수 있게 보여주는 도구로서 Google Earth에 부여하는 특별한 신뢰를 이유로 들었습니다.”}},{“@type”:”Question”,”name”:”Nano Banana 도구로 사용자는 어떤 종류의 가짜 이미지를 만들었나요?”,”acceptedAnswer”:{“@type”:”Answer”,”text”:”사용자들은 로스앤젤레스의 폭발 분화구, 물에 잠긴 미국 국회의사당, 불타는 이란 카르그 섬, 붕괴된 에펠탑, 기자 피라미드의 싱크홀, 키이우의 러시아 전차 등 실제로는 일어나지 않은 장면들을 만들어냈습니다.”}},{“@type”:”Question”,”name”:”구글은 Nano Banana에서 생성된 AI 이미지를 어떻게 식별하려 했나요?”,”acceptedAnswer”:{“@type”:”Answer”,”text”:”구글은 모든 AI 생성 이미지에 SynthID 워터마크를 삽입해, Gemini 챗봇이나 Google Lens로 확인할 때 인공적으로 생성된 이미지임을 표시하도록 설계했습니다. 그러나 BBC Verify의 테스트에 따르면, 일부 경우 이러한 검사를 우회할 수 있었고, 외부 AI 탐지 도구들도 특정 생성 이미지를 식별하지 못했습니다.”}},{“@type”:”Question”,”name”:”구글은 Nano Banana 기능을 다시 도입할 예정인가요?”,”acceptedAnswer”:{“@type”:”Answer”,”text”:”구글은 더 강력한 안전장치를 추가한 뒤에만 Google Earth 내 AI 이미지 생성을 재도입하겠다고 밝혔지만, 그 시점에 대한 구체적인 일정은 제시하지 않았습니다.”}}]}
이 기사는 인공지능의 도움을 받아 제작되었으며, 편집팀의 검수를 거쳤습니다.
