인공지능 분야에서 가장 강력한 두 기업이 기술 업계에서는 드문 일을 했다. 자신들이 직접 운영하지 않는 산업에 대해 정부에 규제를 요청한 것이다. OpenAI와 Anthropic은 미국 의회에 AI 합성 DNA 규제에 대한 엄격한 새로운 규칙을 도입해 달라는 공동 서한을 보냈는데, 이는 자사 모델을 제한하기 위한 것이 아니라, 그 모델들이 누군가가 생물학적 무기를 합성하는 데 도움을 주는 일을 막기 위한 것이다.
이 움직임이 눈에 띄는 이유는 단순하다. Sam Altman과 Dario Amodei는 인재, 연산 자원, 자본, 고객을 두고 치열하게 경쟁하는 회사를 이끌고 있다. 그럼에도 그들은 같은 서한에 서명했다. 이는 두 회사가 이 위험을 얼마나 심각하게 보고 있는지를 보여 주기 때문에 중요하다. 실제로 이 합의는 위협이 이론적 수준을 넘어섰다는 신호이기도 하다.
Summary
AI 리더들, 의회에 합성 DNA 판매 규제를 촉구하다
이 서한은 합성 DNA 공급망, 즉 연구, 의학, 산업 생물학을 위해 맞춤형 유전 서열을 제조하는 상업적 벤더 네트워크에 초점을 맞춘다. 현재는 충분한 자금과 배송 주소만 있으면 누구나 늘어나는 공급업체 목록 중 한 곳에서 합성 DNA를 주문할 수 있다. 동시에 이 과정은 점점 더 자동화되고 저렴해지고 있다.
OpenAI와 Anthropic이 우려하는 것은 강력한 언어 모델이 이 작업 흐름에 들어왔을 때 벌어지는 일이다. AI는 사용자가 복잡한 생물학적 과정을 이해하고, 합성 문제를 해결하며, 위험한 병원체를 평가하고, 특정 특성을 가진 서열을 식별하는 데 도움을 줄 수 있다. 이 때문에 접근 가능한 AI와 접근 가능한 DNA 합성이 결합되면 5년 전에는 의미 있게 존재하지 않았던 경로가 새로 생겨난다.
이 서한은 의회에 AI 모델 자체를 제한해 달라고 요구하지 않는다. 대신 물리적 병목 지점, 즉 합성 주문이 벤더 시설을 떠나는 순간을 겨냥한다.
DNA 및 RNA 합성 벤더를 위한 제안된 규칙
서한에 제시된 프레임워크는 구체적이고 실무적이다. 막연한 “감독 강화” 요구가 아니다. 대신 DNA 및 RNA 합성 벤더에게 세 가지 구체적인 요구 사항을 제시한다.
위험 서열 데이터베이스에 대한 의무적 스크리닝
모든 합성 주문은 이행 전에 알려진 위험 서열의 기존 데이터베이스와 대조해 스크리닝해야 한다. 사실상 벤더는 각 요청된 서열을 생물안보 필터에 통과시켜, 선택된 병원체, 독소 또는 기타 생물학적 위협과 연관된 유전 물질과 유사하거나 일치하는지 확인하게 된다.
DNA 합성 주문에 대한 고객 신원 확인
고객 신원 확인은 선택 사항에서 의무 사항으로 전환된다. 현재 합성 벤더들은 주문자가 누구인지 얼마나 엄격하게 확인하는지에 있어 큰 차이를 보인다. 제안된 DNA 합성 컴플라이언스 프레임워크에서는 이 신원 확인 절차가 업계 전반에 걸쳐 표준화되고 의무화된다.
배송 전 포괄적 위험 평가
어떤 주문이든 배송 전에 벤더는 주문 단위의 포괄적 위험 평가를 수행해야 한다. 이는 서열 자체뿐 아니라, 누가 주문하는지, 명시된 목적이 무엇인지, 전체적인 세부 사항이 추가적인 검토나 거절이 필요한 경고 신호를 띄우는지 등 요청의 맥락까지 검토해야 함을 의미한다.
이 조치들이 결합되면 DNA 합성 산업은 대체로 자율 규제에 의존하던 관행에서 연방 정부가 의무화한 컴플라이언스 체계로 이동하게 된다.
OpenAI와 Anthropic이 AI에서 생물무기 위험을 보는 이유
규제 요구는 막연한 불안에서 나온 것이 아니다. OpenAI는 2024년 초부터 내부 레드팀 실험을 진행해, 자사의 대형 언어 모델이 생물학적 위협을 평가하려는 사람에게 의미 있는 도움을 줄 수 있는지를 시험해 왔다. 그 결과는 회사로 하여금 자율적인 업계 규범만으로는 충분하지 않다고 판단하게 만들 만큼 우려스러웠다.
이 지점이 중요한 이유는 레드팀이란 본래 적대적 조건에서 시스템을 압박 테스트하기 위한 것이기 때문이다. 다시 말해, 최악의 오용 시나리오가 어떤 모습일지를 묻는 과정이다. OpenAI의 자체 평가에서는 신뢰할 만한 생물무기 위험 시나리오가 드러났고, 이러한 발견이 규제 필요성을 뒷받침하는 근거가 되었다.
Dario Amodei 역시 AI로 인한 생물학적 위험에 대해 공개적으로 경고해 왔다. Anthropic의 연구는 대형 언어 모델이 복잡한 생물학적 과정을 탐색하려는 사람들에게, 그들 스스로는 도달할 수 없었던 위험한 역량에 더 가까이 다가가도록 돕는 의미 있는 “업리프트(uplift)” — 생물안보 용어로, 위험 능력에 한 걸음 더 다가가게 하는 지원 — 를 제공할 잠재력을 지적해 왔다. 그 결과 Amodei와 Sam Altman이 같은 문서에 공동 서명한 것은 업계의 드문 합의를 반영한다.
이 경쟁사 간 정렬은 의회에 메시지를 보낸다. 두 선도 AI 연구소가 위협이 정부 개입이 필요할 만큼 심각하다고 동의할 때, 아무것도 하지 말자는 주장은 설득력을 잃는다.
AI 합성 DNA 규제가 바이오테크 시장에 의미하는 것
이 제안이 채택된다면 여러 시장이 동시에 재편될 수 있지만, 그 영향은 각기 다를 것이다.
DNA 합성 회사의 경우, 스크리닝 시스템, 고객 신원 확인 도구, 주문 단위 위험 평가는 실제 비용을 수반한다. 마진이 얇은 소규모 벤더는 이러한 컴플라이언스 요구 사항을 감당하기 특히 어려울 수 있다. 그 결과 시장이 통합되어, 이미 컴플라이언스 인프라를 갖춘 대형 업체들이 소규모 경쟁사보다 우위를 점할 수 있다. 신규 진입자 역시 더 높은 진입 장벽에 직면하게 된다.
동시에 이 제안은 또 다른 부류의 회사들에는 순풍이 될 수 있다. 서열 분석 플랫폼, 생물학적 위협 데이터베이스, 스크리닝 도구를 구축하는 바이오안보 기술 기업들은, 연방 규제가 자사 제품에 대한 공식적인 수요를 만들어 낸다면 더 강한 수요를 경험할 수 있다. 그런 의미에서, 의무적인 DNA 합성 컴플라이언스는 바이오안보 기술 투자에 새로운 시장을 열 수 있다.
탈중앙화 과학(DeSci)에 대한 그림은 더 복잡하다. 여러 블록체인 기반 DeSci 프로젝트는 AI와 생물학 연구의 교차점에 위치해, 유전체 데이터 공유, 신약 개발, 합성 생물학 도구를 위한 개방형 플랫폼을 제공한다. 그러나 DNA 합성 단계에서의 의무적 스크리닝은 연구 단계 간의 원활한 이동에 의존하는 오픈 액세스 워크플로에 마찰을 일으킬 수 있다. 허가 없이 생물학 데이터를 활용하는 데 초점을 맞춘 프로젝트들은, 처음부터 감당하도록 설계되지 않았던 컴플라이언스 체크포인트를 중심으로 워크플로를 재설계해야 할 수도 있다.
더 넓은 정책적 배경도 중요하다. 이번 움직임은 이중용도 기술 감독을 둘러싼 2026년 AI 정책 모멘텀의 일부다. 합성 생물학과 AI의 중첩은 이중용도 위험의 가장 분명한 사례 중 하나를 이룬다. 즉, 정당한 과학에 필수적이지만 잘못된 손에 들어가면 파국적일 수 있는 기술이다. 그런 맥락에서 OpenAI-Anthropic 서한은 어디에 선을 그어야 하는지를 둘러싼 더 큰 논쟁의 일부다.
의회가 신속히 움직일지, 천천히 움직일지, 아니면 전혀 움직이지 않을지는 이 서한이 정책의 이정표가 될지, 역사적 각주에 그칠지를 좌우할 것이다. 스크리닝 인프라, 신원 확인 시스템, 위험 평가 프로토콜은 이미 업계 일부에서는 존재한다. 열린 질문은 이것들이 법적으로 의무화되고, 보편적으로 적용되며, 일관되게 집행될지 여부다.
FAQ
왜 OpenAI와 Anthropic은 합성 DNA 판매 규제를 요구하나요?
두 회사 모두 AI 모델이 생물학적 위협을 평가하고 잠재적으로 개발하려는 사람들에게 의미 있는 도움을 줄 수 있다고 말한다. 상업적 DNA 합성의 접근성과 결합될 때, 이는 자율적인 업계 규범만으로는 감당할 수 없는 심각한 바이오안보 위험을 만든다고 그들은 주장한다. 이들의 미국 의회 서한은 합성 공급망에 대한 연방 차원의 조치를 요구한다.
서한에서 제안하는 구체적인 규제 조치는 무엇인가요?
서한은 세 가지 주요 요구 사항을 제안한다. 알려진 위험 서열 데이터베이스에 대한 모든 DNA 및 RNA 합성 주문의 의무적 스크리닝, 모든 합성 주문에 대한 의무적 고객 신원 확인, 그리고 배송 전에 각 주문에 대한 포괄적 위험 평가다.
AI는 어떻게 생물무기 개발을 돕는 잠재적 위험을 보여 주었나요?
OpenAI는 2024년 초, 자사의 대형 언어 모델이 생물학적 위협을 평가하려는 사람에게 의미 있는 도움을 줄 수 있는지를 시험하기 위해 내부 레드팀 실험을 시작했다고 밝혔다. 이 실험에서 나온 결과는, 자율 규제에만 의존하는 대신 규제 조치를 지지하는 방향으로 회사를 움직일 만큼 심각했다.
이 규제가 바이오테크 기업과 기술 시장에 어떤 영향을 줄 수 있나요?
컴플라이언스 비용은 특히 소규모 DNA 합성 벤더들 사이에서 시장 통합을 촉진할 수 있다. 한편, 서열 분석, 스크리닝 시스템, 생물학적 위협 데이터베이스에 집중하는 기업들은, 연방 규제가 이들 도구에 대한 더 넓은 수요를 만든다면 수혜를 볼 수 있다.
이러한 규제가 합성 생물학을 포함한 탈중앙화 과학 프로젝트에 어떤 영향을 줄 수 있나요?
개방형 생물학 데이터 공유와 합성 생물학 도구에 의존하는 블록체인 기반 DeSci 프로젝트는 새로운 마찰에 직면할 수 있다. DNA 합성 단계에서의 의무적 스크리닝은, 개방적이고 허가가 필요 없는 접근을 전제로 설계된 워크플로에 컴플라이언스 단계를 추가하도록 강제할 수 있다.
