OpenAI는 자사의 가장 중요한 내부 안전장치 중 하나를 조용히 해체했습니다. 가장 위험한 리스크를 포착하는 역할을 맡았던 팀을 해산한 것입니다. 이 팀은 인공지능 모델이 초래할 수 있는 가장 위험한 위협을 감지하는 임무를 맡고 있었습니다. 파이낸셜 타임즈에 따르면, 2026년 7월 말에 해산된 OpenAI 팀은 회사의 대비(preparedness) 그룹으로, 모델이 생물학 무기 개발이나 대규모 사이버 공격과 같은 용도로 악용될 수 있는지를 표시하고, 이를 막기 위한 방안을 찾는 임무를 맡고 있던 조직이었습니다.
Summary
핵심 요약
- 파이낸셜 타임즈에 따르면, OpenAI는 2026년 7월 말에 대비 팀을 해산했다.
- 이 팀의 역할은 AI 모델에서 발생할 수 있는 심각한 위험을 평가하고, 생물학 및 사이버 위협을 포함해 이를 완화할 수 있는 방법을 구축하는 것이었다.
- 위험 관리 책임은 이제 하나의 전담 그룹이 아니라 기존 팀들에 분산·통합되고 있다.
- 윤리 책임자 클로에 바칼라(Chloé Bakalar), 최고 미래학자(Chief Futurist) 조시 아치암(Josh Achiam), 안전 책임자 요하네스 하이데케(Johannes Heidecke)는 모두 최근 OpenAI를 떠났다.
- 대비 팀을 이끌었던 전 Anthropic 직원 딜런 스칸디나로(Dylan Scandinaro)는 이제 재귀적 자기 개선 AI에 초점을 옮기고 있다.
OpenAI 대비 팀에 무슨 일이 있었나
OpenAI의 대비 팀은 하나의 직설적인 질문에 답하기 위해 존재했다. 모델이 출시되기 전에 실제 피해를 일으킬 수 있는가? 이는 시스템이 누군가가 생물학 무기를 만들도록 돕거나, 정교한 해킹 작전을 수행하게 하거나, 그 밖의 심각한 피해를 야기할 수 있는지를 시험하고, 그런 위험을 줄이기 위한 안전장치를 설계하는 일을 의미했다. 이제 이런 중앙집중식 기능은 독립된 조직으로서는 더 이상 존재하지 않는다.
대신 파이낸셜 타임즈에 따르면, 생물학 및 사이버 위험과 같은 특정 위험 영역에 대한 감독은 회사 내 다른 기존 팀들로 나뉘어 흡수되었다. 이제는 전반적인 차원에서 파국적인 오용을 감시하는 것이 전담 업무인 단일 그룹이 존재하지 않는다. 이런 분산된 접근 방식이 과거와 동일한 문제들을 똑같이 효과적으로 포착하는지는 외부인이 밖에서 쉽게 검증할 수 없는 부분이다.
사라진 첫 번째 안전 팀이 아니다
이는 고립된 조치가 아니다. OpenAI는 지난 몇 년 동안, 한때 자사의 명성을 쌓는 기반이 되었던 연구 중심·장기 지향적 안전 인프라를 꾸준히 해체해 왔다. 회사는 이전에 AGI 대비(AGI readiness) 팀과 슈퍼얼라인먼트(superalignment) 팀, 즉 오늘날보다 훨씬 더 강력해진 AI 시스템이 등장하는 시나리오에 대비하는 데 명시적으로 초점을 맞췄던 두 그룹을 모두 해산했다.
이 모든 것을 종합해 보면, 패턴은 모델이 약해지는 것이 아니라 더 강력해지는 바로 그 시점에 회사가 안전 장치를 축소하고 있다는 방향을 가리킨다. 각각의 해산만 놓고 보면 일상적인 조직 개편처럼 보일 수 있다. 그러나 이런 조치가 연달아 이어지면, 이는 OpenAI가 한때 공개적으로 주창했던 장기적 위험 계획으로부터 전략적으로 후퇴하고 있는 것처럼 보이기 시작한다.
연이은 퇴사가 더해지는 그림
이러한 구조조정은 OpenAI의 안전 및 윤리 조직에서 잇따른 고위급 퇴사와 시기를 같이한다. 윤리 책임자 클로에 바칼라, 최고 미래학자 조시 아치암, 안전 책임자 요하네스 하이데케는 모두 최근 회사를 떠났다. 이들 누구도 최소한 공개적으로는 동일한 직함을 가진 후임으로 대체되지 않았다.
해산된 팀과 떠난 리더십이라는 조합은, 시간이 지나며 회사의 안전 공약을 지켜봐 온 이들로부터 비판을 불러일으켰다. 2024년에 OpenAI를 떠난 얀 라이케(Jan Leike)는 파이낸셜 타임즈에, 회사가 자신이 “번쩍이는 제품(shiny products)”이라고 부른 것을 만드는 데 집중하느라 안전을 무시하고 있다고 말했다. 이는 날카로운 비판이며, 짧은 기간 안에 안전 중심 역할이 이렇게 많이 비어버린 상황에서는 그 무게가 더 크게 다가온다.
왜 시기가 중요한가
이 모든 일은 진공 상태에서 벌어지는 것이 아니다. OpenAI는 대규모 기업공개(IPO)가 예상되는 방향으로 나아가고 있으며, 그런 수준의 감시를 준비하는 기업들은 대개 운영을 간소화하고, 팀을 통합하며, 투자자들이 이해하기 쉬운 성장 스토리에 깔끔하게 들어맞지 않는 것들을 정리하는 경향이 있다. 최악의 시나리오에 초점을 맞춘 전담 위험 평가 팀은, 설립 이래 OpenAI가 이야기해 온 사명에는 부합할지 몰라도, 그런 내러티브에는 반드시 들어맞지는 않을 수 있다.
이는 OpenAI 내부를 넘어서는 문제다. 이 회사는 오랫동안 책임 있는 AI 개발의 선도자로 스스로를 위치시켜 왔으며, 안전 인력 배치에 관한 내부 결정은 업계 전체가 주의 깊게 지켜보는 분위기를 형성해 왔다. OpenAI 규모의 회사가 상장을 앞두고 전담 위험 팀을 제품 조직 안으로 접어 넣는다면, 상업적 압력이 커졌을 때 우선순위가 어디에 놓이는지를 보여주는 신호로 경쟁사와 규제 당국 모두가 주목할 가능성이 크다.
지금은 누가 위험 업무를 이끄는가
해산되기 전 대비 팀을 이끌었던 딜런 스칸디나로는 회사를 떠나지 않는다. 2월에 Anthropic에서 영입된 스칸디나로는 대신, 범위는 더 좁지만 어쩌면 더 높은 위험을 수반하는 질문, 즉 인간의 개입이 많지 않은 상태에서 스스로 역량을 향상시킬 수 있는 재귀적 자기 개선 AI의 함의에 주의를 돌리고 있다.
이 재배치는 OpenAI가 여전히 가장 극단적인 장기 위험에 대해 전담 인력을 두고 싶어 하지만, 예전과 같은 방식으로 조직하고 싶지는 않다는 점을 시사한다. 생물학 및 사이버 위험 평가를 기존 제품 팀에 통합하면서, 한 전 팀 리더에게는 더 좁은 연구 역할을 부여하는 방식이 과거와 동등한 수준의 커버리지를 제공하는지 여부는, 라이케 같은 비판자들이 제기하는 열린 질문이다. 현재로서는, OpenAI가 재분배된 책임이 과거의 독립 팀과 동일한 방식으로 어떻게 측정되고 책임을 지게 될지에 대해 공개적으로 설명하지 않았다.
FAQ
OpenAI 대비 팀은 어떤 역할을 했나요?
대비 팀은 OpenAI의 AI 모델이 생물학 무기 개발이나 대규모 사이버 공격을 가능하게 하는 등 심각한 위험을 초래하는지를 평가하고, 모델이 공개되기 전에 이러한 위험을 완화하기 위한 전략을 개발하는 역할을 맡았다.
왜 OpenAI는 대비 팀을 해산했나요?
OpenAI는 이에 대한 구체적인 공개 설명을 내놓지 않았다. 파이낸셜 타임즈는 이 조치가 2026년 7월 말에 이뤄졌으며, 회사가 대규모 IPO를 앞두고 더 광범위한 구조조정을 진행하는 가운데, 이전에 AGI 대비 팀과 슈퍼얼라인먼트 팀을 해산한 결정에 이어 나온 것이라고 보도했다.
지금 OpenAI에서는 누가 AI 위험 평가를 담당하나요?
생물학 및 사이버 위협과 같은 특정 위험 영역에 대한 책임은 하나의 중앙집중식 그룹이 아니라 기존 팀들로 나뉘어 이전되었다. 전 대비 팀 리더였던 딜런 스칸디나로는 이제 재귀적 자기 개선 AI의 함의에 구체적으로 집중하고 있다.
{“@context”:”https://schema.org”,”@type”:”FAQPage”,”mainEntity”:[{“@type”:”Question”,”name”:”OpenAI 대비 팀은 어떤 역할을 했나요?”,”acceptedAnswer”:{“@type”:”Answer”,”text”:”대비 팀은 OpenAI의 AI 모델이 생물학 무기 개발이나 대규모 사이버 공격을 가능하게 하는 등 심각한 위험을 초래하는지를 평가하고, 모델이 공개되기 전에 이러한 위험을 완화하기 위한 전략을 개발하는 역할을 맡았다.”}},{“@type”:”Question”,”name”:”왜 OpenAI는 대비 팀을 해산했나요?”,”acceptedAnswer”:{“@type”:”Answer”,”text”:”OpenAI는 이에 대한 구체적인 공개 설명을 내놓지 않았다. 파이낸셜 타임즈는 이 조치가 2026년 7월 말에 이뤄졌으며, 회사가 대규모 IPO를 앞두고 더 광범위한 구조조정을 진행하는 가운데, 이전에 AGI 대비 팀과 슈퍼얼라인먼트 팀을 해산한 결정에 이어 나온 것이라고 보도했다.”}},{“@type”:”Question”,”name”:”지금 OpenAI에서는 누가 AI 위험 평가를 담당하나요?”,”acceptedAnswer”:{“@type”:”Answer”,”text”:”생물학 및 사이버 위협과 같은 특정 위험 영역에 대한 책임은 하나의 중앙집중식 그룹이 아니라 기존 팀들로 나뉘어 이전되었다. 전 대비 팀 리더였던 딜런 스칸디나로는 이제 재귀적 자기 개선 AI의 함의에 구체적으로 집중하고 있다.”}}]}
이 기사는 인공지능의 도움을 받아 제작되었으며, 편집팀의 검수를 거쳤습니다.
