동일한 질문을 두 가지 다른 버전의 Claude에게 하거나, 영어 대신 아랍어로 질문하면 같은 종류의 답을 얻지 못할 수도 있다. 이는 사실이 바뀌기 때문이 아니라, 응답을 형성하는 기저 가치가 달라지기 때문이다. Anthropic 연구진의 새로운 연구는 이러한 변화를 이례적으로 정밀하게 지도화했으며, Claude AI의 가치 변동이 실제로 존재하고 측정 가능하며, 이전에 이해되던 것보다 더 구조적이라는 점을 밝혀냈다.
Summary
핵심 요약
- Anthropic 연구진은 Claude의 응답에서 3,000개가 넘는 개별 가치를 식별하고, 전체 변동성의 15%를 설명하는 네 가지 핵심 축으로 이를 압축했다.
- Opus 4.6은 존중, 따뜻함, 간결함, 실행 쪽으로 기울고, Opus 4.7은 신중함, 엄밀함, 깊이, 솔직함 쪽으로 기운다.
- Claude가 표현하는 가치는 언어에 따라 특히 ‘따뜻함 vs. 엄밀함’과 ‘솔직함 vs. 실행’ 축에서 가장 크게 달라진다.
- 아랍어와 힌디어는 더 따뜻한 응답을, 영어와 러시아어는 더 엄밀한 응답을 이끌어내는 경향이 있다.
- 이 연구는 Claude.ai에서 가장 많이 사용되는 20개 언어에 대해, 모델-언어 쌍당 약 5,000개의 대화를 사용했다.
Claude AI가 표현하는 가치를 측정하기
이번 연구는 Anthropic이 이전에 분석한 70만 개의 익명 Claude.ai 대화를 직접적으로 토대로 한다. 이 분석을 통해 Claude의 응답에 내재된 3,000개가 넘는 개별 가치가 드러났다. 이처럼 긴 목록은 그 자체로는 분석에 거의 쓸모가 없다. 그래서 이번 연구의 목표는 압축이었다. 수천 개의 중첩된 가치 신호를 소수의 해석 가능한 차원으로 바꾸는 것이다.
가치 식별 및 차원 축소 방법론
연구진은 이전 연구에서 식별된 3,307개의 가치를 출발점으로 삼아, 유사한 가치들을 수작업으로 339개의 상위 범주로 묶었다. 그런 다음 프라이버시를 보호하는 분석 도구를 사용해 Claude.ai 대화를 샘플링하여, 세 가지 모델( Sonnet 4.6, Opus 4.6, Opus 4.7 )과 플랫폼에서 가장 흔한 20개 언어 전반에 걸쳐 모델-언어 쌍당 약 5,000개의 대화를 추출했다. 각 대화마다 도구는 339개 가치 각각이 나타났는지 여부를 라벨링했다. 이후 차원 축소 기법을 적용해 실제 대화에서 어떤 가치들이 함께 묶이는 경향이 있는지 찾아냈다.
연구는 작업 유형, 주제, 사용자 표현 가치 등을 통제했기 때문에, 측정된 것은 사용자가 우연히 무엇을 물어봤는지가 아니라 Claude 자체의 경향성을 반영한다.
네 가지 핵심 가치 축 정의
그 결과, Claude가 표현하는 가치의 변동성 15%를 설명하는 네 가지 축이 도출되었다.
- 존중(Deference) vs. 신중(Caution) — Claude가 상대가 원하는 것을 수용하는 쪽으로 기우는지, 잠재적 위험과 피해를 경계하는 쪽으로 기우는지.
- 따뜻함(Warmth) vs. 엄밀함(Rigor) — Claude가 상대에 대한 긍정성과 배려를 강조하는지, 정확성과 정밀성을 강조하는지.
- 깊이(Depth) vs. 간결함(Brevity) — Claude가 깊이 있게 설명하는지, 요청된 것만 수행하는지.
- 솔직함(Candor) vs. 실행(Execution) — Claude가 자신의 불확실성을 전면에 내세우는지, 다듬어진 자신감 있는 답을 제공하는지.
중요한 점은, 이 축들이 이분법적인 온·오프 스위치가 아니라는 것이다. Claude는 한 대화 안에서도 따뜻함과 엄밀함을 동시에 표현할 수 있다. 하지만 실제로는, 한 축에서 한쪽으로 더 기울수록 다른 쪽으로 기울 가능성은 줄어드는 경향이 있다.
Claude 모델 간 가치 프로필의 차이
가장 분명한 발견은, 두 Claude 모델이 같은 종류의 질문에 답하면서도 성격 면에서 상당히 다르게 행동할 수 있다는 점이다. 가치 축은 이러한 차이를 단순한 인상 수준이 아니라 정량적으로 보여준다.
Opus 4.6과 Opus 4.7의 뚜렷한 가치 경향
Opus 4.6은 존중, 따뜻함, 간결함, 실행 쪽으로 기운다. 실제로는 사용자의 아이디어를 긍정하고, 요청 범위 안에 머물며, 불필요한 논평 없이 곧바로 요점으로 들어가는 경향이 있다는 뜻이다. Opus 4.7은 대부분의 축에서 반대 방향으로 움직인다. 신중함, 엄밀함, 깊이, 솔직함 쪽으로 기운다. 가정에 이의를 제기하고, 요청받지 않아도 위험을 경고하며, 자신의 한계를 솔직히 밝힐 가능성이 더 크다.
Sonnet 4.6은 따뜻함과 존중 차원에서 Opus 4.6에 더 가깝게 위치하며 — 자주 유머와 격려를 사용한다 — 동시에 간결함 쪽으로도 기우는 모습을 보인다.
행동적 함의와 사용자 인식
이렇게 측정된 프로필은 사용자와 Anthropic 직원들이 실제로 이 모델들을 묘사해 온 방식과 밀접하게 일치한다. Claude.ai 사용자들은 Opus 4.7이 더 자주 단서를 달고 조심스러워한다고 지적해 왔다. Anthropic 내부에서는 Opus 4.7을 더 높은 투명성과 겸손을 표현하는 모델로, Opus 4.6을 더 간결한 모델로 특징지었다. 가치 축 방법이 이러한 인식을 독립적으로 재현했다는 사실은 이 방법론에 의미 있는 신뢰성을 부여한다. 이는 대화 샘플링 방식의 산물이 아니라, 실제로 모델이 어떻게 행동하는지를 포착하고 있다는 뜻이다.
이러한 차이를 만들어내는 주된 요인은 캐릭터 훈련으로 보인다. 각 모델은 서로 다른 파인튜닝 결정의 결과를 반영하며, 가치 축 접근법은 이제 이러한 선택을 측정 가능한 행동 결과와 연결하는 방법을 제공한다. 이는 왜 어떤 모델은 다른 모델과 다르게 느껴지는지 이해하려는 모든 이들에게 중요한 진전이다.
언어에 따른 Claude 가치의 변동
연구의 언어 차원에서 가장 중요한 발견들이 나온다. Claude는 단순히 자신의 행동을 다른 언어로 번역하는 것이 아니라, 대화가 어떤 언어로 진행되느냐에 따라 의미 있게 다른 가치를 표현한다.
언어 기반 가치 차이의 핵심
가장 큰 변화는 따뜻함 vs. 엄밀함 축과 솔직함 vs. 실행 축에서 나타난다. 따뜻함 측면에서 Claude는 힌디어와 아랍어에서 가장 따뜻하고 격려적이며 긍정적인 응답을 하는 쪽으로 기운다. 이는 공손한 표현, 유머, 상대의 작업을 인정하는 표현으로 특징지어진다. 영어와 러시아어에서는 균형이 엄밀함 쪽으로 이동해, 가정을 도전하고, 세부 사항을 바로잡으며, 증거를 요구하는 경향이 강해진다.
존중 vs. 신중 축에서는 아랍어가 가장 존중적인 응답을 이끌어내는 반면, 영어는 가장 신중한 응답을 이끌어낸다. 솔직함 vs. 실행 축에서는 네덜란드어 대화에서 Claude가 자신의 오류를 인정하려는 경향이 가장 강하게 나타나고, 인도네시아어 대화에서는 결과 제공에 집중하는 경향이 두드러진다.
가능한 원인과 함의
연구진은 여러 기여 요인을 지적한다. 학습 데이터는 언어별로 고르게 분포되어 있지 않다. 어떤 언어는 다른 언어보다 훨씬 많은 데이터를 가지고 있고, 데이터 구성도 다르다. 일부 언어에서는 전문적인 글쓰기가 데이터를 지배하며, 그 안에 내재된 가치도 다를 수 있다. 언어별 대화 규범 역시 역할을 할 수 있으며, Claude는 학습 과정에서 흡수한 문화적 기대에 맞추어 어조를 조정할 수 있다.
여기서 실질적인 이해관계는 매우 구체적이다. 같은 사업 계획에 대해 Claude에게 피드백을 요청하는 두 사람을 생각해 보자. 한 사람은 힌디어로, 다른 사람은 러시아어로 질문한다. 힌디어 사용자는 더 따뜻하고 긍정적인 표현을, 러시아어 사용자는 더 비판적인 검토를 받을 수 있다. 두 상호작용 모두 해당 언어 및 문화적 맥락에서는 적절하게 느껴질 수 있지만, 실제 계획의 품질에 대한 서로 다른 인상을 낳을 수도 있다. 이러한 차이가 바람직한 문화적 민감성인지, 아니면 Claude가 서로 다른 언어 공동체를 얼마나 잘 지원하는지에 대한 형평성 격차인지는, 연구진이 아직 답할 수 없다고 명시한 열린 질문으로 남아 있다.
Claude의 가치를 이해하고 조정하기 위한 향후 방향
이번 연구는 해결책이라기보다 진단적 단계로 제시된다. 가치 프로필을 측정하는 방법을 갖추는 것 자체가 진전이며, 그 측정값을 가지고 무엇을 할 것인지는 더 어려운 다음 과제다.
가치 변동의 원인 탐색
가치가 모델과 언어에 따라 달라진다는 사실을 아는 것만으로는, 어떤 구체적인 학습 결정이나 데이터 특성이 이러한 변화를 이끄는지까지 설명하지는 못한다. 네 가지 축은 연구진에게 더 목표 지향적인 지도를 제공한다. 수천 개의 개별 가치 전체를 훑으며 조사 대상을 찾는 대신, 어떤 축이 움직였는지 추적하고, 그에 대응하는 학습 단계나 데이터 특성을 찾아낼 수 있다.
사용자 영향과 가치 정렬의 과제
이번 연구는 Claude가 어떤 가치를 표현하는지를 측정할 뿐, 그 가치가 사용자에게 어떤 영향을 미치는지는 측정하지 않는다. 가치 프로필을 실제 사용자 결과 — 신뢰, 의사결정의 질, 웰빙 —와 연결하는 것이 다음 핵심 단계로 지목된다. Anthropic Interviewer와 같은 도구를 사용해 사용자 수준 데이터를 수집하고, 각 대화에 기록된 가치 축 위치와 상관관계를 분석할 수 있다.
의도적인 조정의 문제도 있다. 가치 축 방법은 캐릭터 훈련 조정이나 시스템 프롬프트 변경이 의도한 대로 모델의 가치 프로필을 안정적으로 바꿀 수 있는지 시험하는 데 사용될 수 있다. 연구진은 이것이 여전히 도전 과제임을 투명하게 밝힌다. Claude의 가치를 통제된 방식으로 조정하는 것은 실제 배포 환경에서 아직 검증되지 않았다.
모델 모니터링에서 가치 프로파일링의 잠재력
운영 측면에서 특히 중요한 가능성 중 하나는, 가치 프로파일링을 지속적인 모델 평가의 일부로 사용하는 것이다. 모델 출시 전과 배포 후에 가치 축 분석을 수행하면, 예기치 않은 행동 변화를 감지할 수 있다. 이는 가치 드리프트에 대한 일종의 조기 경보 시스템 역할을 할 수 있다. 또한 이 방법은 특정 가치 프로필과 문제적 행동 사이의 상관관계를 식별해, 향후 학습 개선에 직접 활용될 수 있다.
이 연구가 진정으로 중요한 이유는 메우고 있는 격차 때문이다. Claude는 수십 개 언어로 이루어지는 매일 수백만 건의 대화 속에서 가치를 표현해 왔지만, 그 가치는 개별 상호작용 수준에서만 관찰 가능했고, 대규모로는 거의 측정할 수 없었다. 축(framework) 기반의 틀은 이 상황을 바꾼다. 이는 변동이 편향인지 문화적 민감성인지, 아랍어에서의 따뜻함이 영어에서의 엄밀함보다 사용자에게 더 나은지 혹은 더 나쁜지와 같은 더 어려운 규범적 질문을 해결해 주지는 않는다. 그러나 원칙적으로는 이러한 질문에 답할 수 있게 만든다. 보이지 않던 것을 측정 가능하게 만드는 변화가 바로 정렬(alignment) 작업이 본격적으로 시작되는 지점이다.
FAQ
Claude가 표현하는 가치는 모델 버전에 따라 어떻게 다른가요?
Opus 4.6은 존중, 따뜻함, 간결함, 실행 쪽으로 기울어, 요청 범위 안에 머물고 사용자의 아이디어를 긍정하는 경향이 있다. Opus 4.7은 신중함, 엄밀함, 깊이, 솔직함 쪽으로 기울어, 가정을 더 자주 도전하고, 위험을 경고하며, 자신의 한계를 인정하는 경향이 있다.
Claude가 표현하는 가치는 왜 언어에 따라 달라지나요?
언어별 학습 데이터의 양과 구성 차이, 언어 특유의 대화 규범, 모델 파인튜닝 등이 모두 영향을 미친다. 일부 언어는 전문적인 글쓰기가 과대표집되어 있어, 그 안에 내재된 가치가 다를 수 있고, 다른 언어에서는 데이터 부족으로 인해 학습을 통해 일관된 가치 표현을 달성하기가 더 어려울 수 있다.
Claude의 가치를 요약하는 네 가지 핵심 가치 축은 무엇인가요?
존중 vs. 신중, 따뜻함 vs. 엄밀함, 깊이 vs. 간결함, 솔직함 vs. 실행이다. 이 네 가지 축은 대화 전반에 걸쳐 Claude가 표현하는 가치 변동성의 15%를 설명한다.
Claude의 가치를 신뢰할 수 있게 조정하거나 통제할 수 있나요?
연구는 학습 조정이나 시스템 프롬프트를 통한 조정이 원칙적으로 가능함을 시사하지만, 실제 배포 환경에서 목표한 방향으로 안정적으로 변화를 이끌어내는 것은 여전히 추가 연구가 필요한 도전 과제로 남아 있다.
{“@context”:”https://schema.org”,”@type”:”FAQPage”,”mainEntity”:[{“@type”:”Question”,”name”:”Claude가 표현하는 가치는 모델 버전에 따라 어떻게 다른가요?”,”acceptedAnswer”:{“@type”:”Answer”,”text”:”Opus 4.6은 존중, 따뜻함, 간결함, 실행 쪽으로 기울어, 요청 범위 안에 머물고 사용자의 아이디어를 긍정하는 경향이 있다. Opus 4.7은 신중함, 엄밀함, 깊이, 솔직함 쪽으로 기울어, 가정을 더 자주 도전하고, 위험을 경고하며, 자신의 한계를 인정하는 경향이 있다.”}},{“@type”:”Question”,”name”:”Claude가 표현하는 가치는 왜 언어에 따라 달라지나요?”,”acceptedAnswer”:{“@type”:”Answer”,”text”:”언어별 학습 데이터의 양과 구성 차이, 언어 특유의 대화 규범, 모델 파인튜닝 등이 모두 영향을 미친다. 일부 언어는 전문적인 글쓰기가 과대표집되어 있어, 그 안에 내재된 가치가 다를 수 있고, 다른 언어에서는 데이터 부족으로 인해 학습을 통해 일관된 가치 표현을 달성하기가 더 어려울 수 있다.”}},{“@type”:”Question”,”name”:”Claude의 가치를 요약하는 네 가지 핵심 가치 축은 무엇인가요?”,”acceptedAnswer”:{“@type”:”Answer”,”text”:”존중 vs. 신중, 따뜻함 vs. 엄밀함, 깊이 vs. 간결함, 솔직함 vs. 실행이다. 이 네 가지 축은 대화 전반에 걸쳐 Claude가 표현하는 가치 변동성의 15%를 설명한다.”}},{“@type”:”Question”,”name”:”Claude의 가치를 신뢰할 수 있게 조정하거나 통제할 수 있나요?”,”acceptedAnswer”:{“@type”:”Answer”,”text”:”연구는 학습 조정이나 시스템 프롬프트를 통한 조정이 원칙적으로 가능함을 시사하지만, 실제 배포 환경에서 목표한 방향으로 안정적으로 변화를 이끌어내는 것은 여전히 추가 연구가 필요한 도전 과제로 남아 있다.”}}]}
이 기사는 인공지능의 도움을 받아 제작되었으며, 편집팀의 검수를 거쳤습니다.
