메타는 새로운 보안 도구 시리즈를 발표하여 인공지능 모델의 개발 및 사용을 더 안전하게 만들기 위한 목표를 가지고 있습니다. 이는 창작자와 cybersecurity 분야의 수호자 모두를 위한 것입니다.
새로운 소식은 특히 Llama 모델군에 관한 것으로, 이제는 새로운 위협에 대처하기 위한 업데이트되고 더 정교한 자원을 갖추고 있습니다.
목차
라마 가드 4: Meta의 새로운 AI 프로그램에서 텍스트 및 이미지에 대한 멀티모달 보안
주요 업데이트 중 하나는 Llama Guard 4로, Meta의 맞춤형 보안 필터의 진화입니다.
이 버전의 큰 혁신은 텍스트뿐만 아니라 이미지에도 보안 규칙을 분석하고 적용할 수 있는 멀티모달 기능입니다. AI 애플리케이션이 점점 더 시각화되고 있다는 점을 고려할 때, 이는 중요한 단계입니다.
Llama Guard 4은 이미 Meta의 새로운 API Llama에 통합되어 있으며, 현재 제한된 미리보기로 제공됩니다. 개발자는 Llama 보호의 공식 페이지를 통해 이 도구에 액세스할 수 있으며, 또는 Hugging Face 및 GitHub 플랫폼을 통해서도 가능합니다.
또 다른 중요한 혁신은 LlamaFirewall로, 중심 명령 센터로 설계된 시스템입니다. 인공지능 시스템의 보안을 위한 것입니다. 이 도구는 다양한 보호 모델을 조정할 수 있으며 Meta의 다른 보안 도구와 통합됩니다.
LlamaFirewall은 빠른 인젝션 (prompt injection), 잠재적으로 위험한 코드 생성 및 AI 플러그인의 위험한 행동과 같은 정교한 위협에 대응하기 위해 설계되었습니다.
본질적으로, 인공지능 기반 시스템의 무결성을 손상시킬 수 있는 가장 교묘한 공격에 대한 방어막을 나타냅니다.
Meta는 또한 jailbreak 및 프롬프트 인젝션 시도를 감지하는 시스템을 새로운 Prompt Guard 2 (86M)로 업데이트했습니다. 이 모델은 AI 조작 시도를 보다 정확하게 식별하도록 설계되었습니다.
이와 함께, Prompt Guard 2 22M이 도입되었습니다. 더 가볍고 빠른 버전으로, 지연 시간과 계산 비용을 최대 75%까지 줄였습니다. 이 버전은 제한된 자원으로 작업하지만 안전성을 포기하고 싶지 않은 사람들에게 이상적입니다.
CyberSec Eval 4: 새로운 AI 보안을 위한 벤치마크
Meta는 개발자에게 도구를 제공하는 데 그치지 않고, 사이버 보안 분야에서 AI 시스템의 역량을 평가하기 위해 설계된 CyberSec Eval 4 벤치마크 제품군도 업데이트했습니다.
이 오픈 소스 스위트는 조직이 디지털 위협 감지 및 대응에서 인공지능의 효과를 측정하는 데 도움을 줍니다.
두 개의 새로운 도구가 이 제품군을 풍부하게 합니다:
- – CyberSOC 평가: CrowdStrike와 협력하여 개발된 이 프레임워크는 Security Operation Center (SOC)의 실제 환경에서 AI의 성능을 평가하며, 인공지능의 운영 효율성에 대한 구체적인 통찰을 제공합니다.
- – AutoPatchBench: AI 모델, Llama 계열을 포함하여, 코드의 취약점을 자동으로 식별하고 수정하는 능력을 테스트하는 벤치마크로, 악의적인 행위자가 이를 악용하기 전에 수행됩니다.
이 도구들의 채택을 용이하게 하기 위해, Meta는 Llama Defenders 프로그램을 출시하여 보안 분야의 특정 과제를 해결하기 위해 설계된 AI 솔루션의 선택에 대한 특권 액세스를 제공합니다 – 일부는 오픈 소스이고, 다른 일부는 미리보기 또는 독점적입니다.
공유된 도구 중에는 Meta에서 내부적으로 사용되는 민감한 문서 자동 분류기도 포함되어 있습니다.
이 시스템은 조직 내 문서에 보안 레이블을 적용하여 기밀 정보가 실수로 AI 시스템에 입력되어 노출되는 것을 방지합니다.
Meta는 또한 사기 및 피싱 시도에서 점점 더 많이 사용되는 인공지능으로 생성된 가짜 오디오의 증가하는 문제에 직면했습니다. 두 가지 새로운 도구가 파트너에게 제공되었습니다:
- – 라마 생성 오디오 감지기
- – 라마 오디오 워터마크 감지기
이 도구들은 의심스러운 통화에서 합성 음성을 식별하는 데 도움을 줍니다. ZenDesk, Bell Canada, AT&T와 같은 기업들은 이미 이러한 기술을 자사의 보안 시스템에 통합하는 것을 평가하고 있습니다.
개인 처리: 프라이버시를 침해하지 않는 유용한 AI
마지막으로, Meta는 WhatsApp을 위한 개발 중인 기술의 미리보기를 제공했으며, 이를 elaborazione privata라고 부릅니다.
목표는 인공지능이 읽지 않은 메시지를 요약하거나 응답을 제안하는 것과 같은 유용한 기능을 제공할 수 있도록 하는 것이며, Meta나 WhatsApp이 메시지의 내용에 접근할 수 없도록 하는 것입니다.
이 기술은 프라이버시를 존중하는 AI를 향한 중요한 단계입니다. Meta는 자체 위협 모델을 공개하고 공식 출시 전에 연구자 커뮤니티가 그 견고성을 테스트하도록 초대하면서 투명한 접근 방식을 채택하고 있습니다.
이 일련의 발표를 통해 Meta는 개발과 방어의 관점에서 인공지능의 안전성을 강화하려는 구체적인 노력을 보여줍니다.
목표는 두 가지입니다. 즉, 최종 사용자를 보호하고 개발자와 보안 전문가에게 지속적으로 진화하는 디지털 위협에 대처할 수 있는 고급 도구를 제공하는 것입니다.
빠르게 변화하는 기술 환경에서 AI가 점점 더 중심적인 역할을 하는 가운데, 이러한 이니셔티브는 더 안전하고, 투명하며 책임 있는 디지털 미래를 보장하는 데 필수적입니다.




