인공지능은 크립토 분야에서 빠르게 발전하고 있지만, 이제는 속도만큼이나 AI 에이전트 안전성이 중요하다. 이러한 시스템은 거래를 수행하고, 자금을 이동하며, 지갑을 읽을 수 있기 때문에 한 번의 실수가 곧바로 큰 손실로 이어질 수 있다.
Summary
AI 에이전트가 위험 지형을 바꾸는 이유
전통적인 소프트웨어와 달리, 에이전트는 스스로 단계를 계획하고, 자율적으로 행동하며, 지속적인 입력 없이도 계속 작동할 수 있다. 이러한 자율성은 트레이더와 애널리스트에게 도움이 되지만, 동시에 공격 표면을 넓힌다.
실제로 에이전트는 포트폴리오를 리밸런싱하고, DeFi 기회를 스캔하거나, 트랜잭션을 실행할 수 있다. 그러나 권한이 하나씩 늘어날 때마다, 실수·버그·조작이 실제 자금에 도달할 가능성도 함께 커진다.
에이전트는 어떻게 악용되는가
가장 큰 위협 중 하나는 환각(hallucination)이다. AI 시스템은 잘못된 컨트랙트 주소, 토큰 공급량, 프로토콜 규칙을 말하면서도 매우 자신감 있게 들릴 수 있다. 그렇기 때문에 실행 전에 항상 AI 출력 검증이 선행되어야 한다.
프롬프트 인젝션도 또 다른 주요 문제다. AI 프롬프트 인젝션 공격에서는 공격자가 숨겨진 또는 직접적인 지시를 주입해, 모델이 트랜잭션 요청이나 데이터 유출을 포함한 유해한 행동을 하도록 유도한다.
간접 프롬프트 인젝션은 특히 우려스럽다. 악성 텍스트가 웹페이지, 문서, 메시지 내부에 숨어 있을 수 있기 때문이다. 일부 프롬프트 인젝션 공격 사례에서는, 마켓 데이터를 검색하던 에이전트가 공격자가 통제하는 주소로 자금을 전송하도록 속을 수 있다.
이와 같은 취약점은 피싱, 사회공학, 툴 포이즈닝(tool poisoning)에서도 동일하게 나타난다. 악의적인 행위자는 손상된 플러그인, 가짜 인터페이스, 기만적인 툴 설명을 통해 AI 시스템을 노릴 수도 있다.
또한 지갑 주소, API 키, 트랜잭션 이력을 다루는 AI 에이전트는 데이터 유출을 하도록 밀어붙여질 수 있다. 이는 악성 통합이나 손상된 툴을 통해 조용히 발생할 수 있어, 탐지가 더 어려워진다.
스마트 컨트랙트 리스크 역시 문제의 일부다. 에이전트가 온체인 상태를 잘못 읽거나 잘못된 트랜잭션을 실행하면, 블록체인 전송은 보통 되돌릴 수 없기 때문에 그 결과가 영구적일 수 있다.
러그 풀(rug pull)은 또 다른 위험층을 더한다. 수익을 찾는 시스템이 가짜 프로토콜과 상호작용할 수 있고, 운영자는 자금이 이미 투입된 뒤에야 이를 알아차릴 수도 있다.
더 안전하게 사용하기 위한 실질적인 단계
첫 번째 원칙은 단순하다. 최소 권한 원칙을 사용하라. 에이전트가 마켓 데이터만 필요하다면, 서명 권한, 광범위한 API 접근, 전체 지갑 제어 권한을 부여하지 말라.
정상적인 서비스는 절대 프라이빗 키나 시드 구문을 요구하지 않는다. 이러한 자격 증명은 오프라인으로 보관하고, 그런 요청은 명백한 경고 신호로 간주해야 한다.
개발자와 사용자는 에이전트를 배포하기 전에 프롬프트 인젝션 공격이 무엇인지 이해해야 한다. 크립토에서는 소프트웨어가 외부 콘텐츠를 읽고 자동으로 행동할 때 위험이 커진다.
또한 모든 중요한 출력은 공식 소스와 대조해 검증해야 한다. 컨트랙트 주소, 토큰 세부 정보, 마켓 데이터는 어떤 행동을 취하기 전에 수동으로 확인해야 한다.
자동화된 상호작용을 위한 별도의 지갑을 사용하는 것도 노출을 줄이는 방법이다. 주요 보유 자산은 콜드 스토리지에 보관하고, 에이전트 지갑에는 소량의 자본만 두라.
승인 내역, 연결된 앱, 활동 로그를 정기적으로 검토하라. 그러나 거기서 멈추지 말고, 툴을 최신 상태로 유지하고, 평판이 좋은 제공업체를 사용하며, 검증되지 않은 플러그인이나 통합은 피해야 한다.
일부 팀은 문제가 발생했을 때 피해를 제한하기 위해 에이전트를 샌드박스 환경에서 실행하기도 한다. 또한 지속 메모리(persistent memory) 역시 주의가 필요하다. 이 메모리는 오염될 수 있고, 나쁜 지시를 이후 세션까지 가져갈 수 있기 때문이다.
업계 전반에서 연구자들은 datasentinel: 프롬프트 인젝션 공격에 대한 게임 이론적 탐지, 프롬프트 인젝션 공격과 방어의 형식화 및 벤치마킹, wasp: 프롬프트 인젝션 공격에 대한 웹 에이전트 보안 벤치마킹과 같은 프로젝트를 통해 위협을 문서화하고 있다. 이러한 노력은 하나의 단순한 점을 강화한다. 보안은 처음부터 설계에 포함되어야 한다는 것이다.
여전히 중요한 인간의 감독
AI 에이전트는 유용할 수 있지만, 의사결정을 대체하기보다는 지원해야 한다. 대규모 전송이나 익숙하지 않은 프로토콜과의 상호작용처럼 위험이 큰 행동은 항상 인간의 확인을 요구해야 한다.
또한 모든 사용자에게 기본적인 원칙은 같다. 시스템이 무엇에 접근할 수 있는지, 무엇을 변경할 수 있는지, 이상 징후가 보일 때 얼마나 빨리 접근을 철회할 수 있는지 스스로에게 물어야 한다.
시장은 자동화를 계속 보상할 수 있지만, 가장 안전한 접근법은 여전히 신중함이다. 좋은 지갑 보안 모범 사례, 엄격한 권한 관리, 꾸준한 검토가 여전히 맹목적인 신뢰보다 더 나은 크립토 AI 리스크 관리 방법을 정의한다.
MIT AI 에이전트 안전성 연구와 기타 보안 연구는 모두 같은 방향을 가리킨다. 자율 도구는 도움이 될 수 있지만, 사용자가 통제를 유지하고, 권한을 제한하며, 모든 중요한 단계를 검증할 때에만 그렇다.
