인공지능은 의료, 금융, 마케팅, 공공 행정을 포함한 모든 분야를 빠르게 혁신하고 있습니다. 하지만 누가 이러한 시스템을 감시합니까? AI가 기본 권리를 침해하지 않도록 어떻게 보장할 수 있을까요?
이러한 질문에서 EU AI Act가 탄생했습니다. 이는 세계 최초로 인공지능의 개발, 배포 및 사용을 위험이라는 핵심 원칙에 따라 규제하는 법률입니다.
목차
EU AI Act는 무엇을 예측합니까?
2024년에 승인된 유럽 인공지능 규정은 위험 기반 접근 방식을 도입합니다. AI 시스템은 네 가지 주요 범주로 분류됩니다:
🔹 최소 위험 AI
🔹 고위험 AI
🔹 금지된 AI
🔹 일반 목적 모델 (GPAI)
금지된 관행: 미래가 없는 AI
일부 인공지능의 사용은 윤리적으로 용납할 수 없거나 위험한 것으로 간주되어 2025년 2월 2일부터 금지될 것입니다.
금지된 AI의 예:
- 사회 점수 (“Black Mirror” 스타일): 실제 생활에 영향을 미치는 사람들의 행동을 평가합니다.
- 심리적 조작: 사용자가 해롭거나 무의식적인 결정을 내리도록 유도하는 시스템.
- 인터넷에서 얼굴 스크래핑을 통한 생체 인식 데이터베이스.
- 감정 인식 학교 및 직장 (건강 또는 안전상의 이유 제외).
- 실시간 생체 인식 감시는 예외적인 경우에 허가된 경우를 제외하고 법 집행 기관에 의해 수행됩니다.
고위험 AI: 규칙 및 요구 사항
고위험 시스템은 권리, 안전 또는 필수 서비스 접근에 직접적으로 영향을 미치는 시스템입니다. 이들은 엄격한 요구 사항을 준수해야 합니다.
구체적인 예시:
- AI 사용하여 후보자 채용 또는 성과 평가.
- 신용 적합성 또는 사회적 혜택을 결정하는 시스템.
- 알고리즘 in 의료 기기 또는 중요 인프라 (에너지, 교통).
- AI 도구가 사법 시스템 또는 민주 선거에 영향을 미치는 경우.
공급업체는 다음을 수행해야 합니다:
- 지속적인 위험 관리 시스템 채택
- 트레이닝 및 테스트의 데이터 높은 품질을 보장하다
- 각 단계를 기술적 투명성으로 문서화하기
- 상업화 후 모니터링 계획을 구현
사용자는 다음을 수행해야 합니다:
- 시스템을 구체적인 지침에 따라 사용하십시오
- 시스템 AI 로그를 보관하다
- 공공 또는 민감한 맥락에서 기본 권리에 대한 영향을 평가하다
규칙은 2026년 8월 2일부터 발효됩니다.
AI 일반 모델(GPAI)을 위한 규칙
규정은 Granite di IBM 또는 LLaMA 3 di Meta와 같은 foundation models에 대한 특별 규정을 도입하며, 이는 다양한 응용 프로그램에서 사용할 수 있습니다.
GPAI 공급자의 의무:
- EU 저작권 준수
- 공개 요약 dataset di training
- 자동 태그 생성된 콘텐츠 (딥페이크, 텍스트, 이미지)
모델이 훈련 단계에서 10²⁵ FLOP 임계값을 초과하면, 시스템적 위험으로 간주되어 다음을 수행해야 합니다:
- 심각한 사고 보고
- 고급 cybersecurity 조치를 채택하다
규칙은 2025년 8월 2일부터 새로운 모델에 적용되며, 기존 모델에 대해서는 2027년까지 적응 기간이 주어집니다.
EU AI Act는 누구에게 적용됩니까?
규정은 다음에 적용됩니다:
- 공급자 (AI를 개발하거나 상업화하는 사람)
- 사용자 (자신의 활동에서 AI 시스템을 사용하는 사람)
- 수입업자 및 유통업자 EU 내
EU 외부의 기업들도 그들의 시스템이나 결과물이 유럽 연합에서 사용되는 경우 규제 대상에 포함됩니다. 이 경우, EU 내에 공인 대리인을 지정해야 합니다.
제재: 최대 3,500만 유로
과태료는 위반의 심각성에 비례합니다:
| 위반 유형 | 최대 제재 |
| 금지된 AI 사용 | €35백만 또는 전 세계 매출의 7% |
| 고위험 AI 요건 위반 | €15백만 또는 전 세계 매출의 3% |
| 당국에 대한 오해의 소지가 있는 정보 | €7.5백만 또는 전 세계 매출의 1% |
PMI e startup는 비례 제재 체제의 혜택을 받습니다.
중요한 날짜
2024년 8월 1일: 공식 발효
2025년 2월 2일: 금지된 AI 관행 금지
2025년 8월 2일: GPAI (새로운 모델)
2026년 8월 2일: 고위험 AI
2027년 8월 2일: 다른 EU 규정에 의해 규제되는 시스템
FAQ – 자주 묻는 질문 AI Act에 대해
▶ AI 법은 개인적인 인공지능 사용에도 적용됩니까?
아니요. 개인적인 사용이나 과학 연구를 위한 사용은 면제됩니다.
▶ 오픈 소스 시스템은 규제됩니까?
예, 시스템적 영향을 미치거나 위험한 상황에서 사용되는 경우 규제됩니다.
▶ “콘텐츠 생성 표시”는 무엇을 의미합니까?
콘텐츠(예: 딥페이크 비디오)가 AI에 의해 생성되었거나 변경되었음을 나타내는 기계가 읽을 수 있는 메타데이터 또는 레이블을 추가하는 것입니다.
결론
EU AI Act는 단순한 법률 이상의 의미를 지니고 있습니다: 이는 유럽 디지털 혁신의 미래에 대한 의지 표명입니다. AI를 개발, 배포 또는 사용하는 기업들은 자신의 위험을 평가하고, 프로세스를 조정하며, 투명성과 거버넌스에 투자하기 위해 즉시 행동해야 합니다.




