[IGLOO]세계 최초 전면 시행 앞둔 「AI기본법」, 핵심 쟁점은?

소학회/기술스터디

haerim9.9 2026. 1. 27. 20:38

EU의 'AI법(AI Act)'

위험 기반 접근방식에 따라 AI 시스템을 위험 수준별로 유형화했다.

금지된 AI 시스템: 사용 자체가 금지됨
고위험 AI 시스템: 출시 전 위험관리 시스템, 데이터 품질관리, 기술 명세서, 로그의 기록/관리, 운영자에 대한 정보 공개의 투명성, 사람에 의한 감독, 정확성/신뢰성/보안 요구사항을 준수하고 적합성 평가를 받아야 함
제한된 위험을 갖는 AI 시스템: 투명성 의무를 준수해야 함 -> AI가 콘텐츠를 생성 시, 기계가 판독이 가능한 형태로 표시해야 함
최소위험 AI 시스템

<8가지 고위험 AI 시스템>

비판: 과도한 규제, EU의 기술 발전을 저해할 수 있음.

-> 일부 규제의 강도를 완화하는 방안인 '디지털 간소화 방안' 발표

미국의 AI 행동계획(America's AI Action Plan)

AI 혁신 가속화: 규제 완화 및 주도 장려 / 미국 내 AI 기술 생태계 강화 / AI 개발보조 및 법적 지원 체계 구축
AI 인프라 구축: 반도체 제조 복원 및 AI 인프라 강화 / 안보기관 및 주요 기반시설 AI 보안 및 대응체계 강화
국제 AI 외교/안보 주도: 미국 AI 기술 우방국 수출 및 적성국 통제 강화 / 미국 주도 글로벌 영향력 확대 / AI기반 국가안보 및 연계 위험 리스크 평가체계 주도

이외 AI 규제와 관련한 주정부와 연방정부 간의 법적 분쟁이 심화될 전망

캘리포니아, 콜로라도 등의 주정부: AI 안전성과 알고리즘 투명성을 강화하는 AI 규제 추진
뉴욕: '책임 있는 AI 안전 및 교육법(Responsible AI Safety and Education Act, RAISE Act)'에 서명, 이는 대형 AI 기업을 대상으로 한 안전 규제 의무화와 관련한 내용을 담았음

한국의 'AI 기본법'

EU의 AI법을 바탕으로 AI 산업 발전과 안전/신뢰 기반 구축이라는 두 가지를 균형적으로 반영함.

쟁점: AI 발전을 저해할 수 있으며, 일부 조항의 모호성이 불확실성을 해소하지 못함

고영향 AI의 모호한 정의: 보건/의료, 채용/인사 평가, 금융 신용 판단, 에너지/교통 등 핵심 인프라 운영, 수사/재판 지원 등이 고영향 AI 분야에 해당함. AI 판단 결과가 개인의 권리와 삶에 직접적인 영향을 미칠 수 있어 사회적 파급력이 큼. 따라서 위험 요소를 사전에 관리할 수 있는 체계를 구축하도록 요구함.
한계: 고영향 AI 분류의 2단계 조건에 포함된 '중대한 영향'의 범위가 추상적임.
연산량 기반 안전성확보의무 대상 규정: 누적 연산량이 10의 26제곱 플롭스(FLOPS) 이상인 모델을 고영향 AI로 간주, 사업자에게 안전성 확보 의무를 부과함.
한계: 연산량만으로는 AI의 위험성을 판단하는 데에 한계까 있음.
투명성 의무 규정: AI 사업자는 생성형 AI가 만든 결과물에 AI가 활용됐다는 사실을 명확히 표시해야 함.
한계: 규정의 적용 범위가 지나치게 넓게 해석될 수 있음. 예로 AI 사진 보정 기능, 문법 교정, 자동 번역 등의 기능에도 AI 사용 표시를 해야 할 가능성이 있음.

본 게시글은 아래의 링크 속 콘텐츠를 기반으로 작성.

[IGLOO]AI부터 사이버 보안까지, 내년을 이끌 기술 트렌드는? (0)	2026.02.24
[IGLOO]피지컬 AI(Physical AI)란 무엇인가요? (0)	2026.02.10
[SAMSUNG SDS] 크립토 지불 시스템: 디지털 화폐 결제의 현재와 미래 (0)	2026.01.13
[Theori]Patch Thursday — 온체인 옵션 거래소의 구조와 잠재적 위협: 2편 (0)	2025.11.17
[Theori]Patch Thursday — 온체인 옵션 거래소의 구조와 잠재적 위협: 1편 (0)	2025.11.10

공부용

공부용