이미 AI에 기반한 다양한 서비스가 국내에도 서비스되고 있지만 아직 관련 입법이 이루어지지 않은 상황입니다. AI 기본법에 대한 논의가 이 때문에 우리나라에서도 매우 뜨겁습니다. 이번 호에서는 AI 기본법 논의를 하기에 앞서 국제 사회에서는 논의가 어떻게 진행되어 왔고 주요 국가들의 입법 현황은 어떤지 총 3회에 걸쳐 살펴보고 마지막으로 국내 쟁점 사항을 다루고자 합니다.

1편: 국제기구 – OECD, UNESCO, UN 총회  (지난 달)

2편: 주요 국가 현황 (이번 호)

3편: 다자간 회의, 국내 상황  (다음 달)

주요 국가 입법 현황

국제 기관에 각 나라의 대표들이 모여서 논의하는 것과 동시에 각 나라 내에서도 AI리스크를 관리하기 위한 논의가 진행되고 있습니다. 주요 국가들의 현황은 다음과 같습니다.

EU

EU는 가장 먼저 AI입법을 추진해왔으며 올해 AI법안을 채택하였습니다. 그 과정을 살펴보면 아래와 같습니다.

2021년 4월 21일: 유럽 위원회가 AI 법안의 초기 제안을 발표함.
2022년 12월 6일: EU 이사회가 AI 법안에 대한 공동 입장(‘일반적 접근’)을 채택 함.
2023년 6월 14일: 유럽 의회가 AI 법안에 대한 협상 입장을 채택 함.
2023년 12월 9일: 의회와 이사회가 AI 법안에 대한 잠정 합의에 도달함.
2024년 2월 13일: 내부 시장 및 시민 자유 위원회가 AI 법안 협상 결과를 승인하는 투표를 함.
2024년 2월 21일: AI 법안 이행을 지원하기 위해 위원회 내에 유럽 인공지능 사무소가 출범함.
2024년 3월 13일: 유럽 의회가 법안 초안을 승인함.
2024년 5월 21일: 유럽 이사회가 EU AI 법안을 공식 채택함.
2024년 7월 12일: AI 법안이 유럽 연합 공식 저널에 게재됨.
2024년 8월 1일: AI 법안이 발효됨. (AI법안 전문 보기)

EU의 AI법안이 가지고 있는 주요 특징은 아래와 같습니다.

1. 위험 기반 접근 방식:  AI 시스템을 네 가지 위험 단계로 분류(허용할 수 없는 위험/고위험/제한된 위험/최소 위험)
2. 이행을 감독할 유럽 인공지능 사무소 설립
3. General-purpose AI (GPAI) models을 위한 특정 규칙 마련
4. AI시스템 공급자의 의무 명시 – 감독할 인력 할당, 입력 데이터의 관련성 및 대표성 확인, 자동 생성 로그 보관, 사용 지침에 따른 모니터링, 부속서 III조에 따르는 신용 평가/보험 평가 등

EU의 AI법안이 적용되는 대상은 유럽연합 내에 AI시스템 혹은 범용 AI모델을 출시하는 공급자(Deployer)로 시스템에 의해 생산된 결과물이 유럽연합에서 사용되는 경우에 해당합니다. 벌금은 아래와 같습니다.

금지된 AI 시스템 제공 위반	최대 3500만 유로 또는 총매출액의 최대 7%
고위험 시스템 규제 위반	최대 1500만 유로 또는 총매출액의 최대 3%
투명성 의무 위반	최대 750만 유로 또는 총매출액의 최대 1%

미국

미국은 지난 뉴스레터에서도 다루었던 것처럼 오바마 행정부에서 AI에 관한 전략을 수립한 이래 역대 정부가 AI를 중요한 아젠다로 삼고 정책을 펴왔습니다. 이에 맞추어 연방 기관과 각 주에서는 아래와 같은 법들이 제정되어 왔습니다.

구분	법 명	시기
연방	National Artificial Intelligence Initiative Act of 2020	2021년 1월 1일 발효
주	California BOT Disclosure Law	2019년 7월 발효
	California Consumer Privacy Act (CCPA)	2020년 제정, 2023년 발효
	Illinois AI Video Interview Act	2020년 1월 발효
	Utah AI Policy Act	2024년 5월 발효
	Colorado AI Act (CAIA)	2024년 5월 17일 Jared Polis 주지사가 서명2026년 2월 1일부터 시행 예정

2020년 국가 인공지능 이니셔티브 법(National Artificial Intelligence Initiative Act of 2020)는 2020년 3월 12일 하원에 소개되었고 2021 회계연도 국방수권법(NDAA)에 포함되었습니다. 트럼프 행정부는 국가안보의 위협이 있다고 주장하며 국방수권법을 거부해왔는데 의회가 2021년 1월 1일 대통령의 거부권을 무효화하면서 법이 제정되었습니다. 주요 내용은 아래와 같습니다.

1. 국가 AI 이니셔티브 수립
   국가 AI 이니셔티브 사무소를 설립하고 감독을 수행.
   
2. 기관 간 조정
   국가과학기술위원회에 연방 AI 프로그램과 활동을 조정하기 위한 기관 간 위원회 설립 지시
   
3. 연구 및 개발
   – 연방 과학 기관에 국가 AI 연구소 창설 지원 지시
   – AI 데이터셋, 테스트베드 개발 및 AI의 사회적, 경제적, 안보적 영향에 대한 연구
   
4. 교육 및 인력 개발
   아웃리치 프로그램을 통해 AI 연구 및 훈련 참여 확대
   
5. 정책 방향 및 자금 지원
   NIST, NSF, DOE 등 주요 기관의 AI 연구 프로그램에 대한 정책 지침 및 권장 자금 수준 제공
   
6. 영향 평가
   – 국립과학재단에 AI가 미국 노동력에 미치는 영향에 대한 연구 위탁 지시
   – 정부 책임 사무소에 공공 및 민간 부문의 AI 컴퓨팅 하드웨어 필요성 평가 요구

2020년 국가 인공지능 이니셔티브 법은 미국의 인공지능 연구 및 개발을 발전시키기 위한 프레임워크를 수립하며 이해관계자의 참여, 윤리적 고려 사항, 표준화된 데이터 관행의 필요성을 강조합니다. 이 이니셔티브는 정부, 산업계, 학계 전반에 걸친 공동의 노력을 통해 미국의 AI 리더십을 유지하는 것을 목표로 합니다. 또한 AI 기술과 관련된 사회적 영향과 위험도 다루고 있습니다.

각 주에서는 보다 구체적으로 AI가 가져오는 사회 이슈를 입법화 하고 있습니다.

(1) 캘리포니아
캘리포니아주는 디지털 영역에서 투명성과 소비자 보호를 높이는 것을 목표로 하고 있음을 보여주고 있습니다. California BOT Disclosure Law(이하 BOT 공개법)에서는 인공적 정체성에 대해 오해를 일으킬 의도로 공개되지 않은 봇을 사용하는 것을 금지하고 있습니다. 이는 AI 봇이 상업적 거래를 유도하거나 투표에 영향을 미치는 것을 막기 위함입니다. BOT 공개법에 따르면 소비자가 오해를 일으킬 만한 상황에서 해당 행위의 주체가 사람이 아닌 AI 봇이라는 것을 기업은 밝혀야 합니다. 이를 위반하는 경우 최대 2,500달러의 벌금이 주어집니다. CCPA는 보다 광범위하게 개인정보를 보호하는 조항들을 가지고 있으며 기업은 캘리포니아 주민들에게 수집하는 정보를 알리고, 주민들이 해당 데이터의 삭제를 요청하거나 정보 판매를 거부하는 경우 응해야 합니다. 이를 통해 시민들이 개인 데이터를 더 잘 통제할 수 있는 권한을 부여합니다. 그리고 최근 개정되고 있는 CCPA/CPRA의 접근에 따르면 AI를 바탕으로 한 자동화된 의사 결정 기술에서 소비자의 권리를 강화하려고 하고 있습니다.

(2) 일리노이
일리노이주는 AI Video Interview Act(이하 AI 인터뷰법)를 제정하여 구직자의 인터뷰 영상을 고용주가 AI를 통해 분석하는 것에 대한 규제를 만들었습니다. 이 법에 따르면 고용주는 사전에 AI가 구직자의 비디오 인터뷰를 분석할 것임을 지원자에게 알려야 합니다. 사전 동의 없이 AI를 채용 절차에 사용할 수 없습니다. 또한 지원자가 요청할 경우, 30일 이내에 인터뷰 영상을 파기해야 합니다. 이 법은 아직 일리노이 주에 기반을 둔 기업에만 해당되지만 미국에서 직원 인터뷰에 AI 사용을 구체적으로 규제한 최초의 주법이라는 면에서 향후 다른 주로 확대되거나 중요한 참고가 될 가능성이 높습니다.

(3) 유타
유타주는 최근에 제정된 법안만큼 생성형 AI에 대한 보다 구체적인 내용들을 담고 있습니다. 유타주는 ‘인공지능 정책국’이라는 주 정부 기관을 설립하여 AI 개발과 정책을 감독하는 거버넌스를 주 차원에서 가져가고자 합니다. 유타주에 기반한 기업은 규제 대상 직종(예: 의료, 법률)의 경우, AI 사용을 소비자에게 사전에 공개해야 하며 사고나 문제가 발생할 경우 그 책임을 AI 시스템의 결함으로 회피할 수 없습니다. 그러나 동시에 AI 학습 실험실 프로그램을 통해 AI 개발을 위한 규제 샌드박스를 만들어 운영함으로써 기업들의 혁신 노력을 지원하도록 하고 있습니다. 유타주가 이러한 거버넌스 운영을 성공적으로 해낸다면 이는 다른 주는 물론 연방 정부에서도 좋은 레퍼런스가 될 것입니다.

(4) 콜로라도
콜로라도주는 마치 EU의 AI법을 미국화한 것과 같은 모습을 보이고 있습니다. CAIA에는 고위험 AI시스템을 구분하여 별도로 규제하고 있는데 여기에 해당하는 서비스들은 아래와 같습니다.

• 교육, 고용, 금융 서비스, 정부 서비스, 의료, 주택, 보험 또는 법률 서비스에 영향을 미치는 “중요한 결정”을 내리거나 실질적으로 영향을 미치는 시스템

이러한 고위험 시스템의 경우, 개발자와 배포자 둘 다 모두 예견 가능한 위험을 방지하기 위한 ‘합리적인 주의’를 기울여야 합니다. 구체적인 조치로는 문서화, 위험에 대한 사전 분석, 거버넌스를 통한 영향평가 및 관련 내용 공개 등이 있습니다. 특이할 점은 위반 사항에 대해 개인이 소송하는 것이 아니라 콜로라도 검찰 총장이 전적으로 집행하는 구조를 갖고 있다는 점입니다.

영국

영국 정부는 아직 포괄적인 AI 법안을 도입하지 않았습니다. 대신 더 신중한 접근을 취하고 있습니다.

• 정부는 AI에 대해 효과적으로 입법하기에는 아직 이르다고 판단하며, 기존의 부문별 규제 기관들이 중앙 기능의 지원을 받아 AI를 규제하기에 가장 적합한 위치에 있다고 주장합니다.
• 2024년 2월, 정부는 자발적 규제 원칙과 함께 규제 기관에 대한 지침을 포함한 접근 방식을 지원하기 위한 조치를 발표했습니다.
• 정부는 향후 어느 시점에 AI를 규제하기 위해 1차 법안이 필요할 것임을 인정하고 있습니다.

캐나다

캐나다의 AI 규제는 아직 개발 중입니다:

• 인공지능 및 데이터법(AIDA)이 2022년에 제안되었지만 의회에서 여전히 검토 중입니다.
• 2023년, 정부는 공공 부문의 AI 사용에 대한 지침을 발표하고 민간 부문을 위한 자발적 행동 강령을 지원했습니다.
• 2024년 예산안에서는 캐나다 AI 안전 연구소 설립에 5천만 달러, AI 컴퓨팅 접근 기금과 캐나다 AI 주권 컴퓨팅 전략에 20억 달러를 제안했습니다.

중국

중국은 포괄적인 AI 법안을 준비 중이지만 아직 최종화되지 않았습니다:

• 2023년 정부의 입법 의제에 “인공지능법”이 등장했습니다.
• 전문가들은 2024년에 AI법 초안이 공개될 것으로 예상하지만, 올해 안에 최종화되거나 시행될 가능성은 낮습니다.
• 중국은 이미 딥페이크와 같은 특정 AI 응용 프로그램에 대한 일부 규정을 도입했습니다.

일본

일본은 적극적으로 AI 규제를 추진하고 있습니다:

• 일본 자민당은 2024년에 생성형 AI 기술을 규제하기 위한 새로운 법안을 제출할 계획입니다.
• 이 계획은 유럽연합의 AI법 진전에 따른 것이며, 다른 국가들의 규제 노력과 시기를 같이 합니다.
• 일본은 또한 AI를 사용하는 기업들을 위한 지침을 제안했으며, 2024 회계연도 예산에서 AI 관련 지출 증가를 추진하고 있습니다.

대만

대만은 AI 법안을 개발하는 과정에 있습니다:

• 2024년 초 기준으로 대만에는 AI를 직접적으로 규제하는 특정 성문법이 없었습니다.
• 정부는 2024년에 발표될 것으로 예상되는 AI법 초안을 작성 중입니다.
• 2024년 7월 15일, 국가과학기술위원회는 AI 기본법 초안을 공개 협의를 위해 발표했습니다.
• 이 법안 초안은 AI 개발 및 응용에 대한 규제의 핵심 원칙을 수립하고 AI 통치에 있어 정부의 역할을 개괄합니다.

나머지 나라들의 경우 AI 규제 개발이 진행 중에 있습니다. 다만 일본과 대만은 2024년에 구체적인 법안을 향해 더 빠르게 움직이는 것으로 보이며, 영국은 더 신중한 접근을 취하고 있습니다. 중국은 포괄적인 법안을 준비 중이지만 일정은 덜 확실합니다. 캐나다는 법안을 제안했지만 아직 검토 중이며, 현재 정부는 자발적 조치와 지침에 의존하고 있습니다.

다음 달에 이어서 3편이 연재됩니다.

Green Geek을 구독하시면 지금 보시는 것과 같은 ICT 소식과 정보를 받아보실 수 있습니다.