이미 AI에 기반한 다양한 서비스가 국내에도 서비스되고 있지만 아직 관련 입법이 이루어지지 않은 상황입니다. AI 기본법에 대한 논의가 이 때문에 우리나라에서도 매우 뜨겁습니다. 이번 호에서는 국가간의 협의체인 다자 회의에서 AI가 어떻게 논의되고 있는지 살펴보고 끝으로 국내 쟁점 사항을 다루고자 합니다.
1편: 국제기구 – OECD, UNESCO, UN 총회 (10월호)
3편: 다자간 회의, 국내 상황 (이번 호)
다자 회의
국제 사회에는 다양한 국가 간의 협력 체계가 있습니다.
이러한 각각의 틀에서도 AI 리스크를 관리하기 위한 논의가 진행되고 있습니다. 주요 협의체에서 논의되고 있는 현황은 다음과 같습니다.
Global Greens
글로벌 그린스는 생태적 지혜, 사회 정의, 참여 민주주의, 비폭력, 지속 가능성, 다양성 존중 등의 원칙을 담은 글로벌 그린스 헌장을 이행하기 위해 노력하는 정당 및 운동의 국제 네트워크입니다. 2001년에 결성되어 현재는 100개국 이상의 곳에서 활동하는 녹색당 및 관련 단체로 구성되어 있습니다. 글로벌 그린스는 5년마다 세계 녹색당 총회를 개최하며 가장 최근에는 2023년 대한민국 송도에서 열렸습니다. 작년 총회에서는 기후 행동, 민주주의, 사회 정의와 같은 주제 외에도 AI 섹션이 마련되어 패널 토의가 진행되었으며 AI 이슈가 시급하다고 판단되어 긴급 결의안이 채택되어 발의되었습니다. [AI 긴급 결의안 전문 보기]
유럽 평의회 (CoE, Council of Europe)
유럽평의회는 1949년에 설립된 유럽에서 가장 오래되고 규모가 큰 정부 간 기구로, 46개 회원국의 인권, 민주주의, 법치 수호를 위해 헌신하고 있습니다. 유럽 연합과는 독립적으로 운영되며 법적 구속력이 있는 국제 조약을 만들고 유럽 인권 협약과 유럽 인권 재판소를 감독하며 약 6억 7,500만 명의 인권을 보호하는 유럽 대륙 최고의 인권 감시자 역할을 하고 있습니다. 유럽평의회에서도 2019년도부터 AI 리스크에 대한 협의가 진행되어 왔으며 그 과정은 아래와 같습니다.
2019년: 인공지능에 관한 특별위원회(CAHAI) 설립. AI에 대한 법적 수단의 타당성을 검토하도록 임무를 부여받음.
2020년: CAHAI에서 AI에 대한 법적 프레임워크에 관한 타당성 연구 진행
2021년: “인공지능에 대한 법적 프레임워크의 가능한 요소”에 대한 권고사항을 채택. AI 규제를 위한 법적 구속력 있는 횡단적 수단의 창설을 제안
2022년: 인공지능위원회(CAI)가 CAHAI를 계승하여 기본 협약 텍스트의 초안 작성 및 협상을 시작함.
2024년 5월 17일: 유럽 평의회 각료위원회가 기본 협약을 채택함.
2024년 9월 5일: 기본 협약이 서명을 위해 개방됨.
우리는 AI의 부상이 우리의 표준을 훼손하는 것이 아니라 우리의 표준을 유지하도록 해야 합니다. 본 조약은 이를 보장하기 위해 고안되었습니다. 이는 강력하고 균형 잡힌 문안으로, 개방적이고 포용적인 접근 방식을 통해 초안을 작성하고 다양한 전문가의 관점을 반영한 결과물입니다. 본 조약은 잠재적으로 전 세계에 영향을 미칠 수 있는 개방형 조약입니다. 이번 서명이 첫 번째 서명이 되고 비준이 신속하게 이루어져 조약이 가능한 한 빨리 발효될 수 있기를 바랍니다.
– 마리자 페이치노비치 부리치(Marija Pejčinović Burić) , Council of Europe Secretary General
유럽평의회의 “인공 지능과 인권, 민주주의, 법치주의에 관한 유럽 평의회 기본 조약”은 법적 구속력을 가진 국제 조약이라는 점에서 의미가 있습니다. 또한 서명은 유럽 평의회에서 이루어졌지만 전 세계 국가들에 개방되어 있으므로 어느 나라나 서명을 하면 이를 준수해야 합니다.
기본적인 접근 방식은 EU의 AI 법과 마찬가지로 위험성에 기반한 방식으로 하고 있으나, 공통 표준 아래에서 이행 방식은 각국이 유연하게 접근할 수 있도록 하고 있습니다.
본 조약은 인공지능 시스템의 수명 주기 내 활동이 인권, 민주주의, 법치에 부합하도록 보장하는 것을 목표로 합니다. 이 조약은 회원국들이 특히 인권과 민주적 절차에 미치는 영향과 관련하여 AI로 인한 위험을 식별, 평가, 예방 및 완화하기 위한 조치를 채택할 것을 권장하며 AI 시스템에서의 투명성, 책임성, 비차별의 중요성을 강조합니다. 또한 개인정보 보호와 데이터 보호를 포함한 개인의 권리 보호와 국제적 협력의 필요성을 인식하고 있습니다. 전반적으로 이 조약은 공유 가치를 보호하면서 책임감 있는 혁신을 촉진하는 법적 프레임워크를 구축하고자 합니다.
AI정상회의
AI 정상회의는 미국 주도로 흘러가는 AI 논의에 대한 주도권을 영국 정부가 가져오기 위해 리시 수낵 총리 하의 행정부에서 추진되었습니다. 각국의 정상들이 참여하는 회의라는 점에서 의미가 있으며 각국의 정상들과 함께 주요 기업들이 참여한다는 점에서 보다 현실적인 논의가 오가는 점이 다릅니다. 현재 2회까지 개최되었으며 첫 회는 AI 안전 회의로 시작하였으나 이후에는 AI 회의로 명명되었습니다.
2023년 11월 1,2일: AI안전 정상 회의 개최 (장소: 영국 밀턴 케인즈의 블레츨리 파크)
2024년 5월 21,22일: AI회의 개최 (장소: 대한민국 서울)
2025년 2월: 파리에서 개최 예정
첫 정상회의 때에는 Open AI 대표인 샘알트만, 테슬라 CEO인 엘론 머스크 등 주요 인사가 참석하여 화제를 모았습니다. 특히 서울에서 개최된 회의에서는 기업들이 자발적으로 안전서약을 서명한 것이 눈에 띄었습니다.
AI 회의는 빠르게 발전하는 AI 기술이 제기하는 과제들을 다루기 위해 정부, 산업계 리더, 전문가들을 한 자리에 모아, AI 규제와 안전에 대한 글로벌 협력을 추진해 나가는 장을 만들어가고 있다는 점에서 주목을 받고 있으며 앞으로 그 역할이 기대되고 있습니다.
국내 상황
우리나라도 해외와 비슷한 시기에 AI 입법에 대한 논의가 시작되었습니다. 지난 21대 국회에서 이에 따라 다수의 법안이 발의되었으며, 작년에는 그 중 7개의 법률안을 통합한 ‘인공지능 산업 육성 및 신뢰 기반 조성에 관한 법률안’이 국회 과학기술정보통신위원회(이하 과방위) 소위를 통과하여 EU보다 먼저 AI 입법이 이루어지는 것이 아닌가 하는 기대도 있었습니다. (관련기사: 한국 세계 최초 AI 입법? ‘선 허용-후 규제’ 하자고?) 그러나 시민사회의 강력한 반발에 따라 법 제정으로 이어지지 않고 22대 국회로 넘어가게 되었습니다.
민주사회를 위한 변호사 모임 디지털정보위원회· 정보인권연구소· 진보네트워크센터· 참여연대와 같은 시민단체들이 현재의 AI기본법 제정 방향에 반대하는 이유는 아래와 같습니다.
| 구분 | 상세 내용 |
| 중복 법제화 | 현재 제정하고자 하는 법안이 기존의 ‘지능정보화기본법’과의 차별화 부족. |
| 안전 및 인권 보호 미비 | AI서비스들의 위험성을 규제할 실질적인 내용이 부족함AI서비스 규제 방안과 시민이 피해를 받았을 때의 구제 절차를 내용에 담아야 함 |
| 고위험 AI에 대한 규제 | EU AI법안의 Risk 구분에서 고위험으로 분류되었던 서비스들에 대한 규제 방안이 미흡함 |
| 국제 기준 미달 | 국제 사회에서 지금까지 나온 권고안, 기준에 미흡함 |
| 투명성 부족 | 법안 심의 과정이 투명하게 이루어지지 않고 시민사회의 의견이 충분히 반영되지 않고 있음 |
그러나 정부와 IT 업계는 기본법의 부재로 인한 AI 서비스 개발의 불확실성이 산업계 전반에 가져오는 위험이 더 크다고 보고 있습니다. 특히 우리나라의 AI 기술이 미국이나 중국 같은 국가들과 비교하여 격차가 큰 상황이고, 이를 따라잡으려면 정부의 적극적인 진흥책이 필요하다고 보고 관련 법안 제정을 요구하고 있습니다.
올해 22대 국회에서는 여야 구분 없이 다양한 위원들이 아래와 같은 AI관련 법안을 발의하였습니다.
■ 인공지능산업육성및신뢰확보에관한법률안(안철수의원2024.5.31.대표발의)
■ 인공지능발전과신뢰기반조성등에관한법률안(정점식의원2024.6.17.대표발의)
■ 인공지능산업육성및신뢰확보에관한법률안(조인철의원2024.6. 19.대표발의)
■ 인공지능산업육성및신뢰확보에관한법률안(김성원의원2024.6. 19.대표발의)
■ 인공지능기술기본법안(민형배의원2024.6.28.대표발의)
■ 인공지능개발및이용등에관한법률안(권칠승의원2024.7.4.대표발의)
■ 인공지능기본법안(한민수의원2024.8.22.대표발의)
■ 인공지능책임법안(황희의원2024.8.27.대표발의)
■ 인공지능발전진흥과사회적책임에관한법률안(배준영의원2024.8.28.대표발의)
■ 인공지능의발전과안전성확보등에관한법률안(이훈기의원2024.9. 12.대표발의)
■ 인공지능산업진흥및신뢰확보등에관한특별법안(김우영의원2024.9.24. 대표발의)
11월 21일 과방위는 정보통신방송법안심사소위원회(이하 제2법안소위)를 열고 기존에 올라온 AI 법안들과 김현 전기통신사업법 개정안을 병합하는 안을 통과시켰습니다. 통과된 법안의 주요 내용은 아래와 같습니다.
- AI 산업 진흥 및 지원
– 정부가 AI 진흥 계획을 수립하도록 의무화
– AI 데이터센터 투자 활성화, 지역균형발전 지원, 벤처 지원 등을 위한 법적 근거 마련
– AI 관련 R&D, 표준화, 인력양성 및 기업의 AI 도입·활용 지원
– AI안전연구소 운영 근거 마련
– 대통령 직속 국가 AI위원회의 법적 근거 신설 - 고위험 AI 규제
– 고위험 AI에 대한 사업자 책임 신설
– 고위험 AI는 사람의 생명, 신체, 건강과 안전, 기본권 보호, 국가안보 및 공공복리 등에 중대한 영향을 미칠 수 있는 AI로 정의
– 정부가 고위험 AI 사업자에게 신뢰성·안전성 확보 조치를 요구할 수 있는 권한 부여 - AI 윤리 및 신뢰 기반 조성
– AI의 윤리적이고 안전한 활용을 위한 신뢰기반 조성 내용 포함
– AI가 제작한 영상이나 사진에 워터마크 의무화 - 기타
– 해외 AI서비스 기업의 국내 대리인 지정 의무화
그러나 시민사회에서는 현재 제2법안소위를 통과한 내용이 충분한 논의와 투명한 절차 없이 졸속 심사 통과되었으며, 산업 육성에만 치중되어 시민 안전과 인권 보호를 위한 핵심 규정들이 미비한 상태로 보고 있습니다. 특히 고위험 AI 사업자 처벌 조항이 없다는 점을 큰 문제로 보고 있으며 여전히 산업 진흥만을 고려한 채 시민의 안전과 권리를 경시했다고 말합니다. (시민사회 공동성명 전문 보기)
이렇듯 의견이 첨예하게 나뉘어 지고 있어 남은 입법 절차에서 더 충실한 심사와 논의가 필요한 상황입니다. 그러나 여전히 많은 분들이 해당 내용을 모르고 이해가 부족한 것이 문제입니다. AI서비스들은 이미 실생활에 사용되고 있으며 우리가 인지하지 못하고 있을 뿐 삶에 미치는 영향이 매우 큽니다. 많은 분들이 관심을 가지고 이에 대해 논의하고 의견을 국회에 내는 것이 필요합니다.
법보다 중요한 것
그동안 총 3회에 걸쳐 AI 리스크를 관리하기 위한 국제 동향과 국내외 입법 현황을 살펴보았습니다. 법은 현대 민주주의 사회를 지탱하는 중요한 제도입니다. 그러나 법 제정이 만능은 아닙니다. 아무리 법이 잘 만들어졌다고 해도 그 법이 현실을 반영하지 못한다면 사문화될 가능성도 있습니다. 실제로 IT 업계 현장에는 몇몇 법들이 현실을 무시한 채 제정되어 그러한 위치에 있습니다. 그래서 AI의 경우에도 어떠한 법이 제정된다면 그 법이 현실에서 준수될 수 있는 지원 방안이 함께 필요합니다. 스타트업이나 중소기업의 경우에는 법을 지키고 싶어도 예산과 인력이 부족하여 지킬 수 없는 경우가 많기 때문입니다. 규제 당국의 엄격한 감독과 처벌 이행뿐만 아니라 법 조항이 잘 준수될 수 있도록 하는 생태계 조성도 필요합니다. 이를 위해서는 정말 다양한 영역, 다양한 계층에서 AI가 가져오는 리스크에 대해 이해하고 실제 현장에서 이 부분이 어떻게 다루어지고 있는지를 알고 함께 제도를 만들어가야 합니다.
오늘날 현대인들이 인터넷과 스마트폰이 없는 일상을 생각하기 어렵듯이 이제부터 우리가 살아가는 시대는 AI서비스가 없는 일상을 상상할 수 없는 시대입니다. AI는 우리 삶의 모든 영역에 적용될 것이며 이로 인해 발생할 여파는 지금 무엇을 상상하든 그 이상일 것이기 때문입니다.
Green Geek을 구독하시면 지금 보시는 것과 같은 ICT 소식과 정보를 받아보실 수 있습니다.
Green Geek 
댓글 남기기