연루된 과학자: 무기 시스템 개발에서 AI 연구자의 역할에 대하여

, , , , , , , , , , , , , , , , , , , , , , , , , , , , , , ,

녹색당 과학기술위원회 정강수

2026년 4월 브라질 리우 데 자네이루에서 International Conference on Learning Representations (ICLR)이 열렸습니다. ICLR은  NeurIPS, ICML과 함께 인공지능과 머신러닝1 분야의 대표적인 국제 학회로 매년 수많은 연구자들이 참여합니다. 이번 뉴스레터에선 ICLR에서 개최된 워크샵 중 하나인 AI for Peace (https://aiforpeaceworkshop.github.io/) 과 이 워크샵에서 발표된 논문 하나를 소개하려 합니다. 

먼저 홈페이지에 안내되어 있는 AI for Peace 워크샵의 취지입니다. 

머신러닝(Machine Learning)과 컴퓨터 비전(Computer Vision)2을 포함한 인공지능(AI)은 군사 응용 분야에서의 연구에 오랜 역사적 뿌리를 두고 있으며, 오늘날에도 과학계는 여전히 감시 및 방위 산업3과 깊이 연관되어 있습니다. 그 결과, 많은 연구자와 개발자는 자신들의 연구가 분쟁 상황에서 어떻게 활용될 수 있는지, 그리고 국제법 위반을 포함한 고의적인 피해에 어느 정도 기여할 수 있는지 제대로 인식하지 못하고 있습니다. 분쟁 및 감시 분야에서의 AI는 공공 및 정책 토론의 핵심 주제임에도 불구하고, 주요 머신러닝 학회에서 AI 연구자들이 자신들의 연구의 무기화에 관한 생각을 공식적으로 표명하고 논의할 수 있는 공간은 현재 존재하지 않습니다. 이러한 격차를 고려할 때, 연구 분야에서 핵심적인 위치를 차지하는 ICLR은 연구 결과 보급 및 설계 결정과 관련된 위해성과 비폭력적 위해 예방, 연구 윤리, 그리고 국제 인도법 및 인권법을 포함한 국제법 존중을 출발점으로 삼아 연구 개발 의제를 적극적으로 구축할 기회를 모두 논의하는 포럼을 개최하기에 이상적인 장소입니다. 본 워크숍에서는 인공지능의 이중 용도성이라는, 그동안 충분히 논의되지 않았던 문제를 다루고자 하며, 특히 연구자의 인지나 동의 없이 기계 학습 기술이 군사적 목적으로 어떻게 활용되고 있는지에 초점을 맞출 것입니다. 특정 연구 분야 및 시스템과 관련된 위험 증가에 주목하는 동시에, 윤리와 국제법을 핵심으로 하는 연구 개발 활동에 생산적으로 참여하는 것이 어떤 모습일지 함께 고민해 볼 것입니다.

취지에서 설명된 것처럼 이 워크숍은 AI가 감시 및 군사 목적에 활용되는 현실에서 AI 연구자들이 취해야 할 태도에 대한 논의의 장이었습니다. 오늘 뉴스레터에서는 이 워크숍에서 발표된 논문 중 연루된 과학자: 무기 시스템 개발에서 AI 연구자의 역할에 대하여 (THE IMPLICATED SCIENTIST: ON THE ROLE OF AI RESEARCHERS IN THE DEVELOPMENT OF WEAPONS SYSTEMS) 란 논문을 소개하려 합니다. 

1. 서론

과학자, 저널리스트, 활동가들의 작업은 최근 현대 전쟁 및 감시 기술(Surveillance Technology)4에 대한 머신러닝과 데이터 과학-종종 인공지능(AI)이라고 불리는 것-의 심대한 영향을 부각해 왔다. 최근까지, 기술 기업들의 군사적 응용에 대한 관여는 가능한 한 기밀로 유지되었는데, 그것이 부정적인 반응을 불러일으켰기 때문이다. 그러나 선도적인 기술 기업들은 이 금기를 깨고 있으며, 군사 기관 및 무기 제조업체들과의 협력을 확대하고 발표하고 있다. 이는 그러한 군사 계약에 반대하는 직원들의 항의에도 불구하고 이루어지고 있다. 이러한 변화들은 증가한 군사비 지출의 맥락에서 일어나고 있으며, AI 기반 전쟁 기술에 대한 대규모 투자로 특징지어지고, 일부 저자들은 이를 “AI 군비 경쟁”이라고 불러왔다.

이 맥락에서, 학계와 민간 부문 모두의 AI 연구자들은 기술적 지배를 위한 경쟁을 부추기고 그들을 상대적 권력의 위치에 놓는 깊이 짜인 네트워크의 일부이다. 이 권력은 연구자들에게 연구비 기회, 높은 급여, 여행 기회와 사회적 지위와 같은 특권과 이익을 가져다준다. 그러나 AI 연구자들의 작업이 기술적 군비 경쟁 및 관련 해악과 밀접하게 연관되고 있다는 사실은 AI 공동체 안팎의 많은 과학자들 사이에서 윤리적 우려 또한 불러일으키고 있다.

여기서 우리는 AI 군비 경쟁의 맥락에서 AI 연구자들의 위치를, 연루된 주체라는 형상과 부정의와 억압을 영속시키는 사회경제적 구조들 속으로의 연루라는 관련 개념을 사용하여 연구할 것을 제안한다. 기술적 AI 공동체 안에서는 흔하지 않은 이 어휘는 우리가 AI 기반 무기 시스템과 그 관련 해악을 만들어 내는 구조들에 대한 개인적 및 집단적 기여와 그로부터의 이익을 비판적으로 검토할 수 있게 한다. 우리의 검토는 구조적 변형을 향하고, 궁극적으로는 억압적이고 폭력적인 시스템으로부터의 집단적 해방을 향하는 개인적 및 집단적 행동의 가능한 전략들에 대한 통찰을 가져온다.

2. 배경: 연루된 주체

본 연구는 Rothberg가 제안한 연루된 주체라는 개념에서 크게 영감을 받았다.

연루된 주체들은 스스로가 해악의 직접적인 행위자는 아니지만, 권력과 특권에 정렬된 위치를 점한다. 그들은 지배 체제들에 기여하거나, 그 안에 거주하거나, 그것을 상속하거나, 그것으로부터 이익을 얻지만, 그러한 체제들을 기원시키거나 통제하지는 않는다. […] 비록 간접적이거나 뒤늦은 것이기는 하지만, 그들의 행동과 무행동은 피해자와 가해자의 위치를 생산하고 재생산하는 데 도움을 준다.

연루된 주체라는 형상에 초점을 맞춤으로써, 우리는 억압적 시스템의 구성 요소들로 주의를 돌리고, 우리 자신을 그 일부로 인식하며, 구조적 변화를 향한 잠재적 경로들을 탐구한다. 연루된 위치는 한 사람의 정체성을 규정하는 것이 아니라, 오히려 부정의나 해악의 사건과 관련하여 그 사람의 사회경제적 위치를 설명한다. 따라서 연루는 비난이나 죄책감의 감정을 암시하는 것이 아니라, 억압의 시스템에 대한 개인적 기여와 그것의 변형을 위해 이용 가능한 지렛대들에 대한 주의 깊은 성찰을 요청한다.

Rothberg가 제안하듯이, 연루된 주체들은 연대의 작업에 참여함으로써 자신의 위치를 변형할 수 있다. 즉, 억압에 저항하고 그 피해자들을 지원하기 위한 실질적인 노력을 기울이는 것이다. 이러한 노력에서 Rothberg는 차별화된, 장거리 연대의 중요성을 강조하는데, 이는 관련된 다양한 주체들의 위치들 사이의 차이와 거리를 인정하면서도, 그들의 사회적 연결성을 인식하고, 자기 자신의 위치라는 “장소 안에서 그리고 그 장소로부터 변화를 촉발하려고 시도”한다. 중요하게도, 이러한 시도들은 집단적으로 수행될 때 가장 효과적이며, 본질적으로 연루에 대한 “사회적으로 승인된 부인과 무지”에 맞서는 것에서 시작된다.

중요하게도, 여러 억압 시스템들은 다양한 부정의의 유산들과 함께, 서로 동시에 공존한다. 따라서 대부분의 사람들은 과거 또는 현재의 서로 다른 억압적 시스템들 안에 자신이 연루되어 있음을 발견하게 되며, 그 안에서 그들의 위치는 때로는 피해자에 더 가깝고, 다른 때에는 가해자에 더 가깝다. Rothberg는 이 현상을 “복합적 연루”라고 부른다. 더 나아가, 연루의 위치는 영구적이지 않은데, 그것은 한 사람의 삶의 사건들과 전환들과 함께 역동적으로 변화하기 때문이다. 그 결과로 생겨나는 복잡성과 역동성은 연루의 위치가 지니는 중요한 특성들이며, 우리가 우리의 연루를 연대로 변형하고자 할 때 고려되어야 한다.

3. 군사 분야에서 AI 연구자들의 연루

역사적 관점

군사 분야에서 AI 연구의 연루는 연구 분야로서 AI의 역사적 뿌리까지 거슬러 올라갈 수 있다. Katz가 설명하듯이, 1960년대 이후, AI가 새로운 연구 분야로 정의된 직후부터, 실천가들은 미국 국방부로부터 꾸준히 상당한 자금을 받아 왔다. 이 분야의 시작 이래로, 컴퓨터가 “지능적 과업”을 수행하게 만들려는 연구적 열망은 군사 후원자들과 자동화된 전장에 대한 그들의 상상력의 영향 아래에서 발전해 왔다. Katz는 이러한 긴밀한 관계가 AI 연구 방법론의 핵심 측면들에 깊은 영향을 미쳤으며, 여기에는 AI 연구에서 조작적으로 정의된 “지능”이라는 바로 그 개념도 포함된다고 제안한다. 이 개념 아래에서, 인간은 추상적 퍼즐을 해결할 때 “지능적”이라고 특징지어지는 “정보 처리 시스템”으로 인식된다. 이러한 조작적 관점은 예를 들어 감시를 위한 객체 및 음성 인식과 같은 광범위한 군사 과업들을 쉽게 수용한다. 더 나아가, AI 방법론은 지식을 축적하고, 이해와 통제를 증가시키는 데 크게 초점을 맞추고 있으며, 이는 사이버네틱스(Cybernetics)5와 유사하다. 이에 따라 두 분야 모두 권위주의적 목표에 봉사하는 군사적 응용에 매우 적합하게 된다.

이후 1980년대에, “이중 용도”라는 개념은 디지털 기술의 영역을 포함하여 군사 혁신을 관리하고 확장하기 위한 전략으로 미국에서 발전되었다. 이러한 혁신 과정에서, 이중성은 기술의 최종 용도에만 제한되는 것이 아니라, 민간 행위자와 군사 행위자 사이의 협력적 지식 창출 및 확산 과정에서 발생한다. 특히, 이러한 협력의 구체적 양상은 기술의 이중적 성격을 크게 결정한다. 이러한 맥락에서, AI 연구 분야와 군사 개발은 전문성, 인재, 지식을 공유하는 긴밀한 동맹 속에서 공동으로 진화해 왔다.

“기초 연구”에 대한 군사 자금 지원

미국의 맥락에서 AI 연구와 군사의 얽힘은 최근 Widder 등에 의해 분석되었다. 이 논문의 저자들은 2007년부터 2023년까지 미국 국방부(DoD)의 연구비 공모 자료 말뭉치를 조사했다. 분석의 결론 중 하나는 군사 기술과 AI 연구가 상승작용적인 방식으로 공동 진화한다는 개념을 강화하며, 이 논문은 이를 “상호 징집”이라고 설명한다. 또 다른 중요한 결론은 “기초” 연구와 “응용” 연구 사이의 고전적 구분에 관한 것이다. 일반적인 구분은 “기초 연구가 특정한 최종 용도에 대한 명백한 의도 없이 수행되는 것으로 간주한다”라고 본다. 그러나 Widder 등은 이러한 구분을 비판적으로 검토하고, DoD 연구비 공모에 대한 그들의 분석으로부터, 기초 연구라는 범주가 과학자들을 위한 도덕적 피난처를 만드는 목적에 봉사하지만, 그런데도 그들을 군사적 의제 속으로 징집한다고 결론짓는다. 예를 들어, 저자들은 기초 연구로 분류된 연구비 지원 프로그램의 제안서들이 DoD의 목표와 정렬될 경우 성공 가능성이 더 높다는 지표들을 논의한다. 이는 예컨대 “대학 연구자들과 DoD 사이의 장기적 관계” 확립이나 학생들을 “국방 인력”으로 훈련하는 것을 기준으로 설정하는 방식으로, 종종 명시적으로 진술된다.

이러한 결론들은 미국 DoD의 AI 지출이 최근 증가했다는 점에 비추어 볼 때 더욱더 관련성을 갖게 된다. 2022년부터 2023년까지 DoD의 AI 관련 지출의 잠재적 가치는 2억 6,900만 미국 달러에서 43억 2,300만 달러로 상승했으며(16배 증가), 이는 모든 AI 관련 연방 자금의 95%를 구성한다. 미국을 넘어, 유럽연합 또한 최근 기록적인 수준의 군사비 지출에 도달했으며, NATO 회원국들 대부분은 2035년까지 군사비 지출을 GDP의 5%로 증가시키는 데 동의했다. 결정적으로, 확대된 군사 예산의 적어도 일부는 학술 연구에 자금을 지원하는 데 사용될 것으로 예상된다. 예를 들어, 캐나다는 “국방 관련 연구 및 개발”을 85% 증가시킬 계획이며, AI는 핵심 부문으로 강조되고 있다. 유럽연합과 그 회원국들 또한 군사 연구 예산을 늘리고 있으며, 구체적인 AI 전략들을 개발하고 있다. 학자들에게 미치는 한 가지 결과는 그들의 연구비 지원 기회가 점점 더 군사와 연결될 것이라는 점이다.

산업계의 관여

AI 연구의 발전과 그것이 군사적 응용으로 번역되는 과정은 산업계, 특히 빅테크의 역할 없이는 완전히 이해될 수 없다. 한편으로, 빅테크 기업들은 AI 연구에서 영향력 있는 행위자가 되었으며, 여러 지표들 가운데 AI 학술대회 발표 논문의 약 4분의 1에 기여하고 있다. 이 분야로의 이러한 침투는 빅테크가 AI 연구의 의제에 크게 영향을 미칠 수 있게 해 왔다. 다른 한편으로, 빅테크-그리고 더 일반적으로 AI 산업-의 군사주의에 대한 관여 또한 상당히 증가했다. 미국 DoD와의 협력을 넘어서, Google, Microsoft, Amazon은 언론 조사에 의해 이스라엘 군과 긴밀히 협력한 것으로 보고되었다. 2023년 말부터, 이스라엘 국가는 제노사이드 범죄의 방지와 처벌에 관한 협약의 가자 지구 내 위반 혐의와 관련하여 국제사법재판소에서 진행 중인 공개 절차의 대상이 되어 있다. 더 나아가, 이러한 빅테크 기업들은 주요 무기 제조업체들, 즉 프라임(primes)으로 알려진 업체들과, 신흥 군사 스타트업들, 즉 네오프라임(neoprimes) 모두와 긴밀한 관계를 맺고 있다. 예를 들어, Google과 가장 큰 무기 제조업체 중 하나인 Lockheed Martin은 최근 생성형 AI(Generative AI)6를 포함하는 협력을 발표했다. Microsoft와 Meta 또한 Lockheed Martin 및 Palantir와 Anduril 같은 네오프라임들과 협정을 체결했다. 마지막으로, 무기 제조업체들이 AI 연구 공동체에 직접 관여하는 사례들도 있는데, AI 기반 살상 드론을 생산하는 독일 기반 스타트업 Helsing의 경우가 그러하다. Helsing의 수석 과학자는 Facebook AI Research의 전 공동 관리 이사였으며, 이 회사의 연구자들은 주요 AI 학술대회에서 발표된 논문들을 공동 저술했다.

결론

이 모든 통찰을 함께 고려할 때, 제2절에서 설명한 개념의 의미에서, AI 기반 무기의 확산과 그 파괴적 결과들에 대한 AI 연구자들의 연루를 추적하는 것이 가능하다. AI 분야는 그 시작 이래 군사 기관들과의 강한 관계 덕분에 진화해 왔다. 이러한 군사 기관들은 자신들의 자금 지원 시스템을 통해 AI 연구 의제에 영향을 미치며, 동시에 빅테크 및 무기 제조업체들과도 강한 관계를 구축한다. 빅테크는 국가 군대 및 무기 제조업체들과의 협력을 통해 AI 연구의 발전뿐만 아니라 군사적 응용에도 크게 연루되어 있다. 이러한 관계망의 가장 실질적인 결과는, 최근 연구 생태계 안에서 개발된 AI 기술들이 오늘날 현대 자율무기(Autonomous Weapons)7와 다른 군사 시스템들의 필수 구성요소가 되었다는 점이다. 연루의 틀 아래에서, AI 연구자들은 이러한 기술들의 개발에 대한 기여자이자 관련된 개인적 이익의 수혜자, 즉 연루된 주체로 자리한다. 비난이나 죄책감을 부여하기보다는, 연루의 위치는 효과적인 변형 전략들을 구상하는 데 사용될 수 있으며, 우리는 이를 제4절에서 논의한다.

4. 어떻게 저항할 것인가: 연루를 연대로 변형하기

제2절에서 논의했듯이, 연루된 주체들은 억압적 시스템 안에 내재되어 있다. 그들의 행동과 무행동을 통해, 그들은 집단적으로 그 시스템을 지지하고 그것의 해악을 가능하게 한다. 따라서 그들은 개인적으로 그리고 집단적으로 다르게 행동함으로써 그 시스템을 변형할 잠재력을 가지고 있다. 이 절에서 우리는 무기 시스템 개발에 대한 AI 연구자들의 연루라는 맥락에서 그러한 변형적 노력들을 위한 방향들을 제안한다.

인식론적 가정에 도전하기

가장 근본적인 변형은 이 분야의 핵심 토대에서 필요하다. 지능과 세계에 대한 조작적 “보편” 모델을 가정하는 대신, 페미니스트 및 탈식민주의 학자들은 상황적 지식 형식들의 다양성을 받아들일 것을 제안한다. 이는 “특정한 사람들에 의해 특정한 상황-문화적, 역사적, 지리적 상황-속에서 생산된” 지식이다. 그들은 “느낌을 존재, 앎, 행위 또는 삶으로부터” 분리하는 것을 거부하고, 살아 있는 경험으로부터 오는 지식을 가치 있게 여긴다. 이 패러다임은 사고의 방향을 궁극적 통제에 봉사하는 추상적 퍼즐 해결로부터, 다양한 인간 경험을 중심에 놓고, 다원성과 미지의 것을 수용하는 방향으로 전환한다. 이러한 생각들은 군사 세계에는 낯선 것이며, 제국들이 아니라 사람들과 공동체들에 힘을 부여하는 근본적으로 다른 기술들을 개발하기 위한 토대를 만든다. 탈식민주의적 및 페미니스트 관점들은 데이터 주권(Data Sovereignty)8, 참여적 설계(Participatory Design)9, 사회적 관계, 윤리적 노동, 그리고 상황에 놓인 좁은 범위의 기술 개발을 우선시하는 연구 방법론들로 이어진다.

비판적 접근법 개발하기

근본적이고 구조적인 변형은 비선형적인 방식으로 일어난다. 우리는 그것들을 최종 목표가 아니라 과정으로 다루고, 그것들에 실질적으로 기여할 방법들을 찾을 것을 제안한다. AI 연구자로서 우리는 우리 자신의 연루에 대한 부인과 싸우는 것에서 시작해야 한다. 우리 자신 안에서, 우리의 기관들 안에서, 그리고 우리의 연구 공동체 안에서 말이다. 비판 이론과 비판적 사고에 대한 교육은 이 과정에서 결정적인 역할을 하며, 의식적인 노력을 요구한다. STEM 교육과정들은 이러한 주제들을 거의 다루지 않기 때문이다. 가능할 때, 우리는 대학, 직장, 학회에서 비판적 토론을 위한 공간을 만들 것을 권장한다. 이는 인식을 높이는 것과 집단행동을 위한 공동체를 강화하는 것 모두에 기여하기 때문이다. 더 나아가, AI 연구를 추동하는 권력과 가치들을 면밀히 조사하는 학술 연구들은 변형적 행동을 위한 효과적인 전략과 목표에 대한 귀중한 통찰을 제공한다.

군사 협력 거부하기

분명히, 군사 자금과 협력을 피하는 것은 자신의 연구를 군사적 유인들의 직접적 영향으로부터 해방하는 데 도움이 된다. 제3절에서 언급했듯이, 군사 기관이 자금을 지원하는 “기초” 학술 연구조차도 이중 용도 혁신 시스템에 기여한다. 이는 학계와 군사 사이의 근접성을 증가시키고, 이 관계를 정상화하며, 지식과 인재 교환을 촉진하고, 따라서 무기 개발에 대한 학술 연구자들의 기여를 심화시킨다. 가능할 때, 우리는 민간 과학을 위한 정부 자금, 전문 학회 보조금, 신뢰할 수 있는 자선 재단, 윤리적 사명을 가진 산업 파트너십, 시민 과학 크라우드펀딩과 같은 더 윤리적인 자금원을 추구할 것을 제안한다. 군사 자금을 피하는 것이 불가능할 때, 우리는 자신의 연구, 그것이 군사 의제에 기여하는 방식, 그리고 집단적 직접행동을 통해 그것들을 사보타주할 가능한 방법들에 대한 비판적 평가에 더 많은 노력을 기울일 것을 제안한다.

연합 구축하기

전통적인 학술 활동의 틀을 넘어서, 우리는 연합 구축, 노동조합화, 직접행동, 그리고 관련 조직 및 정치 운동과의 참여의 중요성을 강조한다. 예를 들어, Science for the People은 급진적 과학에 헌신하는 분산형 조직으로, 반전 운동이 절정에 달했을 때 미국에서 설립되었고, 이후 전 세계에 지부들을 갖도록 확장되었다. SftP는 과학, 기술, 사회에 관한 비판적 글들을 담은 잡지를 발행하며, 이는 AI와 컴퓨팅에 대한 반군사적 담론에 기여해 왔다. 다른 관련 운동들로는 무기 시스템에서의 자율성에 대한 국제 규제를 옹호하는 Stop Killer Robots 캠페인(SKR), 그리고 페미니스트, 퀴어, 반인종주의 관점에서 많은 무기 시스템 전반에 걸쳐 군축과 군비 통제를 지지하는 Reaching Critical Will이 있다(RCW).

직접행동

마지막으로, 공개서한, 청원, 농성, 파업, 내부고발과 같은 기술 노동자들의 행동(Earthseed)은 결정적으로 가치 있는 저항 전략들이다. 두드러진 예는 Project Maven에 반대하는 Google 노동자들의 캠페인이다. Project Maven은 군사용 드론을 위한 컴퓨터 비전 기술을 개발하기 위한 Google과 미국 DoD 사이의 계약이었다. 이 노력에서 노동자들은 회사가 DoD와의 계약을 갱신하지 않도록 압박했으며, 이는 Google의 군사와의 화해를 늦추었다. 몇 년 뒤, Google과 Amazon은 이스라엘 정부 및 군과 클라우드 컴퓨팅 계약을 체결했고, 그들의 노동자들은 No Tech for Apartheid 캠페인으로 대응했다. 이 캠페인의 활동가들은 사무실에서 농성을 조직하고, 기업들의 군사 계약을 폭로하며, AI 무기 금수 조치를 요구한다. 유사하게, Microsoft 또한 팔레스타인인들에 대한 감시 데이터의 대량 저장과 관련하여 이스라엘군의 사이버전 부대와 긴밀히 협력한 것으로 밝혀졌다. No Azure for Apartheid 캠페인을 통한 노동자들의 집단적 노력은 Microsoft가 이스라엘 군과의 관계를 줄이도록 강제하는 데 도움을 주었다.

복잡성 받아들이기

제2절에서 언급했듯이, 모든 사람의 연루 위치는 고유하게 복잡하다. 우리는 억압의 서로 맞물린 역사들과 현실들 안에 존재하기 때문이다. 따라서 변형적 행동들을 고려할 때, 행위 능력, 자율성, 제도적 권력의 서로 다른 수준들을 구별하는 것이 필수적이다. 예를 들어, 초기 경력 연구자들은 종종 상당한 구조적 제약 아래에서 활동하는 반면, 선임 연구자들과 종신 재직권을 가진 교수들은 자금 결정, 연구 의제, 파트너십에 대해 상당한 영향력을 가질 수 있다. 더 나아가, 같은 경력 수준의 집단들 내부에도 차이들이 존재한다. 예컨대, 국제 학생들은 직접행동에 참여할 때 지역 학생들보다 추가적인 위험을 감수할 수 있다. 게다가, 이러한 맥락들은 한 사람의 경력 및 삶의 상황과 함께 끊임없이 진화한다. 이 모든 측면들은 집단적 저항이 모두에게 균일하게 적용 가능한 통일된 권고 목록으로 환원될 수 없다는 점을 강조한다. 대신, 각 개인은 자신의 맥락과 시스템적 변형에 기여하기 위해 이용 가능한 지렛대들에 대한 비판적 평가에 노력을 기울여야 한다.

우리는 AI 연구자들이 자신의 삶의 모든 직업적 및 개인적 선택에서 인문주의적 가치들을 지키기 위해 노력할 것을 권장한다. 우리는 가치에 기반한 정직한 비판적 사고가 구체적인 연대 전략을 위한 개인적 결정을 이끄는 데 가장 도움이 된다고 본다.

5. 결론

이 논문에서 우리는 AI 연구가 AI로 강화된 무기 시스템들이 초래한 해악에 어떻게 연루되어 있는지를 검토했다. 개별 연구자들이 군사 공격과 분쟁에 관한 정치적 결정을 내릴 위치에 보통 있지 않다는 사실에도 불구하고, 그들은 여전히 자기들 분야의 과학적 진보가 해로운 방식으로 사용되는 것에 저항하기 위한 실질적인 지렛대들을 가지고 있다. 이 작업에서 우리는 연대의 작업을 통해 자기 자신의 연루 위치를 인식하고 능동적으로 변형하는 것이 군사화된 억압적 시스템에 저항하는 데 결정적으로 중요하다고 주장했다. 우리는 이것이 널리 채택될 때 구조적 변형을 가져올 수 있다고 믿는다. 더 나아가, 우리는 개인적 및 집단적 저항 전략들을 위한 제안을 제공했으며, 독자가 자신의 연루 위치를 연대의 위치로 변형하기 위해 취할 수 있는 가능한 단계들을 찾도록, 자기의 영향력 영역들에 대해 성찰할 것을 권장했다.

Green Geek을 구독하시면 지금 보시는 것과 같은 과학기술 소식과 정보를 받아보실 수 있습니다.

구독

주석

  1. 컴퓨터가 데이터를 분석해 스스로 규칙을 학습하는 인공지능 기술입니다. ↩︎
  2. 컴퓨터가 사진이나 영상을 분석해 사람처럼 사물을 인식하는 기술입니다. ↩︎
  3. 군대가 사용하는 무기, 장비, 소프트웨어 등을 개발·생산하는 산업입니다. ↩︎
  4. 사람들의 행동, 위치, 통신 등을 추적하거나 모니터링하는 기술을 말합니다. ↩︎
  5. 인간, 기계, 생명체의 정보 처리와 통제 원리를 연구하는 학문입니다. ↩︎
  6. 텍스트, 이미지, 음악, 영상 등을 새롭게 만들어내는 인공지능 기술입니다. ↩︎
  7. 인간의 직접적인 조작 없이 스스로 목표를 찾아 공격할 수 있는 무기입니다. ↩︎
  8. 개인이나 공동체가 자신의 데이터에 대한 통제권을 가져야 한다는 원칙입니다. ↩︎
  9. 기술 개발 과정에 실제 이용자와 이해관계자가 직접 참여하는 설계 방식입니다. ↩︎

댓글 남기기