“인공지능(AI) 시대에는 외교의 새로운 지평이 열리고 외교 방식에서도 새로운 접근이 필요하다”.

조태열 외교부 장관이 지난 3월 외교·안보 전략 측면에서도 AI의 함의가 커지고 있음을 지적하면서 한 말이다. 우리 국방부도 ‘국방혁신 4.0’ 목표 하에 AI 기반의 첨단과학기술 강군 육성을 추진하고 있다. AI 3대 국가(G-3)를 지향하는 우리 정부(2023년 글로벌 AI 지수상 6위)가 생성형 AI에서 범용 AI(AGI)로 나아가는 시대적 추세에 부응하여 발 빠르게 움직이는 것은 시의적절하다.

AI는 첨단 기술이 지정학을 주도하는 4차 산업혁명 시대, 전략 경쟁 시대의 견인차로 대두하고 있다. AI 주권이라는 말까지 회자할 만큼 AI의 개발 기업 및 이를 주도하는 국가들 사이에 기술 패권 경쟁이 전개되고 있다. 미국, 중국, 영국, 싱가포르, 이스라엘 등은 AI를 국가 경쟁력을 좌우할 핵심 인프라로, 더 나아가 국가 안보 자산으로 인식하고 천문학적인 투자에 나서고 있다. 

문제는 전례 없는 속도로 진전되고 영역을 확대하고 있는 AI가 양날의 칼이 될 수 있다는 점이다. 역사적으로 새로운 첨단 기술의 발전은 프로메테우스의 불처럼 문명의 이기로 큰 혜택도 주었지만 위험도 동반했다. 최근 국제사회에서는 다양한 협의가 진행되고 그에 따른 권고, 결의, 지침, 공동성명, 국내 입법 조치가 취해지고 있다. 지난 3월 유엔총회에서 채택된 ‘지속 가능한 발전을 위한 안전하고 보안성과 신뢰성을 갖춘 AI 시스템’ 결의와 지난 5월 한국이 주최한 AI 서울 정상회의의 ‘서울 선언 및 의향서’가 좋은 예다.

양날의 칼 AI, 국제 평화·안보와 직결
AI는 안전(safety) 차원을 넘어 안보(security) 분야로 퍼지고 있다. 지난해 7월 유엔 안전보장이사회가 사상 처음으로 AI를 의제로 회의를 개최한 이유다. AI의 활용 역량을 보유한 나라들은 전술적·전략적 중요성에 주목하며 AI를 군사 분야에 적극적으로 활용하고 있고 그 범위는 빠르게 확장되고 있다. 우크라이나 전쟁과 중동 지역 충돌에서 활용되는 AI 기반의 무기 체계는 미래의 전쟁 양상이 어떻게 변화할지 보여주는 예고편이다.

마크 밀리 전 미 합참의장은 향후 10~15년 후 미국 군사력의 25~30% 가량이 AI에 기반한 로봇과 무인 기술 무기로 대치되는 지각변동이 일어날 것이라고 최근 예견했다. 그는 기술적 측면에서 AI 기반 기계나 로봇이 자체적 결정을 하는 미래를 상상할 수 있다고도 했다. 실제 AI는 자율 무기 체계뿐 아니라 정보 감시 정찰(ISR), 사이버와 정보전, 지휘 통제, 군수, 교육훈련 등 전쟁과 관련한 거의 모든 분야에서 사용 중이다.

군사용 AI와 한반도 안보
지난해 서거한 헨리 키신저 전 미 국무장관은 마지막 저서인 『AI시대와 인류의 미래』 등에서 AI와 핵무기가 연계되어 인류 역사상 전례 없는 수준의 파괴력에 직면하는 외교안보 패러다임의 대변화를 경고했다. 향후 5년 안에 AI가 안보 문제의 핵심 요소가 될 것이며, 미·중 경쟁 관계를 지배할 것이라고도 했다. 특히 군사작전에서 인간의 통제를 벗어난 자율 살상 무기로 인해 재앙적 결과와 충돌을 우려했다.

미·중도 지난해 11월 샌프란시스코 정상회담 합의에 따라 첫 번째 회담을 지난 5월 열었다. AI 기술이 인간을 위협할 수 있는 수준까지 도달하지 않도록 미리 위험과 안전 문제를 논의하겠다는 취지다. 유엔 총회는 지난해 12월 ‘치명적 자율무기 시스템(LAWS)’이 초래할 도전과 우려에 시급히 대응해야 한다는 내용을 골자로 하는 결의를 152개국의 압도적 찬성으로 통과시켰다(러시아는 반대, 중국·북한·이스라엘은 기권).

한반도와 주변에서 AI 군비경쟁도 예견된다. 지난 6월 북·러 정상이 서명한 ‘포괄적 전략적 동반자 조약’은 상호방위능력 강화 조치를 취하기로 하고, AI·정보 기술·원자력 등 분야에서 협력을 강화하기로 했다. 김정은이 핵 선제 사용 정책을 공식화한 상태에서 북·러 기술 협력은 한반도 핵위기를 증폭시킬 수 있다.

이러한 상황에서 ‘AI의 책임 있는 군사적 이용(REAIM)’에 관한 글로벌 거버넌스 주도권 경쟁도 치열하다. 윤석열 대통령은 지난해 유엔 총회 연설에서 글로벌 AI 거버넌스 정립의 중요성을 강조했다. 한국과 네덜란드는 지난해 2월 외교·국방장관들을 포함한 다양한 이해 당사자들이 참여한 1차 ‘REAIM 고위급회의’를 주최해 행동 계획을 채택했고, 다음 달 서울에서 한국이 주최하는 2차 회의에서는 더욱 진전된 결과물이 나올 것으로 예상된다. 동시에 같은 기간 개최되는 민간 차원의 ‘REAIM 글로벌 위원회’는 내년 말쯤 포괄적인 보고서를 발표하기 위한 논의를 본격적으로 진행한다.

국제사회의 움직임도 분주하다. 미국은 지난해 말 ‘AI의 책임 있는 군사적 이용과 자율성에 관한 정치선언’ 채택을 주도하고, 국제 협력에 나서고 있다. 북대서양조약기구(NATO)는 지난달 워싱턴 정상회담에서 적대국들의 AI 악용에 대처하기 위해 2021년 제정한 ‘책임 있는 AI 사용 원칙’을 수정, 채택하였다. 유엔 사무총장의 AI 자문위 최종보고서도 곧 발표된다.

이처럼 AI 선도국들은 AI 관련 국제 규범 형성과정에서 자신들의 입장과 정책이 최대한 반영되도록 ‘범정부적, 국가적 접근 방식(whole-of-nation)’을 취하고 있다.

범국가적 포괄적 전략 수립 필요
나아가 미국의 ‘AI에 관한 국가안보위원회(NSCAI)’와 ‘특별 경쟁력 프로젝트(SCSP)’는 향후 AI 패권 경쟁에서 우위를 점하기 위해 초당적 보고서를 각각 발간해 AI 등 신흥 기술에 대한 미국 외교·국방·정보 분야의 준비 태세와 능력 강화를 건의하였다. 이에 따라 미 국방부는 다양한 지침을 수립 중이다.

우리도 AI 분야 G-3를 지향하는 글로벌 중추 국가로서 경쟁력을 키우고, AI 규범 논의에서 주도적 역할과 노력을 계속 강화해 나가야 한다. 이를 위해선 안보 문제를 포함한 포괄적 AI 국가 전략이 필요하다. 외교·국방·과학기술·경제·정보 정책이 통합적으로, 다수 이해관계자와의 협조체제를 통해 추진되어야 한다. 이를 뒷받침할 법제도 발전시켜 나가야 한다.

이러한 측면에서 국가인공지능위원회의 출범은 의미가 크다. 국가안전보장회의(NSC)체제와 유기적으로 협력해 범국가적 AI 준비 태세를 강화해야 한다. 다음 달 열리는 REAIM 관련 회의가 한국의 국익을 추구하면서 규범에 기반한 국제 질서와 인류 발전에 기여하는 이정표를 세우는 계기가 되길 바란다.

윤병세 REAIM 글로벌위원회 의장·전 외교부 장관