폴 샤레 지음, 『새로운 전쟁』을 읽다.

폴 샤레(Paul Scharre) 지음, 박선령 옮김(2021), 『새로운 전쟁』, 서울 : (주)로크미디어, 초판1쇄 2021.7.14.

 

 

2021년 9월 22일에는 추석 연휴 동안에 폴 샤레(Paul Scharre)의 『새로운 전쟁』읽었다. Paul Scharre(2018),『Army of None: Autonomous Weapons and the Future of War』의 한국어 번역본이다. 한국어판의 표지에 부제로 표시되어 있는 “인공지능과 로봇은 전쟁을 어떻게 바꿀 것인가”라는 말에 주저 없이 책을 구매하여 읽었으나, 구체적인 미래 전쟁 양상에 대한 책은 아니다. “자율무기와 전쟁의 미래(Autonomous Weapons and the Future of War"라는 원서의 부제가 더 책의 내용을 구체적으로 알려주고 있다. 인공지능과 로봇의 발달로 출현이 예상되는 자율무기의 문제점과 위험성 등을 전쟁 철학적인-이런 용어가 있는지는 모르겠지만-관점에서 이야기하는 책이다.

 

저자 폴 샤레는 미국 국가안보문제를 전문적으로 다루는 싱크탱크인 신미국안보센터(Center for a New American Security)의 임원이자 연구책임자이다. 그는 킹스칼리지에서 전쟁학 박사 학위를 받았다고 소개하고 있다. 인공지능을 가장 잘 이용하는 사람이 내일의 승자가 될 것이라는 일반적인 예측을 지지하면서, 자율무기 분야에서 위험한 군비경쟁이 진행되는 게 사실이라면 그것은 기묘한 경쟁이라고 말하고 있다. 심층 신경망 즉, 딥러닝(Deep Learning)의 취약성을 이용하여 틀린 이미지를 자신 있게 식별하도록 속이는 대립적 이미지라는 그림을 소개하면서 자율무기의 위험성을 강조하고 있다. OODA(Observe, Orient, Decide, Act) 루프에서 인간이 배제될 경우의 위험성을 경고하고 있다.

 

이 책은 서문에서 1983년 9월 26일에 있었던 구소련의 핵미사일 조기경보 시스템의 오경보로 미국이 핵미사일을 공격하는 것으로 오판할 수 있었던 상황에서 페트로프 중령의 현명한 판단으로 제3차 세계를 막은 일을 ‘세상을 구한 남자’로 소개하면서 시작한다. 1983년 9월 1일에 우리나라 대한항공 여객기가 소련 상공에서 격추된 지 얼마 되지 않은 상황에서 일어난 일이라 오판의 가능성도 높았음을 말하고 있다. 또한, 이라크 전쟁에서 패트리어트 시스템이 영국의 토네이도 항공기를 격추한 사건과 미 해군의 F/A-18C 호넷 항공기를 격추한 사건을 자세히 알려주고 있다. F-16 전투기가 AGM-88 대방사유도탄을 발사하여 패트리어트 체계의 레이더를 파손시킨 사건과 미국의 빈센스호가 이란 민간 여객기를 격추한 사건들을 소개하며 자율무기의 위험성을 말하고 있다.

 

이 책을 읽으면서 무기체계를 연구하는 연구원들이 주목해야할 사항을 생각하게 되었다. 가끔 연구원들은 우리는 인공지능 무기를 사용하지만 적은 인공지능 무기를 사용하지 않는다고 암묵적으로 가정하고 운용개념이나 체계를 설계하는 우를 범할 수 있다. 로봇 대 로봇의 전쟁이나 인공지능을 기반으로 하는 자율무기 간의 전쟁은 주식시장에서 마이크로 초(micro second) 단위로 이루어지는 단타 매매로 인해 주가가 크게 폭락했던 플래시 크래쉬(Flash Crash) 같은 사건을 연상하게 된다. 플래시 크래시란 2010년 5월 뉴욕 증시에서 다우지수가 1000포인트 가까이 폭락한 사건에 붙여진 이름이다.

 

저자는 이 책에서 “합법적인 일과 옳은 일은 항상 같지만은 않다.”라든가, “자율무기를 사용하려면 그에 따르는 위험도 감수해야 한다. 모든 무기는 위험하다.”라는 말을 하면서 위험성을 강조한다. 이 책의 마지막 구절인 “우리가 창조하는 세계 안에는 인공지능 기계가 존재하겠지만, 이건 그들을 위한 세계가 아니라 우리를 위한 세계다”라는 말이 인상적이다. 마지막 부분에 실려 있는 감사의 글에서 저자가 한말 즉, “책은 이상한 물건이다. 책을 만들려면 수십 명의 노력이 필요한데 표지에는 한 사람의 이름만 남는다.”라는 말도 꼭 소개하고 싶다.