1. 자율살상 무기, 얼마나 위험한가?

인공지능(AI) 기술이 발전하면서 전쟁의 양상도 바뀌고 있다. 이제는 사람 없이 스스로 판단해서 공격하는 '자율살상 무기(Lethal Autonomous Weapon System; LAWS)'가 현실이 되었다. 이 무기는 '킬러 로봇'이라고도 불리는데, 인명 살상을 목표로 하고 있어서 더욱 위험하다. 그리고 전쟁과 테러라는 특수한 상황은 무분별한 LAWS 개발을 더욱 앞당길 것이다.

LAWS는 무분별한 확산과 사용으로 이어질 수 있는 위험성을 안고 있다. 게다가 AI 알고리즘의 불투명성 때문에 오작동으로 인한 예상치 못한 피해도 발생할 수 있다. 국제사회에서는 이러한 문제점을 인지하고 LAWS의 군비 통제를 위한 논의를 시작했다.

2. 핵심 내용 요약

• 주요 국가들이 LAWS 개발에 뛰어들면서 군비 경쟁이 심화되고 있다.
• LAWS의 군비 통제 논의는 '넥스트 오펜하이머'라는 새로운 패러다임을 요구한다.
• 과거 핵무기 개발 당시, 핵무기의 위험성을 인지하지 못했던 것처럼 LAWS 또한 예상치 못한 위험을 초래할 수 있다는 경고가 나오고 있다.
• 보고서는 LAWS 군비 통제 논의 시 예상되는 핵심 쟁점으로 다음과 같이 3가지 사항을 꼽았다.
  1. 이중용도사용: 민간 및 군사적 목적으로 양용에 대한 우려: LAWS 기술은 민간과 군사 양쪽에서 모두 사용될 수 있다.
  2. 알고리즘의 블랙박스화: 선제타격 방지에 관한 검증 난관: LAWS의 공격 판단 과정을 알 수 없어, 예측 불가능한 위험이 존재한다.
  3. 의사결정에 인간 개입: 위기관리 가능한 지휘통제체계 필요: LAWS 작동 시 인간의 개입 수준을 어떻게 설정할 것인지가 중요한 문제이다.

3. 대한민국은 어떻게 해야 할까?

LAWS는 국가 안보에 큰 영향을 미칠 수 있는 요소이다. 보고서는 대한민국이 LAWS 시대에 선제적이고 주도적인 역할을 하기 위해서는 적극적인 LAWS 개발과 AI 군비 통제 검증 시스템 구축이 필요하다고 제안한다.

그런데 우리나라는 중국, 일본, 러시아 등 주변국과 매우 특수한 상황에 항상 노출되어 있다. 특히,

• 중국은 윤리적 통제나 검증보다는 빠른 기술 구현을 중시하는 경향을 보인다.
• 일본은 협력과 경계를 동시에 요구하는 상대국이다.
• 러시아는 러-우 전쟁으로 북한과의 관계가 깊어지면서 앞으로 관계 설정이 더욱 어려워졌다.

이런 상황에서 선제적이 주도적인 역할을 해야 한다는 주장은 너무 순진한 주장일 수 있다. 윤리적인 철학과 개념이 정립되기 전에 생존 문제가 먼저 들이닥칠 지 모르는 일이기 때문이다. 이런 상황에서 내가 할 일이 있을까?

p.s. 더 자세한 내용은 댓글에 있는 보고서 전문을 보자.

참고문헌

국가안보전략연구원