AI에 의해 무기는 만들어 질 것이다. 그것을 중요한 것이 아니다. 중요한 것은 "누가 열쇠를 가지느냐" 이다.

역사적으로 기술의 발전은 막을 수 없는 흐름이었지만, 그 기술을 제어하는 '권한(The Key)'이 누구에게, 그리고 어떻게 주어지느냐가 인류의 운명을 결정지어 지게됩니다.

차세대의 무기 체계로 자리 잡을 “AI 체계” 주도권에 대하여 생각해보았습니다.

 

1. 누가 열쇠를 가지게 될 것인가?

•  국가 권력의 집중: 특정 강대국이나 독재 정권이 이 '열쇠'를 독점할 경우, 무력의 균형이 무너지고 인권 침해의 수단으로 악용될 위험이 있습니다.
• 알고리즘으로의 이양: 만약 대응 속도를 높이기 위해 '열쇠'를 인간이 아닌 AI 알고리즘에 완전히 넘겨준다면(Human-out-of-the-loop), 예상치 못한 소프트웨어 오류나 해킹이 전 지구적인 재앙으로 번질 수 있습니다.
• 비국가 기구의 위협: 테러 단체나 해커 세력이 이 '열쇠'를 복제하거나 탈취하는 상황은 가장 우려되는 시나리오 중 하나입니다.

 

2. '열쇠'의 정체: 의미 있는 인간의 통제 (Meaningful Human Control)

현재 군사 전문가들이 가장 중요하게 여기는 개념은 '인간의 개입(Human-in-the-loop)'입니다. AI가 목표를 식별하고 분석하더라도, 최종적으로 치명적인 공격을 가할지 결정하는 '열쇠'는 반드시 인간이 쥐고 있어야 한다는 원칙입니다.

• 판단의 책임: 기계는 오류를 범했을 때 도덕적, 법적 책임을 질 수 없습니다. '열쇠'를 가진 인간만이 그 결과에 대해 책임을 집니다.
• 맥락의 이해: AI는 데이터로 학습하지만, 전장의 복잡한 정치적 상황이나 항복 의사 같은 미묘한 인간적 맥락을 읽는 데 한계가 있습니다.

 

3. 열쇠를 지키기 위한 노력: 국제적 거버넌스

단순히 기술적인 방어벽을 쌓는 것을 넘어, '열쇠'를 정의하고 규제하는 약속이 필요합니다.

• 킬러 로봇 금지 협약: 많은 국가와 시민 단체들이 '치명적 자율무기체계(LAWS)'의 개발 및 사용을 제한하기 위한 국제 협약을 촉구하고 있습니다.
• AI 윤리 가이드라인: 무기 개발 단계에서부터 인간의 가치를 최우선으로 하는 '설계에 의한 윤리(Ethics by Design)'를 도입하려는 움직임이 활발합니다.