챗GPT, 군사목적으로 사용되나

챗GPT를 출시하며 생성형AI 열풍을 만들어낸 AI스타트업 오픈AI가 사용자 정책 가이드라인에서 '군사적 목적 사용 불가' 조항을 조용히 삭제했다고 합니다. AI가 인류를 멸망 시킬 것이라는 우려의 목소리도 있는 가운데 오픈AI는 왜 '군사적' 사용의 길을 열었는지 알아봤습니다.

 

미국 탐사보도 전문매체 더인터셉트(The Intercept)는 12일(현지시간) 오픈AI가 군사 목적으로 기술을 사용하는 것을 금지하는 문항을 조용히 삭제했다고 보도했습니다.

 

보도에 따르면 1월 10일까지 오픈AI의 이용정책에는 △무기개발 △군사 및 전쟁 △신체적 피해의 위험이 높은 활동을 금지하는 문구가 포함돼 있었다고 합니다.

 

그런데 오픈AI가 이 조항을 일부 변경해 무기 개발 또는 사용에 AI를 이용할 수 있게 된 것입니다. 오픈AI는 타인에게 해를 끼치지 말라는 조항은 유지했습니만 '군사 및 전쟁' 목적의 사용을 전면적으로 금지하던 것에서 한 발자국 물러난 상황입니다.

 

이스라엘 엘빗 시스템즈가 개발한 AI 자폭 드론(출처 : 엘빗시스템즈)

오픈AI는 보도에 대해 조항을 명확히하는 것이며 여전히 살상무기에서의 사용 등은 금지하고 있다고 밝혔습니다. 오픈AI 측은 "기억하기 쉽고 적용하기 쉬운 보편적인 원칙을 만들고자 했다"며 "다른 사람을 해치지 마라와 같은 원칙은 광범위하면서도 이해하기 쉽고 다양한 맥락에서 관련성이 있다"고 설명했습니다. 그러면서 오픈AI의 AI모델을 활용해 무기 개발, 사용, 재산을 파괴하는 활동 등에서는 사용할 수 없다고 강조했습니다.

 

오픈AI의 주장에도 조항 변화가 결국 AI가 국방 분야에서 본격적으로 사용될 것이라고 주장이 나오고 있습니다. 당장 오픈AI는 현재 미국 국방부 산하 고등연구계획국(DARPA)과 '사이버 보안 툴'을 개발하는 것을 논의하고 있습니다.

 

더인터셉트는 오픈AI의 AI가 살상무기에 직접적으로 사용될 수 없지만 군대가 살상 능력을 유지해야하는 조직이라는 점에서 얼마든지 다른 방식으로 사용될 수 잇다고 지적했습니다. 전문가들도 오픈AI가 점차 국방 분야에서 영역을 확대할 것으로 보고 있습니다.

 

AI의 위력은 이스라엘 팔레스타인 전쟁에서도 확인되고 있습니다. 이스라엘 군이 가자지구를 공격하면서 표적 처리에 AI시스템을 이용했기 때문입니다. 과연 AI가 국방 기술에 적용되면서 인류가 통제할 수 없는 힘을 가지게 될 지 지켜봐야할 것 같습니다.

영화 터미네이터 속 살인로봇. 터미네이터는 AI가 지배하는 디스토피아를 그리고 있다.