위키원
라벤더 (인공지능)
라벤더(Lavender)는 이스라엘이 군사 작전에 활용하는 얼굴인식 기반 인공지능 시스템이다. 라벤더는 이스라엘군이 팔레스타인 가자지구와 같은 분쟁 지역에서 인공지능 얼굴인식을 통해 목표물을 식별하는 데 사용되고 있다. 이 시스템은 이스라엘 방위군(IDF)의 엘리트 정보 부대인 유닛 8200(Unit 8200)에 의해 개발된 것으로 알려졌다. 주된 기능은 실시간 정보를 바탕으로 대규모 목표 리스트를 생성하고, 다양한 정보원을 교차 분석하여 적합한 타겟을 추출하는 것이다.
 .jpg) |
개요[편집]
라벤더는 이스라엘 방위군의 정보부대 8200부대가 개발한 인공지능 기반 표적 식별 시스템이다. 이 시스템은 가자지구와 같은 분쟁 지역에서 수집된 데이터를 분석해, 하마스와 팔레스타인 이슬람 지하드(PIJ)와 관련된 인물들을 자동으로 식별한다. 머신러닝 알고리즘을 통해 각 개인의 활동을 점수화하여, 암살 표적 가능성을 1~100까지 평가한다. 현재까지 3만 7,000명이 이 시스템에 의해 표적으로 분류되었으며, IDF는 라벤더의 정확도가 90%에 달한다고 주장한다. 그러나 이 시스템이 윤리적 기준을 무시한 채 운영될 경우, 민간인 피해와 인권 침해의 위험이 커질 수 있다. 정확도 90%라는 수치는 AI의 성과를 입증하지만, 나머지 10%의 오차는 심각한 결과를 초래할 수 있다. 국제사회와 군 내부의 감독과 검토가 필요하며, AI 기술이 무분별하게 사용되지 않도록 관리해야 한다.[1]
사용 기술[편집]
라벤더 시스템에 사용된 인공지능 기술은 주로 기계학습(Machine Learning)과 예측 모델링(Predictive Modeling)에 기반한다. 이 AI는 하마스와 팔레스타인 이슬람 지하드와 같은 무장 단체와 관련될 가능성이 높은 개인을 식별하기 위해 방대한 데이터를 분석한다. 라벤더는 특징 학습(Feature Learning)을 통해 이미 알려진 무장 대원의 행동 패턴과 유사한 통신 기록이나 활동을 찾는다. 이렇게 수집된 정보를 바탕으로 각 개인에게 1에서 100 사이의 점수를 부여하며, 점수가 높을수록 무장 세력일 가능성이 크다고 평가한다.
이 과정에서 자연어 처리(NLP) 기술이 포함되어 통신 내역을 분석하며, 실시간 추적 기능을 통해 표적의 움직임을 감지한다. 라벤더는 웨얼스 대디(Where’s Daddy?)와 같은 시스템과 연계되어 목표물의 위치를 확인하고 공격을 신속히 승인하는 데 사용된다. 라벤더의 핵심은 자동화된 데이터 분석과 의사결정 지원에 있다. 과거 인간이 오랜 시간에 걸쳐 수행하던 표적 선별 작업을 AI가 몇 초 만에 처리하며, 이를 통해 군사 작전의 속도를 크게 향상시켰다. 다만, 10%의 오류 가능성이 보고되었고, 민간인 희생을 유발할 수 있는 위험이 큰 윤리적 문제로 이어지고 있다.
효율성[편집]
라벤더는 전통적으로 복잡하고 시간이 많이 소요되던 표적 선정 절차를 자동화하여, 군사 작전의 속도를 크게 개선했다. 과거에는 여러 분석관과 지휘관이 표적의 정당성을 논의하고 승인 절차를 거쳐야 했으나, 이제는 AI가 제공하는 정보를 기반으로 신속한 결정이 가능하다. 이 시스템은 특히 하마스와의 2021년 11일 전쟁 동안 하루에 약 100개의 목표물을 식별하며 IDF의 공습 작전을 가속화했다. 이처럼 AI의 도입은 더 빠른 대응과 타격을 가능하게 만들었다.[2]
가스펠 시스템의 연계[편집]
라벤더는 건물과 시설을 표적으로 식별하는 가스펠(Gospel) 시스템과 연동된다. 가스펠은 머신러닝 알고리즘의 핵심인 확률적 추론을 통해 표적을 생성한다. 대량의 데이터를 분석해 패턴을 식별하고 결과를 설정하는 기술이다. 가스펠은 무장 세력이 사용하는 구조물을 감지하고, 라벤더는 개별 인물을 추적하여 암살 대상 목록에 추가한다. 두 시스템은 서로를 보완하며, 무장 세력과 관련된 인물과 시설을 동시에 추적함으로써 작전의 정밀도를 높인다. 군 관계자들은 이 시스템들이 매년 수십 개에 불과했던 목표물 수를 하루에 수십 배 이상 늘렸다고 평가한다.[2][1]
치명적 오류[편집]
라벤더의 정확도가 90%에 도달한다고 해도, 10%의 오차는 민간인 오인을 의미할 수 있다. 전쟁 초기에는 군이 라벤더의 표적 목록을 거의 자동으로 승인하면서 민간인 피해가 발생했다. 일부 정보원들은 폭격 승인 시 표적의 성별만 확인하기 위해 20초 정도의 검토가 이루어졌다고 밝혔다. 군은 하급 요원에게는 정밀 유도 폭탄 대신 저비용 폭탄을 사용하는데, 이는 건물 전체를 파괴하고 민간인 피해를 초래할 가능성이 크다.[1]
윤리적 논란[편집]
라벤더는 인공지능 기반으로 군사 표적을 식별해 공격을 수행하는 시스템이지만, 그 운영 방식은 심각한 윤리적 문제를 초래하고 있다. 이 시스템은 전쟁 초기에 민간인 희생을 감수하며 무장 대원 제거를 허용했으며, 특히 한 명의 하마스 대원을 겨냥한 폭격에서 최대 15~20명의 민간인 사망이 허용되었다는 점에서 큰 비판을 받고 있다. 또한, 고위 적군을 목표로 할 때는 민간인 최대 100명까지 희생이 허용된 사례가 보고되었다. 이러한 수치는 목표물의 직급에 따라 조정되었으며, 공격이 가족과 민간인 피해를 감수한 채 이루어졌다는 점에서 국제법 위반 논란을 낳았다.
- 무분별한 무기 사용과 가족 암살
라벤더 시스템은 웨얼스 대디(Where’s Daddy?)라는 추적 시스템과 연계되어 운영된다. 이 추적 시스템은 암살 대상자가 자택에 머무를 때를 감지하여, 가족이나 주변 민간인까지도 공격하는 '킬 체인'을 형성한다. 이 과정에서 비유도폭탄, 즉 '바보 폭탄'이 주로 사용되는데, 이는 목표물뿐 아니라 주택 전체를 파괴하며 민간인 피해를 증가시킨다. IDF는 저비용의 재래식 폭탄을 사용함으로써 비용 절감을 도모했지만, 그 대가로 민간인 희생이 빈번하게 발생했다.
- 목표물과 민간인 구분 실패
라벤더의 표적 식별은 실제 상황을 충분히 고려하지 못한다는 비판도 제기된다. 주택에 거주하는 인원의 변동이나 민간인의 대피 여부를 반영하지 않아, 표적이 집에 있지 않은 상태에서도 폭격이 단행된 사례가 존재했다. 이는 실제로 목표물을 제거하지 못하고 가족만 희생된 사례가 대표적이다. 이로 인해 라벤더 시스템은 무고한 민간인의 생명을 앗아가는 부작용을 낳았다.
- 국제법 위반 논란
이스라엘 군의 이러한 공격 방식은 국제 인도법에 명시된 비전투원 보호 원칙에 반하는 행위로 비판받고 있다. 특히 +972 매거진과 같은 비판적인 언론은 IDF가 민간인 희생을 예상하면서도 재래식 폭탄을 사용했다고 지적하며, 이는 명백히 국제법을 무시한 것이라고 비난했다. 민간인 보호를 위한 최소한의 절차를 무시하고 가족까지도 암살 대상에 포함하는 방식은 인권 침해라는 비판을 피할 수 없다.[3][4]
- 미성년자 희생
라벤더 시스템은 미성년자와 민간인을 포함한 모든 가자지구 주민을 감시하며, 하마스와 연관될 가능성을 점수화한다. 일부 미성년자도 표적 목록에 오르는 등 인권 침해가 발생할 위험이 있다. IDF는 하급 무장 세력의 제거를 위해 최대 20명의 민간인 희생을 용인하기도 했다. 또한, 고위 관료를 목표로 할 때는 민간인 피해 제한이 적용되지 않았다. 이러한 시스템 운영 방식은 군사적 효율성을 높이는 대신 윤리적 책임을 경시하고 있다는 비판을 받고 있다.[5]
각주[편집]
- ↑ 1.0 1.1 1.2 김상준 기자, 〈AI가 당신 목숨을 노린다…이스라엘이 불 지핀 ‘AI전쟁’ 논란〉, 《매일경제》, 2024-04-13
- ↑ 2.0 2.1 김민주 기자, 〈가자 비극 뒤 ‘라벤더 시스템’ 있다? AI는 전쟁을 어떻게 바꿀까〉, 《일요신문》, 2024-06-21
- ↑ 박찬 기자, 〈이스라엘, AI로 팔레스타인 3만7000명 식별..."학살에 활용"〉, 《AI타임스》, 2024-04-07
- ↑ 홍진주 기자, 〈이스라엘軍 AI 암살 시스템…승리의 열쇠인가, 민간인 학살 도구인가〉, 《디지털투데이》, 2024-04-18
- ↑ Yuval Abraham, 〈[번역] ‘라벤더’: 가자지구에서 이스라엘의 폭격을 지휘하는 인공지능〉, 《소요》, 2024-04-26
참고자료[편집]
- 박찬 기자, 〈이스라엘, AI로 팔레스타인 3만7000명 식별..."학살에 활용"〉, 《AI타임스》, 2024-04-07
- 김상준 기자, 〈AI가 당신 목숨을 노린다…이스라엘이 불 지핀 ‘AI전쟁’ 논란〉, 《매일경제》, 2024-04-13
- 홍진주 기자, 〈이스라엘軍 AI 암살 시스템…승리의 열쇠인가, 민간인 학살 도구인가〉, 《디지털투데이》, 2024-04-18
- Yuval Abraham, 〈[번역] ‘라벤더’: 가자지구에서 이스라엘의 폭격을 지휘하는 인공지능〉, 《소요》, 2024-04-26
- 김민주 기자, 〈가자 비극 뒤 ‘라벤더 시스템’ 있다? AI는 전쟁을 어떻게 바꿀까〉, 《일요신문》, 2024-06-21
같이 보기[편집]
이 라벤더 (인공지능) 문서는 인공지능 서비스에 관한 글로서 검토가 필요합니다. 위키 문서는 누구든지 자유롭게 편집할 수 있습니다. [편집]을 눌러 문서 내용을 검토·수정해 주세요.
