위키원
예측곤란성
예측곤란성 또는 예측불가능성 (Unforeseeability)은 예측하기 곤란한 상황 즉, 미래를 미리 헤어려 짐작하기 어렵다는 것을 나타낸다. 주로 대상이 예상치 못하는 결과를 내놓을 가능성이 있을 때 쓰인다. 인공지능이 초래하는 위험성의 특징 중 하나이다.
개요[편집]
우리는 매우 많은 예측들 속에 살아간다. 기상 예보를 포함한 주식, 부동산, 정치 그리고 자신의 미래에 대한 자신의 예측. 그 예측에 따라 우산을 들고 나가거나 주식을 사거나 파는 등 많은 일들이 이루어진다. 시스템 상태의 정확한 예측 또는 예측이 질적 또는 양적으로 이루어질 수 있는 정도를 예측 가능성이라고 한다. 이때 정확한 예측이 불가능하거나 예측하지 못했던 일이 벌어질 가능성이 있을 때 예측 곤란성이라고 한다. 예측 이라는 단어는 미리 예(豫), 헤아릴 측(測)이라는 한자를 조합하여 만든 단어로 미리 헤아려 짐작하다는 뜻이다. 유의어로는 지레짐작, 예상, 예견, 짐작, 추측, 추리 등의 단어가 있다. 또한, 곤란 이라는 단어는 곤할 곤(困), 어려울 란(難)이라는 한자를 조합하여 만든 단어로 사정이 몹시 딱하고 어렵거나 그런 일을 뜻한다. 유의어로는 어려움, 난처, 난감, 사고, 재난, 고통, 괴로움, 궁핍, 아픔 등의 단어가 있으며 반의어로는 부유가 있다.
등장 배경[편집]
인공지능은 의사결정에서 기계적 특성 때문에 인간이 갖는 특성이 배제되는 모습을 보인다. 즉, 인간은 인지적 한계가 있음으로 가능한 모든 해결책을 찾기보다 만족할 수 있는 해결책을 모색하는 반면, 인공지능은 가용한 모든 정보를 분석하여 최적의 결과를 도출하므로 인간과 다른 결정을 내릴 수 있다. 특히, 인간은 자신의 의지, 사회통념, 경험 법칙 등의 한계에 제약될 수 있지만, 인공지능은 가용 되는 데이터 세트의 패턴과 상관관계에 의하여 작동되므로 인간이 가지는 인지적 제약에서 벗어날 수 있다. 이러한 특성으로 인해 인공지능을 창의적이라고 생각할 수 있지만, 다른 한편으로 인간의 입장에서는 이해하기 어려운 예측 곤란하다는 평가를 내릴 수 있다. 인간이라면 직관으로 거부할 수밖에 없는 것이라고 하더라도 인공지능은 인간이 가지는 인지적 한계에서 벗어나므로 인간이 도저히 상상할 수 없는 방법으로 일을 처리할 수 있다. 인공지능이 가지는 예측곤란성이라는 특성은 민사책임과 관련하여 여러 가지 법적 문제를 야기한다.
인공지능이 가지는 예측곤란성은 인공지능이 기계학습 기법을 토대로 개발되고 있다는 데 있다. 즉, 인공지능은 인지적 관점에서 보면 인간의 학습과 다르지만, 그 사용단계에서 경험을 통해서 배우고 그 성능이 계속 향상된다. 따라서 인공지능의 설계자나 개발자에게 인공지능의 오작동으로 인하여 발생한 손해에 대하여 책임을 묻기 어렵다. 또한, 인공지능의 소유자나 사용자도 인공지능의 오작동으로 인하여 발생한 손해를 전혀 예견할 수 없으며, 인공지능의 사용에 대한 주의의무를 기대할 수 없다. 그러나, 인공지능의 설계자나 개발자는 이러한 위험에도 불구하고 인공지능 개발을 통하여 경제적 이익을 얻는다.[1]
특징[편집]
정치, 경제, 사회, 문화 각 분야에서 4차 산업혁명이 화두가 되고 있음에도 불구하고 그 개념은 여전히 명확하지 않다. 4차 산업혁명 시기의 특징은 '초지능성' 및 '초연결성'이라는 표지로 요약될 수 있다. 인공지능은 네트워크의 발전으로 조성된 유비쿼터스 환경에서 실시간으로 수집된 정보를 토대로 유의미한 정보를 도출하고 상황에 적합한 결정을 내린다. 즉 초연결성이 4차 산업혁명 시기의 신경망이라면 초지능성은 두뇌로서 가능한 것이다. 이러한 점을 고려하면 4차 산업혁명의 대표적인 기술로 인공지능기술, 로봇, 사물인터넷, 자율주행 자동차, 3D 프린팅, 나노 및 생명공학 등이 언급되고 있지만, 그중에서도 인공지능기술이 핵심적인 역할을 담당하고 있다고 말할 수 있다. 법적인 관점에서 보자면, 인공지능기술의 발전으로 말미암아 기계는 자율성과 합리성에 바탕을 둔 인간중심의 법체계에 도전할 수 있는 존재로 승격되었다고 평가될 수 있다.[2]
개념과 기술적 구현방식[편집]
4차 산업혁명과 마찬가지로 인공지능이라는 개념도 명확하게 정의되어 있지 않다. 인공지능 개념을 정의하기가 쉽지 않은 이유는 무엇보다도 ‘지능’이라는 개념이 여전히 불분명하기 때문이라고 생각된다. 단지 생산공정에 설비된 기계들이 미리 프로그램된 바에 따라 인간의 단순노동을 대체한다고 해서 이를 인공지능의 한 형태라고 이해할 수는 없을 것이다. 인공지능의 핵심은 단순히 컴퓨터가 어떤 작업을 인간과 동일하게 수행하는 것이 아니라, ‘인간의 사고 과정’을 형식화하고 모방하는 데 있다고 볼 수 있기 때문이다. 컴퓨터공학 분야에서도 마찬가지로 이해되고 있다. 한편 법적인 측면에서 인공지능에 대한 정의는 아직 명확하게 규정된 바 없다. 최근 국가정보화기본법개정안은 “인간의 학습 ․ 추론 ․ 지각 ․ 자연어처리 능력 등 고차원적 정보 처리 활동을 연구하여 정보통신기술을 통해 구현하는 기반기술”을 ‘지능정보기술’로 규정하고 있다. 비록 개정법안은 인공지능이라는 용어를 명시적으로 사용하고 있지 않지만, 인간의 사고 과정을 연구하고 이를 기술적으로 구현하는 데 초점을 두고 있다는 점에서 기술 분야에서 논의되는 인공지능의 개념을 반영하고 있는 것으로 보인다.
인공지능기술의 도움으로 인간은 생활에 필수적인 것으로 여겨졌던 수많은 일상적인 의사결정해위들로부터 자유로워질 수 있게 되었다. 더 나아가 인공지능기술은 인간을 노동으로부터 해방시킬 수 있을 것이라는 전망도 제기되고 있다. 이와 같이 인공지능기술의 활용은 인류에게 경제적 이익과 편의성을 약속하고 있지만, 동시에 다양한 사회적 문제들을 야기할 것으로 예상되고 있다.[2]
현실적인 법적 논의대상[편집]
'약한 인공지능'은 특정 분야에 국한하여 인간의 지능적 행동을 모방하려는 접근방식으로, 그 중심에는 인간이 고유한 사고과정을 거쳐 도출하는 결과와 유사한 수행결과를 인공지능이 도출할 수 있도록 돕는데 있다. 특히 최근에는 데이터베이스의 규모가 커지고 사물인터넷을 통하여 정보가 저장되고 전송되는 연결성의 폭이 확장됨에 따라 새로운 인공지능 방법론을 적용할 수 있는 환경이 조성되었다. 기계학습(머신러닝)으로 명명된 이 방법은 약한 인공지능의 일종으로서 인공지능의 지식병목 문제를 학습기반 방법으로 해결하고자 고안되었으며, 제한적이지만 어느 정도의 자율성을 인공지능에게 부여하고 있다. 약한 인공지능은 현재 이미지 인식, 음성 인식, 번역 등의 분야에서 현저한 성과를 내고 있다. 4차 산업혁명 시기에 인공지능은 이전보다 더욱더 빠른 속도로 발전을 거듭할 것으로 예상된다. 인공지능기술 시장의 팽창은 이러한 기대를 반영하고 있다. 따라서 언젠가는 완전한 자율성을 가지는 강한 인공지능이 출현하리라는 가정을 완전히 배제할 수 없을 것이다. 그러나 인공지능이라는 용어가 1956년 처음으로 사용된 이후 지금까지 인공지능이 두 번의 부침을 겪은 후 현재 제3세대에 접어들었다는 것을 고려하면, 장래 기술발전 과정에서 또 다른 침체기를 맞을 가능성은 여전히 남아있다. 그리고 기계에 완전한 자율성을 부여하는 알고리즘이 단기간 내에 개발되기는 힘들 것으로 예상된다. 예를 들어, 인공지능은 복잡한 수식을 신속하게 계산하는 등 특정 분야에 국한하여 탁월한 성과를 내고 있지만, 인간과 같은 감각기관의 작용, 운동, 의사소통 등을 수행하는 데에는 여전히 한계를 보인다. 이 점에서 1970년대에 발표된 모라벡의 역설(Moravec's Paradox)이 오늘날에도 여전히 유효한 것으로 보인다. 최근에는 이러한 현실적 한계를 고려하여 강한 인공지능 대신 곧 문제가 현실화할 것으로 예상되는 약한 인공지능을 전제로 논의를 전개하는 경향이 나타나고 있다.[2]
인공지능 기술[편집]
인공지능이 초래하는 위험은 기존의 다른 위험과는 구별되는 몇 가지 특성이 있다. 그중 하나인 예측 곤란성은 인공지능에 적용되는 알고리즘이 정확히 어떠한 방식으로 작동할 것인지 예측하기 곤란하다는 점에서 기인한다.
인공지능은 의사결정에서 기계적 특성을 가지기 때문에 인간이 갖는 특성이 배제되는 모습을 보인다. 즉 인간은 인지적 한계가 있음므로 가능한 모든 해결책을 찾기보다 만족할 수 있는 해결책을 모색하는 반면, 인공지능은 가용한 모든 정보를 분석하여 최적의 결과를 도출하므로 인간과 다른 결정을 내릴 수 있다. 특히 인간은 자신의 의지, 사회통념, 경험 법칙 등의 한계에 제약될 수 있는 반면, 인공지능은 가용 되는 데이터 세트의 패턴과 상관관게에 의하여 작동되므로 인간이 가지는 인지적 제약에서 자유로울 수 있다. 이러한 특성으로 인하여 인공지능을 창의적이라고 생각할 수 있는 반면, 다른 한편으로 인간의 입장에서는 이해하기 어려운 예측 곤란하다는 평가를 할 수 있다. 이에 따라 인간이라면 직관으로 거부할 수밖에 없는 것이라고 하더라도 인공지능은 인간이 가지는 인지적 한계에서 자유로우므로 인간이 도저히 상상할 수 없는 방법으로 일을 처리할 수 있다. 인공지능이 가지는 ‘예측 불가능성(Unforeseeability)’이라는 특성은 민사책임과 관련하여 여러 가지 법적 문제를 야기한다.[1]
이러한 인공지능이 가지는 예측 불가능성은 인공지능이 기계학습(머신러닝) 기법을 토대로 개발되고 있다는 데 있다. 즉 인공지능은 인지적 관점에서 보면 인간의 학습과 다르지만, 그 사용단계에서 경험을 통해서 배우고 그 성능이 계속 향상된다. 따라서 인공지능의 설계자나 개발자에게 인공지능의 오작동으로 인하여 발생한 손해에 대하여 책임을 묻기 어렵다. 예컨대, 마이크로소프트사의 인공지능 모바일 메신저 ‘테이(Tay)’가 학습 과정에서 엉뚱한 말과 생각을 배워 막말을 한 것이 문제 되었다. 이 경우 인공지능의 설계자나 개발자는 인공지능이 기계학습을 통하여 진화되는 상황을 제어할 수 없기 때문에 기존의 책임론으로 그에 대한 책임을 묻기 어렵다. 나아가 인공지능의 소유자나 사용자도 인공지능의 오작동으로 인하여 발생한 손해를 전혀 예견할 수 없으며, 인공지능의 사용에 대한 주의의무를 기대할 수 없다. 그러나 인공지능의 설계자나 개발자는 이러한 위험에도 불구하고 인공지능 개발을 통하여 경제적 이익을 얻는다. 특히 인공지능의 설계자나 개발자는 이러한 예측 불가능성에도 불구하고 인공지능을 개발하는 것은 그로 인한 손해를 감수하겠다는 의도가 있다고 볼 수밖에 없다. 따라서 인공지능의 예측 불가능성에 대한 법적 대안으로 무과실책임 법리를 채택한 제조물 책임법이나 위험에 대한 책임을 다수에게 배분하는 보험에 의하여 해결하는 방안이 고려된다.[1]
- 통합관리 체계 수립
인공지능기술은 전통적인 제조업뿐만 아니라 법률, 의료, 언론 등 다양한 분야에 영향을 미치고 있으며, 이와 함께 기존의 법체계에 대한 개선요구도 제기되고 있다. 인간중심의 법체계에 대한 한계를 지적하며 인공지능에 책임 주체성, 더 나아가 법적 주체성을 부여하려는 시도가 그 예이다. 그러나 인공지능기술은 대부분의 사회적 영역에 적용될 수 있기 때문에 그로 인하여 발생할 수 있는 문제점과 그 해결방안이 분야마다 상이할 수 있다는 점을 고려하여야 할 것이다. 특히 인공지능기술의 예측 불가능성을 고려하면 현시점에서 예상하지 못한 문제들도 언제든지 발생할 수 있다.
우리나라에서는 그동안 새로운 기술이 주목받을 때마다 개별적인 법률들을 제정함으로써 대응해왔다. 이러한 경향은 정보통신기술 분야와 관련된 법률들에서 발견할 수 있는데, 기술발전이 매우 빠르게 이루어지고 정보통신기술도 인공지능기술과 마찬가지로 그 활용범위가 광범위하기 때문에 입법 정책적 필요에 의하여 형성되어 온 것으로 보인다. 문제는 관련 법률과 규제체계들 간의 혼선 및 규제 비용의 가중이 야기될 우려가 있다는 점이다. 또한 정보통신기술 분야의 법률들은 관련 산업의 진흥에만 초점을 맞추고 있을 뿐 기술발전으로 인하여 야기될 수 있는 당사자 간의 갈등, 기술의 사회적 영향에 대해서는 충분하게 대응하지 못하고 있다는 점도 지적될 수 있다. 따라서 인공지능기술의 지속적인 발전을 달성하기 위해서는 연구와 시장의 자유를 보장하되 그로 인하여 발생할 수 있는 사회적 문제들에 대응하기 위한 통합적인 관리체계를 수립할 필요가 있다. 이러한 체계를 통하여 법과 제도의 개선과 정책추진 방향을 일관되게 조정하고 사회적 문제들을 조율할 수 있을 것이다.[2]
각주[편집]
- ↑ 1.0 1.1 1.2 정진명 교수, 이상용 교수, 〈인공지능 사회를 대비한 민사법적 과제 연구〉, 《한국민사법학회》
- ↑ 2.0 2.1 2.2 2.3 박종보, 김휘홍, 〈인공지능기술의 발전과 법적 대응방향〉, 《한양대학교 법학전문대학원》
참고자료[편집]
- 박종보, 김휘홍, 〈인공지능기술의 발전과 법적 대응방향〉, 《한양대학교 법학전문대학원》
- 정진명 교수, 이상용 교수, 〈인공지능 사회를 대비한 민사법적 과제 연구〉, 《한국민사법학회》
같이보기[편집]
