위키원
불확실성 편집하기
편집을 되돌릴 수 있습니다.
이 편집을 되돌리려면 아래의 바뀐 내용을 확인한 후 저장해주세요.
| 최신판 | 당신의 편집 | ||
| 3번째 줄: | 3번째 줄: | ||
== 개요 == | == 개요 == | ||
우리가 사는 현실 세계는 복잡하고 예측이 어려워서 논리만으로는 현실 세계를 반영하기 매우 어렵다. | 우리가 사는 현실 세계는 복잡하고 예측이 어려워서 논리만으로는 현실 세계를 반영하기 매우 어렵다. | ||
| − | 그뿐만 아니라 단순화된 모델과 정형화된 기법으로 표현하기에 한계가 있다. 이러한 현실 세계의 불확실성을 해결하기 위해 지식 베이스의 일관성을 유지하는 것과 수치화를 통해 불확실성을 정형화하는 확률적 기법이 도입되었지만, 여전히 제한적이며 완벽한 해결이 불가능하다. 그 예시로 [[카네기멜론 대학교]](CMU)에서 개발한 [[자율주행 자동차]] 'NAVLAB'을 들 수 있는데, 이 역시 돌발 상황에서의 대처 능력이 부족하다.<ref name="베이지">Cloud Travel, 〈[https://destiny738.tistory.com/443 (인공지능) 불확실성과 베이지 추론]〉, | + | 그뿐만 아니라 단순화된 모델과 정형화된 기법으로 표현하기에 한계가 있다. 이러한 현실 세계의 불확실성을 해결하기 위해 지식 베이스의 일관성을 유지하는 것과 수치화를 통해 불확실성을 정형화하는 확률적 기법이 도입되었지만, 여전히 제한적이며 완벽한 해결이 불가능하다. 그 예시로 [[카네기멜론 대학교]](CMU)에서 개발한 [[자율주행 자동차]] 'NAVLAB'을 들 수 있는데, 이 역시 돌발 상황에서의 대처 능력이 부족하다.<ref name="베이지">Cloud Travel, 〈[https://destiny738.tistory.com/443 (인공지능) 불확실성과 베이지 추론]〉, 《tistory》, 2012-11-07</ref> |
불확실성의 요인은 크게 네 가지로 분류할 수 있다. | 불확실성의 요인은 크게 네 가지로 분류할 수 있다. | ||
| 9번째 줄: | 9번째 줄: | ||
먼저 데이터 불확실성은 부사, 형용사의 수치화가 정확하지 않으며 그 경계 또한 모호하고, 이로 인해 데이터의 모호함을 유발하게 되어 사람이 사용하는 [[정보]]는 불완전하고 모순되기도 하기에 센서 장치가 얻는 정보 자체가 불확실할 수 있다는 것을 말한다. | 먼저 데이터 불확실성은 부사, 형용사의 수치화가 정확하지 않으며 그 경계 또한 모호하고, 이로 인해 데이터의 모호함을 유발하게 되어 사람이 사용하는 [[정보]]는 불완전하고 모순되기도 하기에 센서 장치가 얻는 정보 자체가 불확실할 수 있다는 것을 말한다. | ||
다음으로 지식의 불확실성은 전문가의 [[자문]]도 사실 또한 불확실하고, 완전하지 않은 지식이며 표현상, 의사소통 간 오류가 있을 수 있다는 것을 의미한다. | 다음으로 지식의 불확실성은 전문가의 [[자문]]도 사실 또한 불확실하고, 완전하지 않은 지식이며 표현상, 의사소통 간 오류가 있을 수 있다는 것을 의미한다. | ||
| − | 정보의 불완전성은 알려지지 않은 데이터에 대해서는 근사적 추론을 진행하기에 결과가 불완전하고, 정보량이 부족하다는 것을 의미하고, 확률의 불규칙성은 시간이 지나면서 추가로 발생하는 불규칙성이 있을 수 있다는 것을 말한다.<ref name="비단조">이앵두, 〈[https://cbw1030.tistory.com/142 (인공지능 기초) 불확실성 - 비단조 추론]〉, | + | 정보의 불완전성은 알려지지 않은 데이터에 대해서는 근사적 추론을 진행하기에 결과가 불완전하고, 정보량이 부족하다는 것을 의미하고, 확률의 불규칙성은 시간이 지나면서 추가로 발생하는 불규칙성이 있을 수 있다는 것을 말한다.<ref name="비단조">이앵두, 〈[https://cbw1030.tistory.com/142 (인공지능 기초) 불확실성 - 비단조 추론]〉, 《tistory》, 2020-07-06</ref> |
== 특징 == | == 특징 == | ||
| 75번째 줄: | 75번째 줄: | ||
머신러닝 시스템은 필연적으로 훈련받은 데이터에서 배우지 못한 실제 상황에 직면하게 된다. 지바트 교수는 현재 데이터로 사용되고 있는 통계 모델들은 미래의 데이터들이 과거의 데이터와 흡사하리라 추정하는 경향이 있다'고 말한다. 결과적으로 이 로직을 바탕으로 한 머신러닝 시스템은 새로운 데이터가 발생하더라도 과거의 데이터와 흡사하다고 결과를 내기에 잘못된 추정이 나올 수 있으며 이는 위험한 결과를 초래할 수 있다. | 머신러닝 시스템은 필연적으로 훈련받은 데이터에서 배우지 못한 실제 상황에 직면하게 된다. 지바트 교수는 현재 데이터로 사용되고 있는 통계 모델들은 미래의 데이터들이 과거의 데이터와 흡사하리라 추정하는 경향이 있다'고 말한다. 결과적으로 이 로직을 바탕으로 한 머신러닝 시스템은 새로운 데이터가 발생하더라도 과거의 데이터와 흡사하다고 결과를 내기에 잘못된 추정이 나올 수 있으며 이는 위험한 결과를 초래할 수 있다. | ||
| − | 자가운전 차량에 사용될 이미지 감지 인공지능의 예를 들어보자. 다른 차량의 데이터를 기반으로 자가운전 차량의 이미지 감지 인공지능을 훈련했다고 하자. 그러면 주변의 객체를 테두리 처리하고 레이블을 달면서 주변 이미지들을 정의하려고 한다. 여기서 위에 말했던 문제점이 발생한다. 인공지능이 선명하고 깨끗한 이미지들을 가지고 훈련되었다면, 비가 오거나 날이 흐린 날에는 정확도가 떨어지게 된다. 인공지능은 지금까지 학습된 내용이 모든 경우의 수를 포함한다고 추정하기에 일어나는 결과이다. 반대로, 사람이라면 어떨까? 사람은 자신의 경험을 바탕으로 상황에 적응하고, 적응하지 못할 때는 이에 대해서 재인식하려는 경향이 있다. 예를 들어, 평소에는 아무것도 없어야 할 도로 위에 무언가가 있다면 운전자는 그냥 지나치지 않는다. 속도를 줄이며 조심스레 비껴가려고 하거나, 무엇인지 확인하려고 시도한다. 이처럼 사람은 주변 환경에 대해 불확실성을 느낄 때 위험한 실수를 저지르지 않기 위해 주의를 기울인다. 지바트 교수는 인공지능 시스템이 이런 불확실한 상황에서도 사람처럼 주의를 기울여야 할 필요가 있다고 말한다. 즉, 불확실성을 인식하고 더 많은 정보를 수집할 수 있도록 끊임없이 질문해야 한다는 것이다.<ref name="지바트">Tucker Davey, 〈[https://futureoflife.org/2018/03/15/how-ai-handles-uncertainty-brian-ziebart/?cn-reloaded=1 How AI Handles Uncertainty: An Interview With Brian Ziebart]〉, | + | 자가운전 차량에 사용될 이미지 감지 인공지능의 예를 들어보자. 다른 차량의 데이터를 기반으로 자가운전 차량의 이미지 감지 인공지능을 훈련했다고 하자. 그러면 주변의 객체를 테두리 처리하고 레이블을 달면서 주변 이미지들을 정의하려고 한다. 여기서 위에 말했던 문제점이 발생한다. 인공지능이 선명하고 깨끗한 이미지들을 가지고 훈련되었다면, 비가 오거나 날이 흐린 날에는 정확도가 떨어지게 된다. 인공지능은 지금까지 학습된 내용이 모든 경우의 수를 포함한다고 추정하기에 일어나는 결과이다. 반대로, 사람이라면 어떨까? 사람은 자신의 경험을 바탕으로 상황에 적응하고, 적응하지 못할 때는 이에 대해서 재인식하려는 경향이 있다. 예를 들어, 평소에는 아무것도 없어야 할 도로 위에 무언가가 있다면 운전자는 그냥 지나치지 않는다. 속도를 줄이며 조심스레 비껴가려고 하거나, 무엇인지 확인하려고 시도한다. 이처럼 사람은 주변 환경에 대해 불확실성을 느낄 때 위험한 실수를 저지르지 않기 위해 주의를 기울인다. 지바트 교수는 인공지능 시스템이 이런 불확실한 상황에서도 사람처럼 주의를 기울여야 할 필요가 있다고 말한다. 즉, 불확실성을 인식하고 더 많은 정보를 수집할 수 있도록 끊임없이 질문해야 한다는 것이다.<ref name="지바트">Tucker Davey, 〈[https://futureoflife.org/2018/03/15/how-ai-handles-uncertainty-brian-ziebart/?cn-reloaded=1 How AI Handles Uncertainty: An Interview With Brian Ziebart]〉, 《future of life》, 2018-03-15</ref> |
* 접근 방법 | * 접근 방법 | ||
| 83번째 줄: | 83번째 줄: | ||
== 참고자료 == | == 참고자료 == | ||
| − | * 이앵두, 〈[https://cbw1030.tistory.com/142 (인공지능 기초) 불확실성 - 비단조 추론]〉, | + | * 이앵두, 〈[https://cbw1030.tistory.com/142 (인공지능 기초) 불확실성 - 비단조 추론]〉, 《tistory》, 2020-07.06 |
| − | * Cloud Travel, 〈[https://destiny738.tistory.com/443 (인공지능) 불확실성과 베이지 추론]〉, | + | * Cloud Travel, 〈[https://destiny738.tistory.com/443 (인공지능) 불확실성과 베이지 추론]〉, 《tistory》, 2012-11.07 |
| − | * Tucker Davey, 〈[https://futureoflife.org/2018/03/15/how-ai-handles-uncertainty-brian-ziebart/?cn-reloaded=1 How AI Handles Uncertainty: An Interview With Brian Ziebart]〉, | + | * Tucker Davey, 〈[https://futureoflife.org/2018/03/15/how-ai-handles-uncertainty-brian-ziebart/?cn-reloaded=1 How AI Handles Uncertainty: An Interview With Brian Ziebart]〉, 《future of life》, 2018-03-15 |
== 같이 보기 == | == 같이 보기 == | ||
{{인공지능 기술|검토 필요}} | {{인공지능 기술|검토 필요}} | ||
