위키원
제프리 힌튼
제프리 힌튼 (Geoffrey Everest Hinton)은 인공지능 (AI) 분야를 개척한 영국 출신의 인지심리학자이자 컴퓨터 과학자이다. 오류 역전파 법과 딥러닝 연구에 기여하고, 힌튼 다이어그램을 발명했다. 현재 구글과 토론토 대학교에 재직 중이다.[1]
생애
제프리 힌튼은 1947년 12월 6일 영국 윔블던에서 태어났다. 그는 고교 시절 친구가 쥐의 뇌 연구가 재미있다는 말을 듣고 이후 뇌연구에 흥미를 가지게 된다. [2] 이후 케임브리지 대학교의 구성 대학인 킹스 칼리지 런던(King 's College)에서 교육을 받으며 생리학과 물리학을 전공했다. 1970년도에 실험 심리학 학사 학위를 취득했다. 그리고 이어서 에딘버러 대학원에서 철학과 심리학을 전공하며 크리스토퍼 룽게 히긴스(Christopher Longuet-Higgins) 교수 아래서 연구하여 인공신경망으로 박사 학위를 받았다. [3]그 이후로 그는 영국 내에서는 더 이상 신경망 연구를 할 수 없다고 판단하여 미국으로 넘어가, 럼멜 하트(David Everett Rumelhart)라는 인지과학의 대가와 만나 1986년에 백프로퍼게이션(backpropagation)논문에 참여하게 된다. 그 이후로 존 홉필드(john joseph Hopfield) 박사가 홉필드 네트워크를 제안하고 신경망 연구에 새로운 길을 열고, 제프리 힌튼은 테리 세이 노프스키(Terry Sejnowski) 와 함께 홉필드 네트워크와 신경망 알고리즘을 결합시켜 1984년에 볼츠만 머신을 만든다. 이후 1989년 제프리 힌튼 교수 밑에서 박사후 과정을 진행하던 얀 레쿤(Yann LeCun), 요슈아 벤지오(Yoshua Bengio) 와 함께 볼츠만 머신에 백프로퍼게이션을 결합해 CNN을 완성하고 딥러닝의 전환점을 만들었다. 이후로 제프리 힌튼은 자신의 연구를 군사적 목적으로 사용되는 것을 원치 않아 캐나다 고급 연구소의 펠로우가 되었고, 토론토 대학의 컴퓨터 과학과로 이동했다. 그러나 아직도 뉴욕의 얀 레쿤과 몬트리올의 요슈아 벤지오와 함께 딥러닝 연구 그룹의 리딩을 담당하고 있으며,[2] 명예 저명 교수를 담당하고 있다. 그러나 제프리 힌튼은 구글의 부사장 겸, 엔지니어링 펠로우이자 벡터 연구소(Vector Institute)의 최고 과학 고문이다.[4]
경력
수상 및 영예
- 1990년 - IEEE 신호 처리 학회 시니어상
- 1991년 - 인공지능 발전 협회 연구원
- 1992년 - IEEE 신경망 선구자상
- 1996년 - 캐나다 왕립 학회 회원으로 선출
- 1998년 - 학문적 우수성을위한 ITAC / NSERC 상 [5]
- 2001년 - 럼멜하트 상(Rumelhart Prize)의 첫번째 우승자
- 2001년 - 에든버러 대학교에서 명예박사 학위 취득
- 2005년 - 연구 우수 IJCA 상
- 2010년 - 캐나다 최고의 과학 및 공학 상[6]
- 2011년 - 허츠버그 캐나다 과학 및 공학 금메달
- 2012년 - Killam 엔지니어링 상[6]
- 2013년 - 셔 브룩 대학(Université de Sherbrooke)에서 명예박사 학위 취득
- 2016년 - '인공 신경망의 이론과 실제에 대한 공헌과 음성 인식 및 컴퓨터 비전에 대한 적용'으로 미국 국립 과학 아카데미(NAE)의 외국 회원으로 선출
- 2016년 - 제임스 클럭 맥스웰 훈장(IEEE/RSE James Clerk Maxwell Award) 수상[3]
- 2018년 - 튜링상(Turing Prize) 수상[7]
출판
- 1987년 1월 1일 - 연결 주의 학습 절차(연구 논문, 카네기 멜론 대학. 컴퓨터 과학과) [Connectionist learning procedures (Research paper. Carnegie Mellon University. Computer Science Dept)]
- 1988년 1월 1일 - 인공 지능을 위한 신경망 아키텍처(튜토리얼) [Neural network architectures for artificial intelligence (Tutorial)]
- 1993년 1월 1일 - 과학적 미국인[Scientific American October 1993[
- 2017년 2월 25일 - 연관 기억의 병렬 모델 : 업데이트 에디션 (인지 과학 시리즈) [Parallel Models of Associative Memory: Updated Edition (Cognitive Science Series)][8]
주요 활동
박사학위 이후의 제프리 힌튼은 서식스대학(University of Sussex),캘리포니아의 샌디에고 대학, 카네기 멜론 대학에서 일하며 자금을 조달하고, 런던 대학에서 개츠비 자선 재단 전산 신경과학 부서의 창립 이사를 역임하고, 현재 토론토 대학교 컴퓨터공학부의 교수를 맡고 있다. 제프리 힌튼은 기계학습 분야에서 캐나다 연구 의장을 맡고 있으며, 현재도 캐나아 고등 연구소의 기계 및 두뇌 학습 프로그램의 담당 고문이다. 제프리 힌튼은 2012년에 교육 플랫폼인 코세라(Coursera)에서 인공신경망(Neural Networks)에 대한 무료 온라인 강좌를 올렸다. 제프리 힌튼은 2013년 3월 자신의 회사인 DNN 리서치 주식회사가 구글에 인수되면서 구글에 입사하게 되었고 이후로 제프리 힌튼은 대학에서 진행하고 있는 연구와 구글에서 진행하는 연구에 대한 시간을 확실하게 나누었다.
제프리 힌튼의 연구는 기계 학습과 기억, 지각 및 기호 처리를 위한 신경망을 사용하는 방법을 조사하는 것을 주로 다룬다. 현재까지 제프리 힌튼은 200개 이상의 동료 검토 출판물을 저술하거나, 공동 저술했다.
제프리 힌튼은 카네기 멜론 대학교 교수로 재직했던 1982년~1987년간, 럼멜하트, 힌튼, 로날드 윌리엄스와 같이 다중 계층 신경망에 역 전파 알고리즘을 적용했다. 그들의 실험은 네트워크가 데이터의 유용한 내부 표현을 배울 수 있다는 것을 보여주기 위한 것이었다. 힌튼은 2018년 인터뷰에서 럼멜하트가 역전파의 기본 아이디어를 생각해냈으므로 이것은 그의 발명품이다. 라고 말을 했다. 역전파를 대중화하는 데 이 작업은 무척이나 중요했지만, 그들이 이 접근 방식을 처음으로 제안한 것이 아니었고, 연방향 전파가 특수한 경우인 역방향 모드 자동 분화는 1970년에 이미 세포 린나인마(Seppo Linnainmaa)에 의해 제안되었던 것으로 폴 웨어보스(Paul Werbos)는 1974년에 이미 신경망 훈련에 이를 사용할 것을 제안했다.
같은 기간 동안 제프리 힌튼은 데이빗 애클리(David Ackley)와 테런스 세즈노스키(Terry Sejnowski) 함께 볼츠만 기계를 공동으로 발명했다. 신경망 연구에 대한 그의 다른 공헌으로는 분산 표현, 시간 지연 신경망, 전문가 조합, 헬름홀츠 기계 및 전문가 제품이 포함된다. 2007년 힌튼은 이미지 변환에 대한 비지도 학습이라는 제목의 비지도 학습 논문을 공동 저술했다. 제프리 힌튼의 연구에 대한 접근 가능한 소개는 1992년 9월과 1993년 10월의 사이언티픽 아메리칸(Scientific American) 기사에서 찾을 수 있다. 2017년 10월과 11월에 제프리 힌튼은 캡슐 신경망을 주제로 오픈엑세스를 통해 2가지 연구 논문을 발표했다. 이때 제프리 힌튼은 드디어 잘 작동하는 것이 나왔다고 말을 했다.[3]
제프리 힌튼은 기계 학습 알고리즘을 설계하면서, 자신의 목표는 대규모의 고차원 데이터 세트에서 복잡한 구조를 찾아내는데 더욱 효율적인 학습 방법을 발견하는 것이라고 했다. 이러한 방법이 뇌가 보고 배우는 방법임을 다른 이들에게도 알릴 수 있다. 제프리 힌튼은 처음으로 역 전파 알고리즘을 도입한 연구원 중 한 명이다. 이렇게 역전파 알고리즘 도입하여 단어 임베딩 학습에 사용했다. 토론토에 있는 그가 소속된 연구 그룹은 음석인식 및 객체 분류에 혁명을 일으킨 딥 러닝 분야에서 매우 획기적인 발전을 이루어 냈다.
연구분야
- 알고리즘과 이론(Algorithms and Theory)
- 자연어 처리(Natural Language Processing)
- 기계 지능(Machine Intelligence)
- 음성 처리(Speech Processing)
각주
- ↑ 〈제프리 힌턴〉, 《위키백과》
- ↑ 2.0 2.1 루나, 〈꺼져가는 인공지능을 되살린 제프리 힌튼〉, 《브런치》, 1018-10-20
- ↑ 3.0 3.1 3.2 〈Geoffrey Hinton〉, 《Wikipedia》
- ↑ 〈Geoffrey E. Hinton〉, 《Aminer》
- ↑ 〈Geoffrey E. Hinton〉, 《acm》
- ↑ 6.0 6.1 〈Geoffrey E. Hinton〉, 《Google Research》
- ↑ 〈Geoffrey E. Hinton〉, 《DeepAI》
- ↑ 〈Geoffrey E. Hinton〉, 《amazon》
참고자료
- 위키백과, 〈제프리 힌턴〉, 《위키백과》
- 루나, 〈꺼져가는 인공지능을 되살린 제프리 힌튼〉, 《브런치》, 1018-10-20
- Wikipedia, 〈Geoffrey Hinton〉, 《Wikipedia》
- Aminer, 〈Geoffrey E. Hinton〉, 《Aminer》
- 구글리서치, 〈Geoffrey E. Hinton〉, 《Google Research》
- DeepAI, 〈Geoffrey E. Hinton〉, 《DeepAI》
- amazon, 〈Geoffrey E. Hinton〉, 《amazon》
- acm, 〈Geoffrey E. Hinton〉, 《acm》
같이 보기
