제프리 힌튼

제프리 힌튼(Geoffrey Hinton)

구글(Google)

토론토 대학교(University of Toronto)

제프리 힌튼(Geoffrey Hinton)은 인공지능(AI) 분야를 개척한 영국 출신의 인지심리학자이자 컴퓨터 과학자이다. 오류 역전파 법과 딥러닝 연구에 기여하고, 힌튼 다이어그램을 발명했다. 구글과 캐나다 토론토 대학교에 재직 중이다.

생애

제프리 힌튼은 1947년 12월 6일 영국 윔블던에서 태어났다. 그는 고교 시절 친구가 쥐의 뇌 연구가 재미있다는 말을 듣고 이후 뇌연구에 흥미를 가지게 되었다. 이후 케임브리지 대학교의 구성 대학인 킹스 칼리지 런던(King 's College)에서 교육을 받으며 생리학과 물리학을 전공했다. 1970년도에 실험 심리학 학사 학위를 취득했다. 그리고 이어서 에딘버러 대학원에서 철학과 심리학을 전공하며 크리스토퍼 룽게 히긴스(Christopher Longuet-Higgins) 교수 아래서 연구하여 인공신경망으로 박사 학위를 받았다.그 이후로 그는 영국 내에서는 더 이상 신경망 연구를 할 수 없다고 판단하여 미국으로 넘어가, 럼멜 하트(David Everett Rumelhart)라는 인지과학의 대가와 만나 1986년에 백프로퍼게이션(backpropagation)논문에 참여하게 된다. 그 이후로 존 홉필드(john joseph Hopfield) 박사가 홉필드 네트워크를 제안하고 신경망 연구에 새로운 길을 열고, 제프리 힌튼은 테리 세이 노프스키(Terry Sejnowski) 와 함께 홉필드 네트워크와 신경망 알고리즘을 결합시켜 1984년에 볼츠만 머신을 만든다. 이후 1989년 제프리 힌튼 교수 밑에서 박사후 과정을 진행하던 얀 레쿤(Yann LeCun), 요슈아 벤지오(Yoshua Bengio) 와 함께 볼츠만 머신에 백프로퍼게이션을 결합해 CNN을 완성하고 딥러닝의 전환점을 만들었다.

이후로 제프리 힌튼은 자신의 연구를 군사적 목적으로 사용되는 것을 원치 않아 캐나다 고급 연구소의 펠로우가 되었고, 토론토 대학의 컴퓨터 과학과로 이동했다. 그러나 아직도 뉴욕의 얀 레쿤과 몬트리올의 요슈아 벤지오와 함께 딥러닝 연구 그룹의 리딩을 담당하고 있으며, 명예 저명 교수를 담당하고 있다. 그러나 제프리 힌튼은 구글의 부사장 겸, 엔지니어링 펠로우이자 벡터 연구소(Vector Institute)의 최고 과학 고문이다.

약력

경력

• 1990년 : 전기전자기술자협회(IEEE) 신호 처리 학회 시니어상
• 1991년 : 인공지능 발전 협회 연구원
• 1992년 : 전기전자기술자협회 신경망 선구자상
• 1996년 : 캐나다 왕립 학회 회원으로 선출
• 1998년 : 학문적 우수성을위한 ITAC / NSERC 상
• 2001년 : 럼멜하트 상(Rumelhart Prize)의 첫번째 우승자
• 2001년 : 에든버러 대학교에서 명예박사 학위 취득
• 2005년 : 연구 우수 IJCA 상
• 2010년 : 캐나다 최고의 과학 및 공학 상
• 2011년 : 허츠버그 캐나다 과학 및 공학 금메달
• 2012년 : Killam 엔지니어링 상
• 2013년 : 셔 브룩 대학(Université de Sherbrooke)에서 명예박사 학위 취득
• 2016년 : '인공 신경망의 이론과 실제에 대한 공헌과 음성 인식 및 컴퓨터 비전에 대한 적용'으로 미국 국립 과학 아카데미(NAE)의 외국 회원으로 선출
• 2016년 : 제임스 클럭 맥스웰 훈장(IEEE/RSE James Clerk Maxwell Award) 수상
• 2018년 : 튜링상(Turing Prize) 수상

저서

• 1987년 01월 01일 : 연결 주의 학습 절차(연구 논문, 카네기 멜론 대학. 컴퓨터 과학과) [Connectionist learning procedures (Research paper. Carnegie Mellon University. Computer Science Dept)]
• 1988년 01월 01일 : 인공 지능을 위한 신경망 아키텍처(튜토리얼) [Neural network architectures for artificial intelligence (Tutorial)]
• 1993년 01월 01일 : 과학적 미국인[Scientific American October 1993[
• 2017년 02월 25일 : 연관 기억의 병렬 모델 : 업데이트 에디션 (인지 과학 시리즈) [Parallel Models of Associative Memory: Updated Edition (Cognitive Science Series)]

연구분야

• 알고리즘과 이론(Algorithms and Theory)
• 자연어 처리(Natural Language Processing)
• 기계 지능(Machine Intelligence)
• 음성 처리(Speech Processing)

주요 활동

박사학위 이후의 제프리 힌튼은 서식스대학(University of Sussex),캘리포니아의 샌디에고 대학, 카네기 멜론 대학에서 일하며 자금을 조달하고, 런던 대학에서 개츠비 자선 재단 전산 신경과학 부서의 창립 이사를 역임하고, 현재 토론토 대학교 컴퓨터공학부의 교수를 맡고 있다. 제프리 힌튼은 기계학습 분야에서 캐나다 연구 의장을 맡고 있으며, 현재도 캐나아 고등 연구소의 기계 및 두뇌 학습 프로그램의 담당 고문이다. 제프리 힌튼은 2012년에 교육 플랫폼인 코세라(Coursera)에서 인공신경망(Neural Networks)에 대한 무료 온라인 강좌를 올렸다. 제프리 힌튼은 2013년 3월 자신의 회사인 DNN 리서치 주식회사가 구글에 인수되면서 구글에 입사하게 되었고 이후로 제프리 힌튼은 대학에서 진행하고 있는 연구와 구글에서 진행하는 연구에 대한 시간을 확실하게 나누었다. 제프리 힌튼의 연구는 기계 학습과 기억, 지각 및 기호 처리를 위한 신경망을 사용하는 방법을 조사하는 것을 주로 다룬다. 현재까지 제프리 힌튼은 200개 이상의 동료 검토 출판물을 저술하거나, 공동 저술했다.

제프리 힌튼은 카네기 멜론 대학교 교수로 재직했던 1982년~1987년간, 럼멜하트, 힌튼, 로날드 윌리엄스와 같이 다중 계층 신경망에 역 전파 알고리즘을 적용했다. 그들의 실험은 네트워크가 데이터의 유용한 내부 표현을 배울 수 있다는 것을 보여주기 위한 것이었다. 힌튼은 2018년 인터뷰에서 럼멜하트가 역전파의 기본 아이디어를 생각해냈으므로 이것은 그의 발명품이다. 라고 말을 했다. 역전파를 대중화하는 데 이 작업은 무척이나 중요했지만, 그들이 이 접근 방식을 처음으로 제안한 것이 아니었고, 연방향 전파가 특수한 경우인 역방향 모드 자동 분화는 1970년에 이미 세포 린나인마(Seppo Linnainmaa)에 의해 제안되었던 것으로 폴 웨어보스(Paul Werbos)는 1974년에 이미 신경망 훈련에 이를 사용할 것을 제안했다. 같은 기간 동안 제프리 힌튼은 데이빗 애클리(David Ackley)와 테런스 세즈노스키(Terry Sejnowski) 함께 볼츠만 기계를 공동으로 발명했다. 신경망 연구에 대한 그의 다른 공헌으로는 분산 표현, 시간 지연 신경망, 전문가 조합, 헬름홀츠 기계 및 전문가 제품이 포함된다. 2007년 힌튼은 이미지 변환에 대한 비지도 학습이라는 제목의 비지도 학습 논문을 공동 저술했다. 제프리 힌튼의 연구에 대한 접근 가능한 소개는 1992년 9월과 1993년 10월의 사이언티픽 아메리칸(Scientific American) 기사에서 찾을 수 있다. 2017년 10월과 11월에 제프리 힌튼은 캡슐 신경망을 주제로 오픈엑세스를 통해 2가지 연구 논문을 발표했다. 이때 제프리 힌튼은 드디어 잘 작동하는 것이 나왔다고 말을 했다.

제프리 힌튼은 기계 학습 알고리즘을 설계하면서, 자신의 목표는 대규모의 고차원 데이터 세트에서 복잡한 구조를 찾아내는데 더욱 효율적인 학습 방법을 발견하는 것이라고 했다. 이러한 방법이 뇌가 보고 배우는 방법임을 다른 이들에게도 알릴 수 있다. 제프리 힌튼은 처음으로 역 전파 알고리즘을 도입한 연구원 중 한 명이다. 이렇게 역전파 알고리즘 도입하여 단어 임베딩 학습에 사용했다. 토론토에 있는 그가 소속된 연구 그룹은 음석인식 및 객체 분류에 혁명을 일으킨 딥 러닝 분야에서 매우 획기적인 발전을 이루어 냈다.

참고자료

• 〈제프리 힌턴〉, 《위키백과》
• 루나, 〈꺼져가는 인공지능을 되살린 제프리 힌튼〉, 《브런치》, 1018-10-20
• Wikipedia, 〈Geoffrey Hinton〉, 《Wikipedia》
• Aminer, 〈Geoffrey E. Hinton〉, 《Aminer》
• 구글리서치, 〈Geoffrey E. Hinton〉, 《Google Research》
• DeepAI, 〈Geoffrey E. Hinton〉, 《DeepAI》
• amazon, 〈Geoffrey E. Hinton〉, 《amazon》
• acm, 〈Geoffrey E. Hinton〉, 《acm》

같이 보기

• 딥러닝
• 신경망
• 심층신경망
• 구글
• 토론토 대학교

이 제프리 힌튼 문서는 인공지능 인물에 관한 글로서 검토가 필요합니다. 위키 문서는 누구든지 자유롭게 편집할 수 있습니다. [편집]을 눌러 문서 내용을 검토·수정해 주세요.

인공지능 : 인공지능 서비스, 인공지능 로봇, 인공지능 기술, 인공지능 기업, 인공지능 인물 □■⊕ 한국 곽인범 • 김대훈 • 김동환 • 김지섭 • 김진우 • 노봉균 • 박태웅 • 배영우 • 서대호 • 서창녕 • 신민영 • 신형섭 • 안익진 • 오준호 • 유태준 • 이경일 • 이상기 • 이정호 • 이주완 • 이현동 • 임재원 • 조강원 • 주명규 • 최진 • 하정우 (네이버) • 하정우 (베어로보틱스) 중국 양즈린 • 우위신 • 장칭숭 • 저우신위 • 천즈치 • 펑즈후이 일본 쿠니히코 후쿠시마 동남아 마크 슈뮬레비치 미국 그레그 브로크만 • 다리오 아모데이 • 라지쿠마 티루말라이남비 • 래리 서머스 • 리드 호프만 • 마빈 민스키 • 마크 레이버트 • 메이 하비브 • 무스타파 술레이만 • 미라 무라티 • 보이치에흐 자렘바 • 브렛 애드콕 • 브렛 테일러 • 사친 나로드 • 샘 올트먼 • 아담 디안젤로 • 앤드류 응 • 에두아르도 에라조 • 에멧 시어 • 에이단 고메즈 • 요슈아 벤지오 • 월터 피츠 • 이안 굿펠로우 • 이타마 프리드먼 • 일론 머스크 • 일리야 수츠케버 • 저스틴 해리스 • 제프 딘 • 제프리 힌튼 • 존 매카시 • 존 홉필드 • 캐롤 라일리 • 타샤 매코리 • 탐닛 게브루 • 토머스 왓슨 • 프랭크 로젠블랫 • 헬렌 토너 유럽 기욤 램플 • 데미스 하사비스 • 데이비드 클렘 • 사이러스 호데스 • 샨샨 웡 • 아서 멘쉬 • 안젤로 달리 • 알베르토 바르가라 • 앨런 튜링 • 얀 르쿤 • 에마드 모스타크 • 유르겐 슈미트후버 • 크리스티안 라포르테 • 티모시 라크로아 기타 다니엘 흄 • 프레드 알메이다 위키 : 자동차, 교통, 지역, 지도, 산업, 기업, 단체, 업무, 생활, 쇼핑, 블록체인, 암호화폐, 인공지능, 개발, 인물, 행사, 일반