헬렌 토너

헬렌 토너(Helen Toner) 연구자

헬렌 토너(Helen Toner)는 호주 출신의 연구자로, 조지타운 대학교의 안보 및 신기술 센터(CSET)에서 전략 담당 이사로 재직 중이다. 그녀는 OpenAI의 CEO인 샘 올트만이 해고될 당시 OpenAI 이사회에서 활동한 바 있다.

2024년, TIME 잡지는 토너를 AI 분야에서 가장 영향력 있는 100인 중 한 명으로 선정했다.

초기 생애 및 교육

토너는 1992년 호주 멜버른에서 두 명의 의사 부모로부터 태어났다. 2014년 멜버른 대학교에서 화학 공학 학사(B.Sc.)를 졸업했다. 그녀는 국제 외교 시뮬레이션에서 학생들의 참여를 지원하는 조직인 UN Youth에 참여했으며, 멜버른 대학교에서 대학생으로 있을 때 효과적인 이타주의 운동을 접하게 되었다. 2018년에는 9개월간 베이징에서 중국어를 배우며 옥스포드 대학교 AI 및 국방 센터에서 연구원으로 활동했다. 2019년부터 2021년까지는 조지타운 대학교 외교학부에서 안보학 석사(M.A.)를 취득했다.

경력

초기 경력

졸업 후, 헬렌 토너는 홀든 카노프스키(Holden Karnofsky)가 공동 설립한 자선 단체 평가 기관인 기브웰(GiveWell)과 더스틴 모스코비츠(Dustin Moskovitz)와 카노프스키가 공동 설립한 오픈 필란트로피(Open Philanthropy)에서 일했다. 기브웰에서 그녀는 AI 정책 문제, 특히 군사적 적용 및 지리정치학이 AI 개발에 미치는 영향에 대해 연구했다. 2017년 5월, 토너는 UCLA 법학대학에 150만 달러의 기부를 권장하며, 이는 "고급 인공지능과 관련된 거버넌스 및 정책 문제에 대한 펠로우십, 연구, 회의를 지원하기 위한 것"이었다. 같은 해 8월, 그녀는 전 해군 장관 리처드 댄지그(Richard Danzig)가 이끄는 미국새안보센터(Center for a New American Security, CNAS)에 26만 달러의 기부를 권장하며, 이는 고급 기술로 인한 잠재적 위험에 대한 원고 출판을 지원하기 위한 것이었다.

안보 및 신기술 센터 (CSET)

2019년 1월, 토너는 조지타운 대학의 월시 스쿨(Walsh School)에 위치한 보안 및 신흥 기술 센터(Centerfor Security and Emerging Technology, CSET)의 전략 디렉터로 임명되었다. CSET는 오픈 필란트로피가 조지타운 대학에 5년간 5,500만 달러를 기부하여 설립되었다. 2022년 3월, 그녀는 전략 및 기초 연구 기금의 전임 디렉터로 임명되었다. 그녀는 OpenAI 이사회에서의 임기 동안 및 이후에도 CSET에서 AI 정책 및 전략에 대해 정책 결정자들에게 조언하는 일을 계속했다. 또한 그녀는 중국의 AI 산업을 연구했으며, 《Foreign Affairs》에 공동으로 글을 기고하기도 했다.

2023년 10월, 앤드류 임브리(Andrew Imbrie)와 오웬 J. 다니엘스(Owen J. Daniels)와 공동으로 쓴 논문 《인공지능과 비용이 큰 신호》(Artificial Intelligence and Costly Signals)는 ChatGPT 출시에 대한 비판을 포함하고 있어 토너와 OpenAI CEO 샘 알트먼(Sam Altman) 사이에 긴장을 초래했다고 보도되었다. 알트먼은 이 논문이 OpenAI의 기술 안전을 유지하기 위한 노력을 비판하면서 경쟁사인 Anthropic의 접근 방식을 칭찬한 것에 대해 불만을 표시했다고 한다. 올트만은 토너에게 전화를 걸어 이 논문이 연방거래위원회(FTC)의 OpenAI 데이터 수집 조사로 인해 "문제를 일으킬 수 있다"고 말했다고 한다.

OpenAI

2021년 말, 토너는 홀든 카노프스키의 후임으로 OpenAI 이사회에 초대되었다. OpenAI는 마이크로소프트를 포함한 투자자들이 소유하고 있지만, 이 조직은 비영리 거버넌스 구조를 유지하고 있어 이사회 멤버들은 주주가 아닌 조직의 이타적 목표에 대해 책임을 진다.

2023년 10월, 그녀는 두 명의 공동 저자와 함께 《의도 해독: 인공지능과 비용이 큰 신호》(Decoding Intentions: Artificial Intelligence and Costly Signals) 보고서를 발표했다. 이 보고서에서 그녀는 다음과 같이 썼다:

"OpenAI는 ChatGPT와 GPT-4 출시와 관련된 많은 안전 및 윤리 문제로 비판을 받아왔다. 이는 저작권 문제, 데이터 주석 작성자의 노동 조건, 그리고 사용자가 안전 조치를 우회할 수 있는 '탈옥' 가능성 등을 포함한다."

이 논문 발표 후, 올트만은 이 논문이 회사를 비판한 것이라고 생각하여 토너를 이사회에서 제외하려고 시도했다.

2023년 11월 17일, 토너는 다른 세 명의 이사회 멤버와 함께 샘 올트만을 OpenAI CEO에서 해임하기로 투표했다. 이사회는 올트만이 "이사회와의 소통에서 일관되게 솔직하지 않았다"는 이유를 밝혔으며, 올트만이 이사회 멤버들을 자신의 이익을 위해 조종하고 있다는 인식이 영향을 미쳤다고 한다. 4일 후, OpenAI 이사회와 샘 올트만 사이에 합의가 이루어져 토너, 타샤 매코리(Tasha McCauley), 일리야 수츠케버(Ilya Sutskever)가 이사회를 떠나고, 전 재무부 장관 로런스 서머스(Lawrence Summers)와 브렛 테일러(Bret Taylor)가 새 이사회 멤버로 임명되며, 올트만이 CEO로 복귀했다.

2024년 5월, 한 팟캐스트에서 토너는 올트만을 해임한 이사회의 근거를 설명하면서, 그가 "여러 차례" 이사회를 기만했다고 주장했다. 이는 정보를 숨기고, 회사에서 일어나는 일을 고의로 잘못 전달하며, 이사회에 거짓말을 한 것을 포함한다. 그녀는 이사회가 ChatGPT 출시에 대해 알지 못했으며, 소셜 미디어 플랫폼 트위터를 통해 출시 사실을 알게 되었다고 말했다. 또한 올트만이 OpenAI 스타트업 펀드(OpenAI Startup Fund)를 소유하고 있다는 사실을 이사회에 알리지 않았다고 지적하며, 그는 "회사에 대한 금전적 이해관계가 없는 독립적인 이사회 멤버"라고 주장했지만, 실제로는 이 벤처 캐피털에 대한 관리 결정을 내렸다고 말했다.

연도 순 정리

• 2022년 3월 ~ 현재 : Center for Security and Emerging Technology (CSET). 전략 및 기초 연구 기금 디렉터 (Director of Strategy and Foundational Research Grants)
• 2019년 1월 ~ 2022년 2월 : Center for Security and Emerging Technology (CSET). 전략 디렉터 (Director of Strategy)
• 2018년 2월 ~ 2018년 12월 : 옥스퍼드 대학교 (University of Oxford). AI 거버넌스 센터 연구 협력자 (Research Affiliate, Center for the Governance of AI)
• 2016년 7월 ~ 2018년 2월 : 오픈 필란트로피 프로젝트 (Open Philanthropy Project). 선임 연구 분석가 (Senior Research Analyst)
• 2015년 3월 ~ 2016년 6월 : 오픈 필란트로피 프로젝트 (Open Philanthropy Project). 기브웰 (GiveWell) 소속 연구 분석가 (Research Analyst)
• 2013년 7월 ~ 2015년 1월 : 베스파룸 캐피털 (Vesparum Capital). 분석가 (Analyst). 드래프터블 (Draftable) 소속 제품 관리자 (Product Manager)
• 2014년 11월 ~ 2014년 12월 : 보스턴 컨설팅 그룹 (The Boston Consulting Group). 인턴 어소시에이트 (Intern Associate)
• 2013년 10월 ~ 2014년 8월 : 스파크 엔지니어링 캠프 (Spark Engineering Camp). 운영 매니저 및 공동 조직자 (Operations Manager & Co-Convener). 대학 진학에 어려움을 겪는 고등학생들을 위한 6일간의 숙박형 엔지니어링 캠프인 스파크 엔지니어링 캠프의 첫 멜버른 운영을 위한 고위 관리팀의 일원으로 활동.

개인 생활

토너는 독일 과학자와 결혼하여 한 명의 자녀를 두고 있다.

참고자료

• "Helen Toner", Wikipedia
• "(1) Helen Toner", LinkedIn

같이 보기

• 타샤 매코리
• 일리야 수츠케버
• 브렛 테일러
• 샘 올트만

이 문서는 인물사진 수정이 필요합니다.

이 헬렌 토너 문서는 인공지능 인물에 관한 글로서 검토가 필요합니다. 위키 문서는 누구든지 자유롭게 편집할 수 있습니다. [편집]을 눌러 문서 내용을 검토·수정해 주세요.

[접기]인공지능 : 인공지능 서비스, 인공지능 모델, 인공지능 데이터, 인공지능 기술, 인공지능 로봇, 인공지능 기업, 인공지능 인물 □■⊕, 인공지능 역사 한국 강용성 • 곽인범 • 김대훈 • 김동환 • 김영섬 • 김영섭 • 김종윤 • 김지섭 • 김진우 • 김현수 • 노봉균 • 문전일 • 박종천 • 박태웅 • 배영우 • 백준호 • 서대호 • 서창녕 • 송기영 • 신민영 • 신정규 • 신형섭 • 안익진 • 엄윤설 • 오준호 • 유수연 • 유승재 • 유태준 • 이경일 • 이기욱 • 이상기 • 이승준 • 이용재 • 이재성 • 이정호 • 이종흔 • 이주완 • 이현동 • 임재원 • 임정근 • 전병곤 • 정진우 • 조강원 • 조경현 • 조주완 • 주명규 • 최진 • 최홍섭 • 하정우 (네이버) • 하정우 (베어로보틱스) • 한재권 • 홍재의 • 황성재 중국 가오화밍 • 구제 • 두안지앙화 • 라이지에 • 량원펑 • 렁샤오쿤 • 뤄푸리 • 류웨이차오 • 류칭펑 • 리보양 • 리젠궈 • 샤오홍 • 양즈린 • 왕샤오촨 • 왕위 • 왕허 • 우위신 • 우장쩡 • 위하오 • 자오통양 • 장웨이 • 장쥔빈 • 장칭숭 • 지이차오 • 장펑 • 창징(리처드 창) • 저우신위 • 저우잰 • 챈동치 • 천즈치 • 천지앤위 • 천허린 • 청하오 • 치우춘신 • 펑즈후이 • 푸한라이 • 황샤오칭 • 허카이밍 • 후탠랜 일본 마사히코 야마나카 • 미야자키 하야오 • 이나바 세이우에몬 • 쿠니히코 후쿠시마 • 하야시 가나메 미국 게리 굿하트 • 게리 코헨 • 그레그 브로크만 • 다리오 아모데이 • 다미온 셸턴 • 라지쿠마 티루말라이남비 • 래리 서머스 • 리드 호프만 • 마빈 민스키 • 마크 레이버트 • 메이 하비브 • 무스타파 술레이만 • 미라 무라티 • 보이치에흐 자렘바 • 브래드 라이트캡 • 브렛 애드콕 • 브렛 테일러 • 빌 달리 • 사친 나로드 • 사티아 나델라 • 샘 올트먼 • 숀 화이트 • 아담 디안젤로 • 아밋 제인 • 아티 하인라 • 앤드류 응 • 야누스 프리스 • 얀 라이케 • 에도 리버티 • 에두아르도 에라조 • 에멧 시어 • 에이단 고메즈 • 와심 알시크 • 요슈아 벤지오 • 월터 피츠 • 이안 굿펠로우 • 이타마 프리드먼 • 일론 머스크 • 일리야 수츠케버 • 저스틴 해리스 • 제프 딘 • 제프리 힌튼 • 제프 카데나스 • 젠슨 황 • 조디 로즈 • 존 매카시 • 존 홉필드 • 짐 라이퍼 • 캐런 사이먼얀 • 캐롤 라일리 • 타샤 매코리 • 토란 브루스 리처즈 • 토머스 왓슨 • 팀닛 게브루 • 페이-페이 리 • 프랭크 로젠블랫 • 해리슨 체이스 • 헬렌 토너 유럽 기욤 램플 • 데미스 하사비스 • 데이비드 레거 • 데이비드 클렘 • 번트 뵈르니치 • 사이러스 호데스 • 샨샨 웡 • 아르튀르 멘슈 • 아서 멘쉬 • 안젤로 달리 • 알베르토 바르가라 • 앨런 튜링 • 얀 르쿤 • 에마드 모스타크 • 위르겐 슈미트후버 • 크리스티안 라포르테 • 클레멘트 딜랑크 • 테우보 코호넨 • 티모시 라크로아 기타 다니엘 흄 • 도르 스쿨러 • 리오르 울프 • 마크 슈뮬레비치 • 암논 샤슈아 • 프레드 알메이다 위키 : 인공지능, 개발, 자동차, 교통, 지역, 지도, 산업, 기업, 단체, 업무, 생활, 쇼핑, 블록체인, 암호화폐, 인물, 행사, 일반