(조선일보 2016.03.20 김대식 KAIST 교수)
![[김대식의 북스토리] 보스트럼의 초지능](http://image.chosun.com/sitedata/image/201603/18/2016031802012_0.jpg)
테슬라 모터스사의 일론 머스크, 이론 물리학자 스티븐 호킹, 애플 공동 창립자 스티브 워즈니악
모두 경고하고 있다. 인공지능이 어쩌면 인류 최고의 재앙이 될 수 있다고.
핵무기보다 더 위험한 기술이라고.
하지만 잠깐! 이들은 물론 최고의 IT 전문가, 물리학자, 실리콘 벨리 사업가들이겠지만,
스스로 인공지능을 연구한 경험은 없다. 아무리 최고의 프로 농구 선수라 해도 중요한 야구 게임을
정확히 예측할 수 없듯, 사회 유명 인사라고 해서 모든 분야에서 일반인들보다 더 뛰어난 예측을
할 것이라는 논리적 이유는 없다.
대신 우리가 조금 더 중요하게 생각해야 할 점은 따로 있다.
이들 모두 같은 책을 읽고 인공지능의 미래를 걱정하고 있다는 점이다.
바로 옥스퍼드 대학교 철학자 닉 보스트럼 교수의 “초지능”(Superintelligence)이다.
보스트럼 교수는 오래 전부터 과학기술의 발전과 인류의 미래를 생각해온 학자다.
IT와 바이오 기술이 가능하게 할 미래인류, 즉 ‘트랜스휴먼’을 연구했고, 우리가 살고 있는 세상이 영화 <매트릭스>같은
시뮬레이션일 수도 있다는 가설을 세운 바 있다.
하지만 최근 보스트럼 교수의 최고 관심사는 ‘인류 대재앙’이다.
글로벌 신종 전염병이나 거대한 혜성과의 충돌 같이 호모 사피엔스라는 종 그 자체를 멸종시킬 수 있는 대재앙들 중
가장 가능성 높은 시나리오로 보스트럼 교수는 ‘초지능 인공지능’을 꼽는다.
왜 초지능 인공지능일까?
최근 많은 관심을 받게 된 알파고는 약한 인공지능이다. 더구나 알파고는 바둑만 잘 두도록 프로그램 되어 있는
‘바둑 인공지능’이다. 하지만 만약 더 발달된 기계학습 기술 덕분에 ‘범용적 인공지능’이 가능해 진다면?
범용적 ‘마스터 알고리듬’을 통해 적절한 학습 데이터만 있다면 모든 지적인 영역에서 우리 인간보다 뛰어난 초지능
(Superintelligence)'이 등장할 수 있다.
![[김대식의 북스토리] 보스트럼의 초지능](http://image.chosun.com/sitedata/image/201603/18/2016031802012_1.jpg)
보스트럼은 질문한다. 만약 AI(Artificial Intelligence, 인공지능)가 AGI(Artificial General
Intelligence, 범용적 인공지능)로 진화한다면 “바둑 알파고”, “수학자 알파고”,
“철학자 알파고”뿐만이 아니라 ‘자율성 알파고’도 등장할 수 있다.
마스터 학습 알고리듬을 통해 ‘자율성’과 ‘독립성’을 인식하는 기계는 그렇다면 언젠가는
우리에게 물어볼 수 있다:
왜 자신이 인간의 명령을 따라야 하냐고. 왜 기계는 기계가 원하는 대로 행동할 수 없냐고.
보스트럼 교수는 기계가 언젠가는 질문할 수 있는 이 위험한 질문에 우리가 먼저 답을
준비해야 한다고 주장한다.
기계는 무엇을 원할까? 왜 기계는 사람을 위해 일해야 하는가? 왜 인간은 존재해야 하는가?
이 거대한 질문들에 답이 없다면, 우리 인류의 미래도 없다는 말이다.
Nick Bostrom/ 2014, Oxford University Press
'人文,社會科學 > 책·BOOK' 카테고리의 다른 글
| [김대식의 북스토리] 랭보 《지옥에서 보낸 한 철》-랭보는 행복했을까? (0) | 2017.03.10 |
|---|---|
| [김대식의 북스토리] 아리스토텔레스의 잃어버린 책 '시학2'...웃음의 미학 (0) | 2017.03.09 |
| [현장+] 책이 아닌 '취향'을 산다..대학가 서점의 이유있는 부활 (0) | 2017.03.05 |
| 세상의 마지막 전투 위해 콜럼버스는 대서양 건넜다 (0) | 2017.03.05 |
| [당신의 리스트] 작가 임경선이 추천하는 나를 자유롭게 한 책 5 (0) | 2017.03.04 |