암으로 사망할 가능성이 더 높습니까, 아니면 악의적인 컴퓨터에 의해 전멸될 가능성이 더 높습니까?
아마 당신은 그런 생각을 한 적이 없을 것입니다. 하지만 스카이프의 공동 창립자 중 한 사람은 그 생각을 너무나 괴로워서 옥스브리지 연구원들과 협력하여 신기술의 실존적 위협, 즉 기술이 파괴할 가능성을 완화하기 위해 기계 초지능이 세상에 어떤 의미를 가질지 예측합니다. 인류.
기술은 공상과학 소설가들의 풍부한 상상력에서 오랫동안 위험의 원천이었지만, 이 아이디어는 연구자들과 함께 학문적 지지를 얻고 있습니다. 옥스퍼드대학교 인류미래연구소(FHI)가 새로 출범한 실존위험연구센터(CSER)의 연구원들과 합류했습니다. 나노기술, 로봇 공학, 인공 지능 및 기타 혁신의 가능한 영향을 더 광범위하게 조사하기 위해 캠브리지 대학을 방문했습니다.
개념은 간단하지만 해결책은 전혀 없습니다. 연구자들은 우리가 스스로를 능가하는 상황을 피하고, 스스로 기술을 발명할 수 있는 시스템을 만들려고 노력하고 있습니다. 인류를 "폭발"할 수 있는 것은 그것이 사악해서가 아니라 단순히 우리가 프로그래밍한 방식의 장기적인 결과를 예측할 수 없었기 때문입니다. 그것.
위험 평가
이 아이디어는 2005년부터 FHI에 의해 연구되어 왔으며 작년에 Huw Price, Bertrand Russell이 설립한 CSER에 합류했습니다. 케임브리지 대학교 철학 교수, 천문학자 마틴 리스 경, 스카이프 공동 창업자인 잔 탈린.
암이나 심장병으로 인한 사망보다 AI 사고로 사망할 확률이 더 높습니까?
이 연구소는 부분적으로 프라이스와 탈린 사이의 대화에 의해 촉발되었으며, 그 동안 후자는 다음과 같이 궁금해했습니다. "그의 비관적인 순간에", 그가 "암이나 심장병으로 인한 사망보다 AI 사고로 사망할 가능성이 더 높다면".
CSER 출시 발표는 괴상한 농담처럼 들리지만 곧 더욱 심각해졌습니다. “철학자, 과학자, 소프트웨어 엔지니어가 왔습니다. 생명공학에서 인공지능에 이르기까지 인류에게 '멸종 수준'의 위험을 초래할 수 있는 인간 기술의 발전을 다루기 위해 케임브리지에 새로운 센터를 제안하기 위해 함께 모였습니다. 지능."
환상적으로 들리지만, 세 사람과 옥스퍼드 동료들은 매우 진지합니다. 작품의 뿌리도 길다. 1965년 블레츨리 파크(Bletchley Park)에서 일했던 앨런 튜링(Alan Turing)의 친구인 어빙 굿(Irving Good)은 뉴 사이언티스트(New Scientist) 논문에서 긍정적인 시각으로 최초의 "초지능 기계"를 설명했다고 CSER은 밝혔습니다.
그는 계속해서 이 기계는 인류가 만들 '마지막 발명품'이 될 것이며, 스스로 생성하는 기계 지능이 기하급수적으로 증가하는 '지능 폭발'로 이어질 것이라고 말했습니다. 2001년 스페이스 오디세이(2001: Space Odyssey)에서 스탠리 큐브릭에게 조언을 해준 For Good은 '인간의 생존'이 이 초지능 기계의 구성에 달려 있다고 CSER 릴리스 노트에 밝혔습니다.
“장수에서 글로벌 네트워크에 이르기까지 천재적인 공학의 결과로 인류가 얻은 혜택을 부정하는 사람은 거의 없지만 일부에서는 다음과 같은 질문을 하기 시작했습니다. 인간 기술의 가속화는 굿이 주장한 것처럼 인간의 생존을 가져올 것이며, 만약 이것이 바로 우리를 종말로 몰고 갈 것입니다.”라고 CSER은 말했습니다. 엄숙하게.
단일 문제
이것의 핵심에는 일반적으로 "특이점(Singularity)"이라고 불리는 아이디어가 있습니다. 자체 기술을 만들기 시작하고 우리보다 더 발전해 어떤 일이 일어날지 예측할 수 없게 됩니다. 다음.
옥스퍼드 FHI의 창립자인 철학자 닉 보스트롬(Nick Bostrom)은 이 단어를 사용하는 것을 주저합니다. 왜냐하면 이 단어는 "다른 사람들에게 너무나 많은 것들이 숨 막힐 듯한 기대의 묶음으로 모두 합쳐져 있음"을 의미하기 때문입니다. 대신 그는 올해 초 이코노미스트(The Economist)가 주최한 컨퍼런스에서 말했듯이 단순히 '초지능(super-intelligence)'을 언급했다.
