우리처럼 지난 몇 달 동안 로봇공학 뉴스를 면밀히 관찰해 왔다면 다소 걱정스러운 추세를 발견했을 수도 있습니다. 아직 읽지 않았다면 다음 헤드라인을 확인하세요.
세상에서 가장 화난 로봇 개발 중
카타나를 휘두르는 로봇이 사무라이 마스터와 대결합니다.
로봇 치타는 빠른 속도로 달리고 장애물을 뛰어넘을 수 있습니다.
우리가 생각하는 것을 당신도 생각하고 있나요?
지난 몇 달 동안 과학자들은 분노를 시뮬레이션하는 로봇을 개발해 왔습니다. 칼을 든 악마 로봇; 매우 민첩한 로봇. 우리는 걱정해야 합니까? 아니면 모든 기술 발전에 대한 로봇의 종말을 일종의 저널리즘 진드기로 유쾌하게 예측해야 합니까?
이에 대한 직접적인 대답은 없으며 과학계에서도 의견이 분분하지만 위협은 확실히 것 같다 10년 전보다 더 현실적이다. 1990년대에 이것이 우리 대부분이 학습 로봇에 가장 근접했다는 사실을 잊지 마세요.
그러나 오늘날 서구 세계의 대다수는 적절한 프로그래밍을 통해 기회가 있을 때마다 자신을 능가할 수 있는 컴퓨터를 주머니에 갖고 있습니다.
“인공지능에 대한 작업은 1950년대부터 진행되어 왔지만, 초기에는 통제력 상실에 대한 심각한 우려가 사실상 존재하지 않았습니다.”
이 위협은 유명 인사들이 주목을 끌 만큼 충분히 심각한 것으로 간주되었습니다. 올해 초, 공개 서한 기계가 인류를 덮칠 위험이 있음을 인정하고 안전 장치 마련을 촉구했습니다. "우리는 점점 더 능력이 향상되는 AI 시스템이 강력하고 유익하다는 것을 보장하기 위한 확장된 연구를 권장합니다. 우리의 AI 시스템은 우리가 원하는 작업을 수행해야 합니다." 로봇 공학 전문가, MIT 교수, Microsoft 및 IBM의 전문가들이 포함된 확고한(혹은 냉소주의에 따라 모호한) 충분한 정서 서명자.
빌 게이츠, 엘론 머스크 그리고 스티븐 호킹 모두 AI 개발에 대해 의구심을 표명했습니다. 실제로 후자의 두 사람도 공개 서한의 공동 서명자였습니다.
로봇 감각에 대한 두려움이 우리에게 생겼다고 생각한다면 당신은 혼자가 아닙니다. 인공지능에 대한 연구는 1950년대부터 진행되어 왔지만 통제에 대한 우려가 크다. 빠져나가는 현상은 초기에는 사실상 존재하지 않았으며 최근 들어서야 가속화되고 있습니다. 개월.
옥스포드 대학의 미래학 전문가 앤더스 샌드버그(Anders Sandberg)는 다음과 같이 말했습니다. Reddit Q&A에서 설명합니다., 이것은 부분적으로 로봇이 그다지 위협적이지 않을 정도로 원시적이던 당시 전체 개념의 괴상함 때문이었습니다.위험이 '이상'할수록 이를 연구하는 것이 더 당혹스럽습니다. 하지만 그것이 정말로 확률이 너무 낮거나 일관되지 않아서 볼 가치가 없는지 알아낼 수 있는 것은 이상한 것들을 관찰하는 것뿐입니다. 더 많은 것, 또는 숨겨진 실제 문제.” 즉, SF 비유라고 해서 반드시 무시해야 한다는 의미는 아닙니다. 손.
이러한 당혹감은 킬러 로봇이 우리를 쓰러뜨리려고 하는 상황에 처해 있다면 우리는 그 로봇을 다시 끌 수 있을 것이라는 약간 순진한 믿음으로 인해 더욱 가중됩니다. 저자로서 초지능: 경로, 위험, 전략 Nick Bostrom 교수는 TED 강연에서 반드시 그런 것은 아니라고 말합니다.
다음과 유사한 예를 사용하여 클립 최대화 장치, Bostrom은 인간을 행복하게 만드는 임무를 맡은 로봇이 원하는 미소를 강요하는 가장 효율적인 방법은 전극을 사용하는 것이라고 추론하는 시나리오를 상상합니다. Bostrom은 “컴퓨터가 사람들의 얼굴에 전극을 붙이기 시작하면 그냥 꺼버리면 된다고 말할 수도 있습니다.”라고 주장했습니다. "우리가 인터넷에 대한 끄기 스위치가 어디에 있는지와 같이 시스템에 의존하게 된다면 이 작업이 반드시 그렇게 쉬운 것은 아닙니다."
“침팬지는 왜 인류의 스위치를 끄지 않았습니까? 아니면 네안데르탈인? 그들은 확실히 이유가 있었습니다. 그 이유는 우리가 지능적인 적이기 때문입니다. 우리는 위협을 예측하고 그에 맞춰 계획을 세울 수 있습니다. 하지만 초지능 에이전트도 그럴 수 있고 그 분야에서는 우리보다 훨씬 더 나을 것입니다.”
의심할 바 없이 주의를 촉구하는 사람들이 있는 반면, 다른 사람들은 위협을 상상적이거나 과장된 것으로 일축합니다. 업계에서 일하기 – 기득권의 위험 신호로부터 전문성에 대한 위안을 주는 확신을 분리하기 어렵게 만드는 것 이해.
Google 최초의 딥 러닝 팀을 창설한 AI 베테랑 Andrew Ng는 지능과 감각 사이의 좌절스러운 융합을 강조하고 싶어합니다.컴퓨터는 더욱 지능화되고 있으며 이는 자율주행차, 음성 인식 시스템 또는 검색 엔진에 유용합니다. 그것이 바로 지능이다” Ng는 Fusion에게 설명했습니다.. "하지만 감각과 의식은 나와 이야기를 나누는 대부분의 사람들이 우리가 가고 있다고 생각하는 것이 아닙니다."
“나는 화성의 인구 과잉에 맞서 싸우지 않는 것과 같은 이유로 AI가 악으로 변하는 것을 막는 일을 하지 않습니다. 지금으로부터 수백 년 후, 우리가 화성을 식민지화하기를 희망한다면 인구 과잉은 심각한 문제가 될 수 있으며 우리는 이를 해결해야 할 것입니다.”
UWE 브리스톨 전자공학 교수 Alan Winfield 가디언에 글을 쓰고 있다, 또한 모든 위협을 장기적으로 볼 수 있습니다. “만약에 우리는 인간과 동등한 AI를 구축하는 데 성공했으며 만약에 AI는 자신의 작동 방식을 완전히 이해하고 있으며, 만약에 그런 다음 자체 개선에 성공하여 초지능 AI를 생산합니다. 만약에 슈퍼 AI가 우발적으로든 악의적으로든 리소스를 소비하기 시작합니다. 만약에 플러그를 뽑지 못하면 문제가 생길 수도 있습니다. 위험은 불가능하지는 않지만 거의 없습니다.”
“이 전문가들이 까다로워 보인다면 이해할 수 있습니다. 그들은 개인적으로 위험이 있다고 판단되는 작업을 수행하지 않습니다. 하지만 다른 사람들을 대변할 수 있습니까?”
Google이 소유한 DeepMind AI 연구 회사의 공동 창업자인 Demis Hassabis가 최신호에서 드물게 인터뷰를 진행했습니다. 열광한 AI의 미래에 대한 우려는 "자신의 영역에서는 똑똑하지만 AI 분야에서는 일하지 않는 사람들의 근거 없는 과대광고"라고 일축합니다.
"이들은 실제로 무언가를 만들지 않는 사람들입니다. 따라서 그들은 이러한 [기술]이 무엇을 할 수 있는지에 대한 지식이 거의 없이 철학적, 공상 과학적인 걱정으로 이야기하고 있습니다.''
"물론 우리는 그것을 멈출 수 있습니다. 우리는 이런 것들을 설계하고 있습니다. 저는 스티븐 호킹에게 블랙홀에 관해 강의하려는 의도는 없습니다. 저는 지켜보았습니다. 인터스텔라 하지만 나는 언론에 거만하게 이야기해야 할 만큼 흑체 방사선에 대해서는 알지 못합니다.”
이들 전문가들이 까칠한 면이 있는 것처럼 보인다면(그리고 각 인터뷰 글에는 "한숨을 쉬다", "지치다"와 같은 문구가 삽입되어 있음) 이해할 수 있습니다. 그들은 개인적으로 위험이 있다고 판단되는 작업을 수행하고 있지 않습니다. 하지만 다른 사람들을 대변할 수 있습니까? 그리고 여기에 약간의 오만함이 있을 수도 있나요? 객관적일 때는 어렵다. 당신의 비판받는 인생의 일.
틀림없이 그것은 여기서 가장 큰 위험입니다. 샌드버그로서 그의 Reddit 채팅에서 결론을 내렸습니다., 과신의 요소가 가장 큰 적이 될 수 있습니다.결국 대부분의 로봇은 넘어지지 않기 힘든데… 그것을 만들기 위해 하루를 보내다 보면 방의 한쪽 끝에서 다음 끝으로 이동했는데 실패하면 로봇을 상상하기 어렵습니다. 반란."
“합성생물학에서는 많은 사람들이 자신들이 세상을 바꿀 것이라고 생각하는 것 같습니다. 그러나 많은 사람들은 또한 자신의 유기체가 완벽하게 안전하다고 생각합니다. 현재의, 세상을 바꾸지 않는 유기체. 물론 이것은 실수입니다. 세상을 바꿀 수 있는 것은 무엇이든 위험할 수 있습니다.”
그렇다면 우리는 매일 AI로 작업하는 전문가를 신뢰합니까, 아니면 개발 속도에 불안하게 뒤섞이는 덜 전문적인 지식인을 신뢰합니까? 이전에 한 저널리즘 틱에 참여하기를 거부한 후, 저는 또 다른 시도와 테스트를 거친 것으로 넘어갈 것입니다. 단언하기에는 너무 이르지만, 강화된 조사는 로봇이 결국 우리를 죽이게 된다면 적어도 그것을 볼 수 있다는 것을 의미해야 합니다. 오는.
이미지: 킬러 로봇을 멈추기 위한 캠페인 그리고 페니리 헤레라 크리에이티브 커먼즈에 따라 사용됨
