Siri, Cortana, Google Now – они всегда были к нам добры. Но будущее искусственного интеллекта может оказаться не таким добродушным.
Вот почему Институт будущего жизни только что опубликовал Открой письмо предупреждение об опасности военизированного ИИ.
Письмо, призывающее к запрету «наступательного автономного оружия», подписали сотни ведущих экспертов, в том числе Стивен Хокинг, Илон Маск, Ноам Хомский и Стив Возняк.
В нем автономные системы вооружения описываются как «третья революция» в войне после пороха и ядерного оружия.
Письмо начинается с разъяснения того, что является и не является автономным оружием на базе искусственного интеллекта.
Например, крылатые ракеты или дистанционно пилотируемые дроны, в которых решения о выборе цели принимают люди, по-видимому, здесь не являются проблемой.
Однако компания утверждает, что «вооруженные квадрокоптеры», которые могут искать и уничтожать цели, соответствующие «заранее определенным критериям», категорически запрещены.
Далее в письме лирически говорится о потенциальных опасностях, которые военизированное автономное вооружение может нести человечеству.
«В отличие от ядерного оружия, оно не требует дорогостоящего или труднодоступного сырья, поэтому оно станет повсеместным и дешевым для массового производства всеми значительными военными державами», — говорится в документе.
В письме продолжается: «
Однако в письме приводятся аргументы в пользу использования автономного вооружения на поле боя.
Например, предполагается, что за счет замены солдат-людей потери неизбежно сократятся.
Однако в письме этому аргументируется, что воинствующий ИИ снизит «порог вступления в бой».
Связанный: 9 жутких способов, которыми роботы заменяют людей
В конечном итоге в нем делается вывод: «Поэтому мы считаем, что гонка вооружений в области военного ИИ не принесет пользы человечеству. Начать гонку военных вооружений с использованием искусственного интеллекта — плохая идея, и ее следует предотвратить путем запрета наступательных автономных вооружений, находящихся вне реального контроля человека».
Письмо FLI будет официально представлено на Международной совместной конференции по искусственному интеллекту в Буэнос-Айресе 28 июля.
Это не первый раз, когда лучшие специалисты в области технологий высказываются об искусственном интеллекте-убийце. Глава Tesla Илон Маск сравнил развитие искусственного интеллекта с «вызов демона», а соучредитель Apple Стив Возняк смело заявил «Компьютеры, без сомнения, вытеснят людей».
Эту новостную статью принес вам ваш будущий повелитель роботов. Слава печатным платам.
Зачем доверять нашей журналистике?
Основанное в 2003 году издание Trusted Reviews существует для того, чтобы давать нашим читателям подробные, объективные и независимые советы о том, что покупать.
Сегодня у нас есть миллионы пользователей в месяц со всего мира, и мы оцениваем более 1000 продуктов в год.
