Потенциальная угроза искусственного интеллекта возникает время от времени, но насколько серьезно к ней следует относиться, зависит от того, кого вы спросите.
Илон Маск, генеральный директор Tesla и SpaceX, считает, что искусственный интеллект опаснее Северной Кореи, в то время как другие отвергают угрозу как преувеличенную. Собственный соучредитель DeepMind однажды назвал такие опасения «необоснованной шумихой от людей, которые умны в своих областях, но не работают в области ИИ», но, по крайней мере, кажется, вопросы для рассмотрения о том, как мы реализуем это в обществе.
Теперь Google, которая сама владеет вышеупомянутым DeepMind, внесла некоторую ясность в свои собственные правила исследования ИИ. А сообщение в блоге со стола генерального директора Сундара Пичаи стремится успокоить тех, кто опасается, что Google падает в парк Юрского периода ловушка - они рассматривают и то, что можно и нужно сделать.
«То, как будет разрабатываться и использоваться ИИ, окажет значительное влияние на общество на долгие годы», — пишет Пичаи. «Как лидер в области искусственного интеллекта, мы чувствуем глубокую ответственность за то, чтобы сделать все правильно. Итак, сегодня мы объявляем о семи принципах, которыми мы будем руководствоваться в своей работе. Это не теоретические концепции; это конкретные стандарты, которые будут активно управлять нашими исследованиями и разработкой продуктов и будут влиять на наши деловые решения».
Для краткости это семь заголовков, хотя Пичаи более подробно останавливается на каждом из них. в блоге.
- Быть социально полезным
- Избегайте создания или усиления несправедливой предвзятости
- Быть построенным и проверенным на безопасность
- Быть ответственным перед людьми
- Включить принципы дизайна конфиденциальности
- Поддерживать высокие стандарты научного совершенства
- Быть доступным для использования в соответствии с этими принципами
С первого взгляда вы можете заметить, что это звучит немного банально, хотя, как я уже сказал, он более подробно рассказывает о самом блоге. Тем не менее, эти правила по-прежнему оставляют много места для индивидуальной интерпретации: например, то, что является «высоким стандартом» научного совершенства, будет варьироваться от человека к человеку. Это напоминает оригинальный девиз Google: «Не будь злым». который в конечном итоге был исключен несколько лет назад, и, скорее всего, не потому, что он сдерживал планы мирового господства, а потому, что это был слишком субъективный принцип для управления многомиллиардной компанией.
Смотрите связанные
Однако есть несколько конкретных обязательств после завершения первоначального списка, и здесь все становится интереснее. Пичаи уверяет читателей, что компания не будет использовать технологию искусственного интеллекта, которая наносит общий вред, особенно оружия; технологии, нарушающие международное право и права человека; и «технологии, которые собирают или используют информацию для наблюдения, нарушая международно признанные нормы».
Это важно, но для многих этого будет недостаточно, поскольку многие сотрудники Google глубоко недовольны этим. спорная работа компании Project Maven с армией США. Google объявила, что не будет продлевать контракт, но Пичаи подчеркнул, что правила для ИИ не помешают компании в будущем работать с военными над небоевыми работа. «Мы хотим четко заявить, что, хотя мы не разрабатываем ИИ для использования в оружии, мы продолжим нашу работу с правительствами и военными во многих других областях», — пишет Пичаи. «К ним относятся кибербезопасность, обучение, набор в армию, здравоохранение ветеранов и поисково-спасательные операции».
Успокоит ли это нервы тех, кто боится будущего ИИ? Вероятно, нет, но это хорошее начало разговора для отрасли в целом от компании размером с Google, которая уже активно участвует, от Google Assistant до медицинские приложения.
«Этот подход согласуется с ценностями, изложенными в нашем первоначальном Письме основателей еще в 2004 году», — заключает Пичаи. «Там мы ясно заявили о своем намерении ориентироваться на долгосрочную перспективу, даже если это означает принятие краткосрочных компромиссов. Мы говорили это тогда и верим в это сейчас».
