Обновлять: После того, как Google представила свою систему искусственного интеллекта Duplex, позволяющую цифровому помощнику звонить в магазины и рестораны от вашего имени, возникли опасения по поводу двуличного характера этой технологии. Вводит ли ИИ в заблуждение то, что он притворяется человеком, когда человек на другом конце линии не знает, что он разговаривает с машиной?
Компания Google опубликовала заявление, в котором признала этический аргумент, возникший после ввода-вывода Google, подчеркнув «прозрачность» и пообещав, что система будет «надлежащим образом идентифицирована». Вот заявление полностью:
«Мы понимаем и ценим дискуссию вокруг Google Duplex — как мы говорили с самого начала, важна прозрачность технологии. Мы разрабатываем эту функцию со встроенным раскрытием информации и позаботимся о том, чтобы система была правильно идентифицирована. То, что мы показали на I/O, было ранней демонстрацией технологии, и мы с нетерпением ждем обратной связи по мере того, как мы превращаем это в продукт».
Как именно это «раскрытие» проявит себя, еще неизвестно, и это противоречит духу Duplex, показанному в демо; где компания стремилась продемонстрировать, насколько убедительно звучит ее ИИ, включая словесные тики. Мы будем следить за планами Google в этой области, когда этим летом начнется тестирование Duplex.
У Google теперь есть ИИ, который использует ваши данные, чтобы выдавать себя за вас по телефону, и это очень тревожит
Принимать звонки от автоматических ботов — раздражающая трата времени, но, по крайней мере, можно легко распознать искусственный голос и повесить трубку. Представьте, если бы этот голос был намного убедительнее, и представьте, если бы его использовали не только телемаркетологи — что, если бы эта убедительная имитация человека имела доступ к достаточному количеству информации о вашей жизни, чтобы притворяться ты?
Это было видение будущего, изложенное Google во время правления компании. Конференция I/O 2018. Среди множества объявлений самым впечатляющим и неприятным было добавление чего-то под названием Дуплекс Google для Google Ассистент. В серии демонстраций на сцене Google Assistant звонил малым предприятиям и организовывал действия от имени пользователя-человека, в том числе бронировал столик в ресторане и вызывал парикмахера.
ЧИТАЙТЕ СЛЕДУЮЩИЙ: Чему мы научились на Google I/O 2018
Звучало впечатляюще. ИИ не только точно и быстро реагировал на человека на линии, но и заполнял разговор «ммм» и «ааа», тем лучше, чтобы создать впечатление жизни. Хотя это были контролируемые демонстрации, ИИ удалось договориться о разговоре с небольшим указанием на то, что это был бестелесный набор алгоритмов. С инженерной точки зрения это следует приветствовать, и это показатель того, насколько Google далеко впереди, когда дело доходит до диалогового ИИ.
Однако одна из причин, по которой Google лидирует в исследованиях ИИ, заключается в его отношении к личным данным своих пользователей. Компания имеет опыт обучения своего ИИ на сомнительные данные, и, конечно же, не помогает то, что компания также стоит за крупнейшей в мире поисковой системой. Личная информация является топливом для бизнес-модели технологической компании, основанной на рекламе, но Duplex выводит использование этой информации на новый уровень — тот, который балансирует за этической чертой в "противный".
ЧИТАЙТЕ СЛЕДУЮЩИЙ: Лучшие команды Google Assistant
Смотрите связанные
Мало что было показано о Google Duplex, кроме этих сценических демонстраций, но, если это работает, как компания предполагает, то это дает возможность ИИ извлечь вашу личную информацию, чтобы выдавать себя за тебя. Это компания, которая знает, где вы были, благодаря данным геолокации, знает все, что вы искали в Интернете, и у которого есть рекламные профили о ваших потенциальных религиозных, политических и социальных перспективы. Будете ли вы чувствовать себя комфортно, когда эта информация будет звучать убедительно и будет говорить от вашего имени? Заказ столика в ресторане может быть безобидным, но что делать, если Дуплекс спустили на ваше рабочее место, в налоговую инспекцию или на вашего бывшего?
Для вызываемого человека также существует вопрос двуличия. Если Google Assistant может убедительно вести разговор, не будет ли нечестным вводить другого человека в заблуждение, заставляя его думать, что он разговаривает с живым, дышащим человеком? Это поощряет образ мышления о малых предприятиях, в котором те, кто бронирует столики или назначает встречи с парикмахерами, не более чем сами машины; не стоит времени на настоящий голос.
С другой стороны, возможно, этому бизнесу не понадобятся настоящие голоса, когда на звонки будет отвечать искусственный интеллект Google. Это будущее: бесконечная симуляция ИИ, в которой люди разговаривают друг с другом, и никто, кроме машин, не слушает.
