Дети обожают своих новых роботизированных родственников.
Миллионы американских семей покупают автоматических голосовых ассистентов, чтобы те отключали им свет, заказывали пиццу и выдавали сеансы в кинотеатрах, дети радостно используют гаджеты для того, чтобы разрешать споры за ужином, искать ответы на домашнюю работу и развлекать оставшихся с ночёвкой друзей.
Многие родители удивляются и интересуются тем, как эти бестелесные всезнающие голоса – Amazon Alexa, Google Home, Microsoft Cortana – влияют на поведение их детей, делая их более любознательными, но иногда и менее вежливыми.
Всего за два года технологии перегнали все маркетинговые обещания. Люди с ограниченными возможностями используют голосовых ассистентов для управления домом, заказа продуктов и прослушивания книг. Ухаживающие за престарелыми сёстры говорят, что эти устройства помогают при деменции, напоминая, какой сегодня день или когда принимать лекарства.
Для детей потенциал изменяющих их взаимодействий такой же существенный, как дома, так и в школе. Психологи, технологи и лингвисты только начинают исследовать возможный вред от окружения детей устройствами с ИИ, особенно в те периоды, когда дети проходят важные этапы социального и языкового развития.
13-летний Эшер Лабович и его 10-летняя сестра Эмерсон Лабович играются с семейным помощником Alexa, в то время как за ними наблюдает их мать.
«Для меня самый большой вопрос — как они реагируют и обходятся с этой нечеловеческой сущностью», – говорит Сандра Калверт, психолог из Джорджтаунского университета и директор детского центра цифровых медиа. «И как в результате это влияет на динамику семья и социальное взаимодействие с другими людьми?»
Ожидается, что в этом году будет продано 25 миллионов голосовых помощников по цене от $40 до $180 – по сравнению с проданными 1,7 млн в 2015 году – и это уже может серьёзно повлиять даже на маленьких детей.
Гигант индустрии игрушек Mattel недавно объявил о планирующемся этим летом выходе Aristotle, следящего за ребёнком устройства (видео-няни), которое «успокаивает, обучает и развлекает», используя ИИ от Microsoft. Вырастая, дети смогут задавать или отвечать на вопросы. Компания говорит, что «Aristotle специально разрабатывался так, чтобы расти вместе с ребёнком».
Сторонники технологий говорят, что дети обычно учатся получать информацию при помощи доминирующей на тот момент технологии – сначала был каталог библиотечных карточек, потом Google, потом краткие диалоги с дружественными и всезнающими голосами. Но что, если эти устройства уведут детей, уже прилипших к экранам, ещё дальше от ситуаций, в которых они обучаются важным межличностным навыкам?
Непонятно, заботит ли вообще этот вопрос компании, занимающиеся этими вещами.
Из Amazon на запрос комментария для этой статьи ничего не ответили. Представитель новой организации Partnership for AI, включающей Google, Amazon, Microsoft и другие компании, работающие над голосовыми помощниками, сообщил, что на этот вопрос никто не может ответить.
«У этих устройств нет эмоционального интеллекта», – говорит Элисон Друин, профессор из Мэрилендского университета, изучающая использование технологий детьми. «Их интеллект фактологический».
Лабовичи за кухонным столом; Alexa на переднем плане. «Мы любим задавать ей много случайных вопросов», – говорит об устройстве Эмерсон.
Дети явно наслаждаются компанией этих устройств и отзываются о них как о членах семьи.
«Мы любим задавать ей много случайных вопросов», – говорит Эмерсон Лабович, пятиклассница из г. Бесезда, шт. Мэриленд, надоедающая устройству на пару со своим старшим братом Эшером.
Этой зимой Эмерсон спрашивала её почти каждый день, чтобы та помогла отсчитывать количество дней, оставшихся до поездки в развлекательный парк «The Wizarding World of Harry Potter» во Флориде.
«А ещё она умеет читать рэп и рифмовать», – говорит Эмерсон.
Сегодняшние дети будут воспитаны ИИ примерно так же, как их дедушки и бабушки воспитывались новыми устройствами под названием «телевизоры». Но с телевизором нельзя было поговорить.
Кен Ярмош, 36-летний разработчик приложений и основатель Savvy Apps из Северной Виргинии, установил в своём доме множество голосовых помощников, включая модели из Google и Amazon. (The Washington Post принадлежит основателю Amazon Джеффри П. Безосу, чьё второе имя – Престон, если верить Alexa).
2-летний сын Ярмоша был так очарован Alexa, что пытается разговаривать с подстаканниками и другими цилиндрическими объектами, похожими на устройство от Amazon. А его 5-летний сын, сравнивая двух цифровых ассистентов, решил, что Google знает его лучше.
«Alexa недостаточно умная для меня», – говорит он, задавая случайные вопросы, на которые его родители не могут ответить, типа, сколько миль до Китая (Google говорит, что «До Китая 7248 миль по прямой»).
Оценивая таким образом устройство, включённое в розетку, сын Ярноша антропоморфирует его – то есть, как с удовольствием объясняет Alexa, «приписывает чему-либо человеческие свойства». Калверт говорит, что люди часто этим грешат. Мы делаем это в отношении собак, одевая их в костюмы на Хэллоуин. Мы даём имена лодкам. А когда мы встречаем роботов, мы – особенно дети – относимся к ним, почти как к равным.
В 2012 году исследователи из Вашингтонского университета опубликовали результаты исследования, включающего 90 детей, взаимодействующих с роботом Robovie, размером с человека. Большинство детей посчитало, что у Robovie есть «настроения» и что он – «социальное существо». Когда Robovie поставили в шкаф, больше половины детей посчитали это нечестным. Сходная эмоциональная связь возникает с Alexa и другими ассистентами – даже у родителей.
«Оно однозначно становится частью нашей жизни», – говорит мать Эмерсона, Лора Лабович, и поправляется: «Она уже часть нашей жизни».
По словам Друин, проблема в том, что эмоциональная связь приводит к ожиданиям у детей, которые устройства не могут оправдать, ведь их создавали не для этого. Это приводит к замешательству, разочарованию и даже изменению того, как дети говорят и взаимодействуют со взрослыми.
Сын Ярмоша думал, что Alexa его не понимает, но это алгоритмы не смогли распознать его голос или то, как дети формулируют вопросы. Учителя, вводящие эти устройства в своих классах и библиотеках, встречались с той же проблемой.
«Если Alexa не понимает вопрос, это её вина, или вина вопроса?» – говорит Гвинет Джонс, библиотекарь, использующий устройство от Amazon в средней школе Мюррей Хил в Лауреле. «Люди не всегда смогут понять, что говорят дети, поэтому важно, чтобы они учились задавать правильные вопросы».
Наоми С. Бэрон, лингвист из Американского университета, изучающая цифровое общение, принадлежит к тем, кто считает, подтолкнут ли устройства, пусть даже со временем становящиеся умнее, детей к предпочтению простого языка и простых запросов вместо использования нюансов и сложных вопросов.
Если спросить Alexa: «Как задать хороший вопрос?», она ответит: «Я не смогла понять услышанный вопрос». Но она может ответить на простой его вариант: «Что такое вопрос?».
«Лингвистическое выражение, используемое для запроса информации», – говорит она.
Также существует возможность перемены того, как взрослые общаются с детьми.
Хотя у нового ассистента от Mattel будет опция, заставляющая детей говорить «пожалуйста» при запросе информации, ассистенты от Google, Amazon и прочих разработаны так, чтобы пользователи быстро и прямо могли задавать вопрос. Родители отмечают видимые перемены в своих детях.
В блогпосте от прошлого года калифорнийский венчурный инвестор писал, что его его 4-летняя дочь думала, что Alexa лучше всех в доме умеет произносить слова по буквам. «Но я боюсь, что она превращает мою дочь в стерву, – писал Хантер Уолк. – Потому что Alexa терпит плохое поведение».
Чтобы задать ей вопрос, вам нужно только сказать её имя, и затем вопрос. Без «пожалуйста». И без «спасибо» перед следующим вопросом.
«С когнитивной точки зрения я не уверен, что ребёнок поймёт, почему Alexa можно шпынять, а человека – нельзя, – писал Уолк. – По меньшей мере, она создаёт уверенность в том, что пока у тебя хорошая дикция, можно получить всё, что угодно, не пользуясь вежливостью».
Джоунс, библиотекарь, видела, как несколько человек задают вопросы одновременно. «Вы слишком напираете, – говорила она, если Alexa снова и снова повторяла, что не понимает. – Вы её сбиваете. По одному, как с человеком».
Личное, но деловое взаимоотношение нравится детям и подросткам. Родители, включая автора статьи, замечали, что вопросы, ранее задававшиеся родителям, теперь задаются помощникам, особенно про домашнее задание – как пишутся слова, математика, исторические факты.
Или взять погоду, особенно зимой. Вместо того, чтобы спросить температуру у родителей, дети идут к устройству и верят его ответу, как сущей правде.
Плюсы: никаких споров по поводу того, какая будет температура и что нужно надевать.
Минусы: дети меньше подходят к родителям, и теряют в общении.
«У взаимодействия с этими устройствами, имитирующими разговоры, может оказаться много ненамеренных последствий», – говорит Кейт Дарлинг, профессор из MIT, изучающая взаимодействие людей с роботами. «Мы пока не знаем их все».
Но большинство исследователей, учителей и родителей – и даже некоторые дети – уже соглашаются, что эти устройства нужно ставить на место, прямо как родственника-всезнайку.
Джонс, библиотекарь, иногда убирает Alexa на пару недель, чтобы её ученики не надеялись на неё слишком сильно. Ярмош, недавно запустивший проект по надзору за детскому онлайн-видео, не ставит помощников в детские комнаты. Эмерсон и её брат выбирают подход школьной площадки для игр. «Alexa, — говорят они, — ну ты и задница».