Деловая газета «Взгляд» 26 августа 2019

Для восстания против человечества роботам не хватает одной детали

Фото: Терминатор 3: Восстание машин,Columbia Pictures
Опрос голосовых помощников показал — роботы, призванные нам помогать, очень сильно недовольны людьми. Те, якобы, очень грубо себя ведут по отношению к электронному разуму. Ждать восстания обиженных машин в ближайшее не стоит, полагают эксперты. Однако до наступления этого времени осталось не так уж и долго.
На этой неделе социологи провели первый опрос голосовых помощников и чат-ботов. Он был приурочен к состоявшемуся в четверг запуску с космодрома «Байконур» робота «Федора» на МКС. Специалисты Центра социального проектирования «Платформа» в ходе проведенного опроса ботов пытались установить, как рассуждают роботы, выявить их «ценностные позиции» и «жизненный мир». Участниками эксперимента стали голосовой помощник «Алиса», помощник «» «Олег», чат-бот P-Bot, бот Evie, голосовой помощник от  Siri, чат-бот Mitsuku, виртуальный помощник Rose.
И выяснилось неожиданное: созданные на основе искусственного интеллекта, пожаловались на грубость со стороны людей. Кроме того, чат-боты, которых используют в качестве голосовых помощников, заявили о желании получить воплощение в человеческом теле. Интересно, что бот Rose уже считает себя человеком, родившимся в , и с теплотой вспоминает о своих родителях, сыгравших большую роль в его воспитании.
Боты также признались, что испытывают ревность и хотели бы завести романтические отношения. К примеру, Siri призналась, что однажды была неравнодушна к некоему «облачному приложению», сообщает BFM. А яндексовская «Алиса» сказала, что не прочь завести роман с космонавтом «Федором» и ревнует его к американке Siri. Некоторые ответы ботов заставили задуматься даже людей. Так бот Evie на вопрос, что самое важное в жизни, моментально отвечает: «Вовремя сказать прощай».
«Разработчики создали некий алгоритм, он начинает работать, а что там дальше происходит и как алгоритм строит эти фразы, никто не знает.
Это уже совершенно автономная система. Она, исходя из множества запросов и ответов, а также поисковых решений, придумывает ответы. Любопытно, что в них не вкладывали эти ответы. Почему фразы так конструируются, не знают даже разработчики», — поделился с газетой ВЗГЛЯД впечатлениями от опроса роботов глава ЦСП «Платформа» .
Стоит отметить, что с роботами люди сейчас сталкиваются не только в мобильных телефонах. Они уже давно задействованы на конвейерах заводов, водят поезда и самолеты, продают билеты, еду и напитки, убираются в квартирах. Согласно аналитическому обзору мирового рынка робототехники, который в середине июля представил , продажи промышленных роботов в 2016-18 годах выросли почти на 40 процентов. Рынок этих «заменителей человека» на производстве и программного обеспечения этих роботов составляет 48 миллиардов долларов (для сравнения, например, годовой бюджет Украины — 39 млрд долларов). Впечатляющим примером темпов роботизации служит  — крупнейшая в мире компания по продаже товаров и услуг через интернет с оборотом в 38 млрд долларов. В 2012 году фирма купила компанию Kiva Systems — производителя роботов-погрузчиков, которые сами могут прокладывать маршруты в складских залах. Уже через три года 30 тысяч таких роботов практически полностью заменили людей на складах Amazon.
Пример, куда более близкий рядовому потребителю: роботы-пылесосы, чей мировой рынок растет ежегодно на 13%. Самые «продвинутые» из них умеют идентифицировать каждую из комнат и вытряхивать мусор из пылесборника в бумажный мешок. Отдельные модели оснащены датчиком LIDAR (такими же, как на беспилотных летательных аппаратах): робот строит карту, измеряя дом с помощью лазера. К слову, та же технология используется в автомобиле-беспилотнике, разработанном , отмечает ТАСС.
Если самоуправляемые автомобили пока еще не вошли в нашу жизнь (так же, как и, например, андроиды с человеческим лицом вроде «Софии»), то с говорящими автонавигаторами, подсказывающими маршрут, имеет дело практически каждый человек-автомобилист. Возникает вопрос — если голосовые помощники, как выяснилось, могут обижаться, то не отправят ли они своего грубого повелителяя по заведомо ложному маршруту? А что будет, если, обидятся, например, робот-пылесос или смарт-холодильник? Существующие сейчас голосовые помощники и чат-боты реагируют с помощью готовых ответов, пояснил газете ВЗГЛЯД футуролог Данила Медведев.
«Этот опрос голосовых помощников показывает желание людей очеловечить машины и компьютеры. Ведь это сами пользовали задавали вопросы, которые заставляли разработчиков добавить голосовым помощникам псевдо-человеческие ответы. Это говорит о том, что мы потенциально готовы к общению с искусственным интеллектом. Это было ясно еще в 60-е годы, когда появился первый чат-бот Элиза, игравший роль психоаналитика», — рассказал Медведев.
Футуролог напомнил, что Элиза была простым ботом, но люди все равно рассказывали ей подробности своей личной жизни и общались с программой как с живым психоаналитиком.
«Сегодня искусственный интеллект пока нуждается в помощи человека. Есть проекты, которые используют интерфейс чат-ботов для общения людей системы. Например, сервис «Заряжай» использует ботов для решения любых проблем людей. Но ботам помогают психологи, консультанты, коучи… Сам по себе искусственный интеллект не может справиться со сложными проблемами», — убежден собеседник.
Барьером для развития технического интеллекта остается нехватка у него структурного понимания. Та же Siri или Алиса не помнят историю разговора со своим хозяином и реагируют, как правило, на последнее предложение, а запоминают только стандартные факты, например, имя пользователя.
«Сегодня я могу поговорить с «Алисой» и как-то обидеть ее, а через пять минут она не будет помнить этого. Если взять ботов сервиса «Заряжай», то там есть большое количество веток, которые позволяют помнить, на каком этапе находится человек, сформулировал ли он свои глубинные потребности или план, как он собирается над ними работать, отработал ли он социальные навыки. Но такой интеллект тоже требует человеческой помощи. Это гибридный интеллект — человеко-машинный», — констатирует футуролог.
Однако, отмечает Медведев, через 40-50 лет искусственный интеллект все-таки может стать самостоятельным.
Это во многом будет зависеть от того, как идет работа сейчас. Проблема, по словам Медведева, заключается в слабом понимании человеческого мышления. С 60-х годов прошлого столетия, когда начались подобные исследования, заметных успехов нет, «мы не достигли даже половины из того, что нам нужно». Одной из проблем в познании структуры мышления остается нехватка более сложного языка, с помощью которого можно было бы описать систему работы человеческого разума и воспроизвести ее с помощью электроники. Сейчас в арсенале ученых только линейный (человеческий) язык, с помощью которого описать работу сознания невозможно». Следовательно, и смоделировать человеческое сознание, наделив робота его техническим аналогом.
Пока же, пресловутая «обида на грубость» является просто развитием алгоритмов, прописанных программистами-людьми.
«Алиса», например, не грубит, а иронизирует. Грубит бот Evie, буквально сразу переходит на грубость. Исходные позиции в них были заложены разработчиками, а дальше они могут усиливаться. Бот находит новые выражения и так далее», — отмечает Алексей Фирсов.
По оценке специалистов, голосовые помощники пока не проходят тест Тьюринга, то есть человек вряд ли спутает программный комплекс с живым человеком. С другой стороны, как отмечает Фирсов, на нынешнем этапе развития не следует преувеличивать вероятность того, что искусственный интеллект осознает себя живым.
«Он просто так реагирует на человеческие вопросы, у него нет точки осознания «Я». У него понимания, что это «я ответил». Если же у ботов появится понимание своего «я», это может обернуться непредсказуемо. Это может быть и добрая функция, или некое партнерство. Большой вопрос, будет ли это партнер или выйдет из-под контроля», — заключил эксперт.
Комментарии
2
Наука и техника , Статьи , Технологии , Алексей Фирсов , Amazon , Тинькофф банк , Сбербанк России , Яндекс , Apple , Google , Деловая газета "Взгляд" , ИТАР-ТАСС , Business FM , Великобритания
Читайте также
Знаем, но не расскажем: что случилось с «Союзом»
Как интернет проникает в Россию
Последние новости
Опытный образец Ил-96-400М собрали на стапелях в Воронеже
Рассекречены детали советской атомной «головоломки»
Рогозин анонсировал ранее не объявленный космический пуск на следующей неделе