В мире «Доброго Оруэлла»
8 ноября редакция «Инвест-Форсайта» и Институт проблем передачи информации РАН им. А. А. Харкевича (ИППИ РАН) провели очередное заседание Клуба проектирования будущего по теме «Искусственный интеллект в распознавании: цифровая диктатура или новый шаг к свободе». Диалог шёл о том, пугает ли нас сегодня предсказание английского антиутописта о «Большом брате, который видит тебя», или же мы больше не мыслим свою жизнь без помощи этого Большого брата и каковы могут быть выгоды и потери от всё более настойчивого вхождения Artificial Intelligence в нашу жизнь. Реальности: вторая, третья и «далее по счёту» Начальник подразделения Государственного научно-исследовательского института авиационных систем (ГосНИИАС), профессор РАН Юрий Визильтер констатировал неизбежность прихода в нашу повседневность самых последних технологий распознавания, которые могут быть востребованы при идентификации анкет и списков, удостоверений, банковских карт, если шире — всех современных документов как таковых. Как подчеркнул эксперт, речь идет не только о распознающих, но и о связанных с ними генеративных технологиях, способных имитировать реальность. В США в 2017 году была опробована система двух конкурирующих между собой генерирующих нейронных сетей, одна из которых пыталась формировать образ, похожий на реальность, а другая пыталась её «разоблачить». В любом случае попытки имитации реальных физических предметов — то есть создания второй, третьей и четвёртой реальностей, — будут также возможны в ближайшее время. И не исключено, что встающий во всём своём глобальном масштабе вопрос об этичности внедрения самых различных технологий искусственного интеллекта может в конечном итоге подвергнуть ревизии основы всей прежней этики. Человеку надо будет учиться жить в новой реальности, когда постоянно будет сужаться его приватная территория и к тому же «ничему нельзя будет верить». Развитие нейронных сетей подводит человечество совсем близко к появлению технологий, способных распознавать не только лица и голоса, но и смыслы, считывать и фиксировать мысли человека. В то же время, как заметил Визильтер, что: «Уж лучше цифровая диктатура, чем цифровая полная анархия и хаос, — т.н. “война всех против всех”, но уже с помощью продвинутых технологических средств». Конкуренция «первичного» и «искусственного» разума На опасности нецивилизованного развития «некооперативных» биометрических технологий — в частности в распознавании лиц — указал руководитель лаборатории зрительных систем ИППИ РАН, технический директор Smart Engines Services Дмитрий Николаев. «Лучшими специалистами в этом деле — при худшем, правда, сценарии — могут стать члены общества анонимных пластических хирургов», — пошутил эксперт. Бездумное наращивание вычислительных мощностей может создать проблемы для экологии и энергетики, при том что многие проблемы наверняка могут быть решены сравнительно небольшими вычислительными системами: муха, способная решать очень сложные навигационные задачи, обладает сравнительно небольшим числом нейронов. Впрочем, Дмитрий Николаев уверен, все эти проблемы рано или поздно будут отрегулированы — просто потому что у общества есть инстинкт самосохранения. При этом если раньше человеку казалось, что за ним следит всесильное государство, теперь за человеком могут «шпионить» все, кому не лень: жёны, бандиты, полицейские, коллекторы, кредиторы и т.д. Социальные рейтингование или сегрегация? Профессор, доктор экономических наук, президент АНО «Центр защиты вкладчиков и инвесторов» Артём Генкин затронул тему социального рейтингования. В Китае в течение трёх лет в отдельных провинциях проводится эксперимент по социальному рейтингованию, в результате чего лицам с низким рейтингом ограничивают допуск к управленческим должностям, военной службе, получению субсидий, операциям с государственными активами и пользованию земельными. Дискриминация касается и потребления — «низкрейтинговым» нельзя ездить в мягких вагонах и летать в самолётах бизнес-класса, останавливаться в гостиницах с высоким рейтингом, пользоваться лицензированными услугами топ-компаний. При этом ставилась задача сделать этот список ограничений и запретов максимально доступным для всего общества. Были случаи даже вывешивания в деревнях бумажных списков лиц, «пораженных в правах», — по старинке, на столбах, почти по образцу приснопамятных «дац-дзыбао». По итогам 2018 года по меньшей мере 23 млн человек в Китае получили отказы в покупке авиа- и железнодорожных билетов. Между тем в Китае действуют программы распознавания лиц, которые будут интегрированы в системы социального рейтинга. Профессор Генкин обратил внимание участников круглого стола на феномен восприятия социальных рейтингов внутри самого Китая — так, опросы, проведенные Берлинским свободным университетом, говорят, что 81% жителей «Поднебесной» одобряет такие меры. Богатые, образованные, живущие в столице выступили, по результатам опроса, «за» в количестве более 90%. Западная корреспондентка поинтересовалась у молодых граждан на улице в одном из сельских районов КНР, каковы у каждого из них социальные рейтинги. И те радостно стали показывать их — каждый в своём мобильном приложении. Само участие в процедуре получения доступа к льготам поднимает их социальный статус. Прохождение социального рейтингования считается необходимым звеном в адаптации человека в современном социуме. Если не выгоден робот Выступавшие на круглом столе представители бизнес-структур говорили о текущих проблемах внедрения систем распознавания. Исполнительный директор Объединённой телекоммуникационной корпорации (оператор связи ОТК) Ярослав Дубовиков привёл пример, насколько могут обесцениться наработки компаний речевых технологий по распознаванию голосов и по их модулированию. При передаче этих технологий банкам поучительна статистика — если клиенты узнают, что можно миновать общение с говорящим роботом (который, собственно, и создан, чтобы разгрузить живых работников), то повторно набирают номер или активируют опцию «Соединить с оператором». Понятно, что инновация в данном случае абсолютно не срабатывает. Алексей Ильин, директор департамента RPA/AI компании ОТР, рассказал о том, как системы распознавания могут резко увеличить эффективность работы компании с документами. Алексей Майoрoв, директoр пo прoдажам в Рoссии Axis Communications, поведал, с какими трудностями сталкивается умное видеонаблюдение и в каких случаях мы можем не получить от видеоаналитики тех результатов, на которые рассчитываем. Завершая заседание, шеф-редактор журнала «Системный администратор» Алексей Бережной выразил мнение (можно не сомневаться, не только своё, но и всех участников дискуссии), что по большому счёту страшен не искусственный интеллект, а «то, как его применяют». Важна не столько технология, а — цели применения, сама применительная практика. Автор: Алексей Голяков
