Имитация разума: какие перспективы есть у искусственного интеллекта и в чем его опасность

19 марта 2023, 07:17

Технологическая независимость и экономическая безопасность России — наша общая цель. Об этом заявил вице-премьер правительства РФ Дмитрий Чернышенко. Он отметил, что около 80 процентов существующих зарубежных решений сегодня можно заменить отечественными аналогами. А большое значение в эффективной цифровой трансформации имеет развитость технологий искусственного интеллекта. Корреспондент «Вечерней Москвы» узнал, какие перспективы есть у ИИ и в чем его опасность.

Имитация разума: какие перспективы есть у искусственного интеллекта и в чем его опасность — © Вечерняя Москва

Одно из самых актуальных направлений в технологиях искусственного интеллекта — нейронные сети, рассказывает главный инженер по разработке крупной финтех-компании Дмитрий Бородин.

— Своим строением любая нейронная сеть имитирует работу человеческой нервной системы: самостоятельно обучается и корректирует ошибки, а на основе накопленного опыта с каждым разом лучше выполняет свою работу, — отмечает Бородин. — Как и нервная система в человеческом организме, нейросеть состоит из множества процессоров, они тоже соединены в объемную систему. Они способны выполнять сложные задачи по сбору, обработке и созданию новой информации.

Универсальные «сотрудники»

Сами нейросети позволяют ускорить процесс анализа большого количества данных, например, мониторить предпочтения клиентов, рыночные тенденции. Эти функции помогают бизнесу принимать решения, разрабатывать новые продукты. Об этом рассказывает руководитель направления разработки чат-ботов и голосовых роботов ИТ-компании Роман Милованов.

— Кроме того, нейросети автоматизируют рутинные процессы, сокращая временные затраты персонала, и позволяют персонализировать маркетинговые предложения на основе данных о каждом пользователе и его предпочтениях, — отметил Роман Милованов. — Нейросети используются и в создании чат-ботов, которые оптимизируют процессы внешней и внутренней коммуникации. Технология позволяет чат-ботам и голосовым ассистентам распознавать и понимать смысл сообщений пользователя.

Такие голосовые помощники могут проводить консультации и опросы среди клиентов, принимать заявки и заказы, подтверждать статус и запись, управлять различными услугами компании.

Чат-бот ChatGPT предсказал будущее российской экономики. Можно ли верить прогнозу нейросети

Возможности нейросетей безграничны и применимы во всех отраслях экономики: от торговли до логистики — везде, где требуются сбор и анализ информации, распознавание и классификация объектов.

— Основной экономический эффект для бизнеса заключается в возможности быстро обрабатывать до 96 процентов входящих запросов от клиентов, — рассказал Роман Милованов. — Помимо этого, с помощью искусственного интеллекта можно заместить часть операторов кол-центра и снизить его нагрузку до 40 процентов. В результате центры будут работать круглосуточно, смогут принимать большее количество обращений и тем самым масштабировать бизнес.

Роман Милованов отметил, что ежегодно глобальный рынок программного обеспечения для искусственного интеллекта увеличивается в среднем на 154 процента, и к 2025 году он может составить более чем 22 миллиарда долларов.

— Нейросети будут и дальше пользоваться спросом у представителей бизнеса. Они сокращают риски ошибок из-за человеческого фактора, могут работать круглосуточно в любых условиях. Например, системы интеллектуальной видеоаналитики на промышленных объектах позволяют автоматически мониторить соблюдение техники безопасности труда, промбезопасности и мгновенно передавать сигнал в случае их нарушений, — заявил Роман Милованов.

Отечественные новинки

Использование нейронных сетей продолжает набирать обороты и в России, так как все больше компаний и исследовательских институтов применяют этот мощный инструмент для решения целого ряда задач, добавил Дмитрий Бородин.

— В качестве примера хочется выделить Kandinsky 2.0. Это графическая модель, которая позволяет создавать красочные изображения на основе текстового описания на русском языке, — рассказал эксперт. — Еще существует проект «Балабоба» — генератор фраз и предложений на основе языковой модели. Основу для сервиса компания использует в работе умной колонки и в поисковике. «Балабоба» умеет «дописывать» предложение, ориентируясь на его стиль, создает шутки, инструкции и даже рецепты.

В качестве дополнительных примеров Дмитрий Бородин привел отечественные системы с использованием нейросетей для обеспечения безопасности и контроля. Например, разработки, которые позволяют анализировать видеопотоки в наземном транспорте и метро в реальном времени, распознавать лица людей, мониторить дорожное движение. Одной из самых популярных нейросетей подобного рода стала FindFace, созданная в 2016 году

— Нейронные сети можно научить распознавать лица в видеопотоках в реальном времени. Это используется для предотвращения преступлений, — добавил Бородин.

Помимо этого, ИИ стал частью современной системы здравоохранения.

— Благодаря новейшим системам визуализации российские врачи могут с большей точностью диагностировать и лечить широкий спектр онкологических и других заболеваний, — отметил Дмитрий Бородин.

Проблемы использования

По словам Бородина, у нейросетей есть свои недостатки, их использование может даже привести к опасности.

— Нейронные сети иногда могут давать неверные прогнозы, если они обучены на предвзятых данных. Эта проблема была продемонстрирована в исследовании московских ученых, которые обнаружили, что нейронная сеть, обученная на необъективных данных, значительно менее точно предсказывала исходы судебных дел в России, — сообщил Бородин. — Еще нейронные сети могут быть уязвимы для таких атак, когда злоумышленники манипулируют входными данными в сеть, чтобы заставить ее давать ошибочные прогнозы. Например, атака противника на нейронную сеть, управляющую беспилотным автомобилем, может привести к тому, что машина будет принимать опасные для людей решения.

Эксперт добавил, что нейронные сети сложно интерпретировать и понять, что затрудняет оценку их процесса принятия решений. Это может привести к недоверию к прогнозам, сделанным сетью, особенно в чувствительных областях, таких как медицинские диагнозы или уголовные расследования.

— Из минусов нейросетей можно выделить то, что они иногда могут подстраиваться под обучающие данные, а это означает, что они становятся слишком специализированными и плохо работают с новой информацией. Это может привести к тому, что сеть будет делать прогнозы, далекие от истины, — добавил Дмитрий Бородин. — Однако основная проблема искусственного интеллекта — непредвиденные последствия его использования, особенно в сложных системах. Например, нейронная сеть, управляющая финансовой системой, может принимать решения, фатальные для ее стабильности.

Также Дмитрий Бородин заявил, что из-за нейросетей могут возникнуть проблемы с конфиденциальностью и отсутствием прозрачности. Если нейронная сеть обучается на данных, которые были получены неэтичными способами, прогнозы, сделанные ею, могут быть незаконными.

Замена человеку?

В истории применения искусственного интеллекта уже были прецеденты, когда его использование ставилось под сомнение, подчеркивает Дмитрий Бородин.

— За последние несколько лет нейросети наделали много шума в средствах массовой информации. Так, в августе 2022 года художник в соавторстве с нейросетью Midjourney выиграл конкурс работ, что поставило под вопрос этичность использования нейросетей в подобных целях, — рассказал Дмитрий Бородин. — В январе 2023 года всемирно известная нейронная сеть ChatGPT позволила студентам отечественных университетов защищать дипломы по специальности, что поставило качество проверки научных работ под вопрос. Последовали заявления о необходимости реформирования образовательного процесса с учетом новых технологий.

Бородин отметил, что ответ на вопрос о том, заменит ли нейросеть сотрудников на рабочих местах, неоднозначный.

— Можно предположить, что уже в ближайшем будущем профессионалы интегрируют нейросети в свою рутинную работу в качестве помощников, а не будут воспринимать их как конкурентов, — рассказал Дмитрий Бородин. — Среди этих специальностей можно выделить творческие профессии, такие как художник, графический дизайнер, и образовательные специальности. А еще технические профессии: программист, аналитик, специалист в финансовой сфере, например, финансовый консультант, бухгалтер.

Настройка работы

Несмотря на большой набор недостатков нейросетей, разработчики и пользователи способны направить взаимодействие с ними в мирное и безопасное русло.

— Для каждой из вышеописанных проблем существует свой набор рекомендаций, позволяющий минимизировать риски при разработке и использовании нейросетей, — объяснил Бородин. — Любая нейронная сеть обучается на различных данных из реального мира, поэтому для того, чтобы избежать предвзятости решений, необходима проверка данных. Это поможет избежать предубеждений, связанных с дискриминацией кого-либо.

Еще одним методом Дмитрий Бородин назвал регуляризацию. Под ней понимается процесс добавления некоторых ограничений в работу сети с последующим доведением их до пользователей.

— Люди же должны понимать, какую конкретную задачу решает та или иная нейросеть, и быть готовыми к тому, что выход за установленные рамки приведет к некорректным результатам, — сообщил Дмитрий Бородин. — Необходима и защита данных от переобучения нейросети злоумышленниками. А проверенные, специализированные библиотеки помогут загрузить в сеть исключительно достоверную информацию, выработать у нее правильные модели поведения. И конечно же, необходим постоянный мониторинг работы искусственного интеллекта, чтобы корректировать возможные ошибки.

Правила безопасности

Также эксперт подчеркнул, что пользователям стоит придерживаться определенных правил при работе с нейросетями.

— Люди сами должны оценить степень риска, связанного с использованием нейронных сетей в конкретных ситуациях, и согласиться на них или отказаться. При этом стоит протестировать модель на реальных данных и убедиться в ее надежности, — добавил Дмитрий Бородин. — Чтобы избежать нежелательных эффектов, надо понимать, как работает модель и какие признаки она использует для принятия решений.

Дмитрий Бородин советует постоянно мониторить работу модели и оценивать ее результаты. Это нужно для того, чтобы можно было вовремя выявить и исправить возникшие проблемы.

— Чтобы избежать проблем с конфиденциальностью, существует еще несколько мер, например, шифрование всех входных данных и выходных результатов перед использованием в нейросети, — рассказал Дмитрий Бородин. — Применение искусственного интеллекта должно быть ограниченным и доступным только авторизованным пользователям. При этом необходимо регулярно отслеживать доступ к данным и выявлять несанкционированные попытки доступа.

Дмитрий Бородин добавил, что все ненужные данные должны быть удалены перед использованием нейросети, чтобы не мешать ее работе.

СПРАВКА

Искусственный интеллект — это имитация процессов человеческого интеллекта машинами, особенно компьютерными системами. Приложения ИИ включают: экспертные системы, обработку информации на естественном языке, распознавание речи и машинное зрение. Программирование ИИ фокусируется на трех навыках: обучении, рассуждении и самокоррекции.

ТОП–3

ИСТОРИЯ

Впервые создать модель искусственного интеллекта удалось английскому математику Алану Тьюрингу. Он разработал «тест Тьюринга», согласно которому если вычислительная машина в состоянии поддерживать разговор с человеком, причем так, что собеседник не в состоянии распознать, что говорит с компьютером, то машину можно признать обладающей интеллектом. ИИ как отрасль науки увидел свет в 1956 году, на летнем семинаре в Дартмут-колледже, расположенном в США. Его организовали четверо американских ученых: Джон Маккарти, Марвин Мински, Натаниэль Рочестер и Клод Шеннон. В дальнейшем усовершенствования позволили разработать алгоритмы машинного обучения, с помощью которых компьютеры смогли накапливать знания и автоматически перепрограммироваться на основе собственного опыта. Однако уже в 1990-х ИИ стали объединять с робототехникой и интерфейсом, что предполагалось развивать с целью создания интеллектуальных агентов, имеющих чувства и эмоции. Развитие искусственного интеллекта привело к тому, что в 1997 году компьютер впервые смог победить в игре в шахматы чемпиона мира Гарри Каспарова.

Сила поверхностного взаимодействия

Данила Медведев, футуролог:

— Проверки современных нейросетей показали, что они не предназначены для того, чтобы думать, а когда мы начинаем проверять их на ошибки фактические и логические, то они показывают уровень не очень адекватного ребенка с паранойей. Это если смотреть с точки зрения качества мышления. И рассуждать, что нейросети сейчас заменят людей, как минимум некорректно. Это возможно только в очень долгосрочной перспективе.

Однако для этого нам нужен десяток других подобных масштабных и прорывных технологий, разработка которых занимает время, может понадобиться и 50 лет непрерывного научно-технического прогресса, чтобы фундаментальная наука в области ИИ получала постоянное финансирование и активно развивалась. Я имею в виду и математику, и психологию, и другие науки. Это позволит, для начала, лучше изучить человеческий мозг, чтобы в дальнейшем создать искусственный и наделить его интеллектом. В таком случае к 2070 году можно взять и объединить все нейросети и создать из них нечто единое и мыслящее не хуже человека.

Однако никто не гарантирует человечеству 50 лет без кризисов. И это помимо проблем с общим падением уровня образования и частого использования интернета, который не помогает накапливать знания, а заставляет людей глупеть. С возникновением нейросетей у нас появилось еще больше бестолковых существ. ИИ лишь оголил проблему упрощения жизни. Если человек не думает головой, ему не важно, думает ли его собеседник. В дальнейшем люди и нейросети тоже будут взаимодействовать поверхностно, и ситуация в ближайшем будущем резко не изменится.