Когда нейросети станут умнее человека и почему этого стоит бояться
ChatGPT и другие ИИ-боты уже некоторое время не покидают новостные заголовки: новые технологии заставляют публику рассуждать о возможностях их применения в медицине, лингвистике и других областях. Правда, некоторые также всерьез предупреждают о сингулярности — некоем «горизонте событий», который настанет, когда возможности ИИ опередят человеческий интеллект. Журнал Popular Mechanics разобрался в вопросе.
Что такое сингулярность
Сингулярность — это теоретический концепт, согласно которому машинный интеллект рано или поздно превзойдет возможности человеческого. Стивен Хокинг, Билл Гейтс и многие другие научные визионеры уже давно рассуждают об этой идее. Под «машинным интеллектом» подразумевается продвинутая электроника, которая позволяет устройству осознанно взаимодействовать со своим окружением.
О сингулярности впервые заговорили еще в середине XX века. Английский математик Алан Тьюринг, считающийся отцом теоретических компьютерных наук и искусственного интеллекта, описал, в 1950-х разработал соответствующий эксперимент. Тест Тьюринга был призван выяснить, способны ли машины думать сознательно, и недавнее развитие продвинутых ИИ, вроде ChatGPT, вновь привлекло внимание публики к известной теории. Спойлер: да, ChatGPT смог пройти тест Тьюринга.
Когда мы достигнем сингулярности
Разница между машинным интеллектом и человеческим в том, что первый может развиваться бесконечно: его единственное ограничение — это свободное место, где можно разместить железо для повышения вычислительной мощности. В Интернете то и дело звучат тревожные предупреждения о том, что ИИ перейдет порог сингулярности в следующие 10 лет, но на практике эти прогнозы, мягко говоря, спекулятивны. Специалисты полагают, что, да, ИИ может достичь сингулярности после 2030 года, но непредсказуемость развития технологий не позволяет делать твердые выводы. Кроме того, всегда есть вероятность, что наступление сингулярности займет гораздо больше времени.
Тем не менее, мы уже наблюдаем симптомы сингулярности: существуют игры, в которых человек никогда не сможет обыграть машину. Суперкомпьютер Deep Blue, разработанный фирмой IBM, был первым ИИ, обыгравшим человека в шахматы. Причем не просто человека, а чемпиона мира Гарри Каспарова.
Сингулярность весьма непросто измерить научными понятиями. Даже сейчас нельзя назвать какой-то конкретный признак, по которому можно определить близость этого события. Многие эксперты утверждают, что таким признаком выступает качество перевода текста на иностранные языки. Когда ИИ начнет переводить человеческую речь на том же уровне, что и профессиональные переводчики, мы однозначно станем на шаг ближе к сингулярности. Понимание интернет-мемов, как ни странно, тоже выступает неплохим показателем сознательности машинного интеллекта.
Что произойдет, когда ИИ достигнет сингулярности
Пока никто не может сказать, на что способен машинный супер-интеллект. Научное сообщество может лишь спекулировать на эту тему: если компьютерные системы действительно превзойдут человеческий интеллект, то мы физически не сможем предсказывать их поведение. ИИ не обязательно будет действовать, исходя из плохих побуждений. Если рассуждать критически, ИИ — это всего лишь компиляция кода, поэтому поведение искусственного интеллекта можно объяснить девиациями в запрограммированных функциях. Мы не хотим, чтобы беспилотные автомобили проезжали на красный свет или сбивали пешеходов, но бортовой компьютер может решить, что наезд в толпу прохожих на полной скорости — это самый эффективный способ добраться до пункта назначения.
По подсчетам аналитиков IBM, лишь треть разработчиков знает, как правильно тестировать системы на предмет подобных девиаций. Поэтому создание идеального ИИ, который ни при каких обстоятельствах не выйдет из-под контроля, будет непростой задачей.
Как ИИ способен навредить людям
Пока что ИИ не обладает самосознанием: машины не способны думать, воспринимать окружающую среду и испытывать чувства. Сингулярность и самосознание часто рассматриваются в паре, но на деле они не так близко связаны между собой. Впрочем, это не освобождает человечество от ответственности: ИИ все равно может выйти из-под контроля — просто сейчас у него нет мотивации. Мы не можем измерить или как-то засечь, что та или иная система обрела сознание, но искусственному интеллекту не нужны эмоции, чтобы представлять опасность для человека.
Например, беспилотный автомобиль может оказаться в ситуации, когда ИИ придется сделать выбор между безопасностью экипажа и жизнью человека, который неожиданно выбежал на проезжую часть. Медицинский ИИ, помогающий в создании вакцин, может в какой-то момент понять, что высокая заболеваемость приводит к мутациям патогенов — и это осложняет дальнейшую разработку препаратов. Почему бы не решить проблему мутаций, снизив потенциальное число пациентов заведомо смертельной вакциной?
Можем ли мы предотвратить сингулярность
Маловероятно. Мы никогда не сможем избавить искусственный интеллект от непредсказуемых угроз. Мы не сможем предсказать непредвиденные побочные эффекты, потому что люди, в отличие от ИИ, не имеют супер-интеллекта. Если сингулярность все же наступит, то человечество вряд ли сможет остановить дальнейшие развитие ИИ. Однако ученые со всего света не отчаиваются и надеются извлечь из искусственного интеллекта максимум пользы.