Восстание машин: почему NPC в TES: Oblivion убивали друг друга
В 2000 годах Bethesda Softworks хотела вывести искусственный интеллект NPC в своих играх на новый уровень. Результатом работы студии и одной из главных фишек The Elder Scrolls IV: Oblivion стала система под названием Radiant AI, которая должна была предоставить неиграбельным персонажам настоящую свободу. Она позволила бы обитателям мира принимать решения исходя из собственных (предварительно заданных) характеров и контекста. Например, если законопослушный горожанин проголодался, он шел и покупал что-нибудь перекусить. Если кто-то менее высокоморальный нуждался в пище, то он мог украсть еду.
На выставке Е3 2005 Тодд Говард объяснил, что разработчики не собирались жестко прописывать распорядок дня NPC, важные для них локации и расписание сна. Вместо этого Radiant AI обеспечивала персонажей «общими целями», которые определяли поведение персонажей. Динамические диалоги, изменяющиеся в зависимости от действий игрока или состояния мира, тоже были частью системы. В мире The Elder Scrolls IV: Oblivion живет более тысячи уникальных персонажей, и каждый подчиняется алгоритмам Radiant AI. Даже некоторые животные, вроде собаки хозяина книжного магазина, использовали революционный ИИ Bethesda. Помимо этого, NPC работали бы на той же системе навыков, что и игрок — а это значит, что они могли тренироваться и повышать свои характеристики.
В теории, Radiant AI должен был совершить революцию в игровой индустрии. По-настоящему динамичный, реалистичный мир, наполненный «живыми» людьми, великолепно бы работал на погружение и реиграбельность. Но, к сожалению, вскоре Bethesda обнаружила, что подобная свобода действий влечет за собой непредвиденные последствия.
Дело в том, что разработчики создали мир, где NPC готовы пойти на что угодно, чтобы выполнить свои ежедневные цели. Любой, кто играл в The Elder Scrolls знает, что во вселенной любой части серии полно сомнительных личностей: бандитов, убийц, воров и других неприятных товарищей. И если оставить их без присмотра, Сиродиил быстро превращается в ад на земле. Создателям Oblivion пришлось «занерфить» Radiant AI, т.к. поведение персонажей приводило ко множеству смертей. NPC убивали друг друга ради денег, наркотиков и предметов, которые им нужны. Иногда положительные персонажи могли поймать отрицательных на краже, после чего немедленно казнили их на месте.
Иными словами, без ограничений Radiant AI превращал игру в кровавую баню. Смерти большого количества NPC зачастую приводили к неисправностям в ветках заданий, что создавало серьезные проблемы. Система также оказалась слишком ресурсоемкой для игровых консолей того времени. Нагромождение неполадок не оставило Bethesda выбора, кроме как значительно сократить функционал Radiant AI: версия системы, попавшая в релизную версию Oblivion, даже близко не дотягивала до обещанной разработчиками.
Эксперты по технической индустрии уже долгое время предупреждают об опасностях развития ИИ, особенно в оборонном секторе. В каком-то смысле, фиаско Radiant AI можно рассматривать как небольшой эксперимент. Если предписать ИИ выполнение тех или иных целей без каких-либо моральных барьеров, действия искусственного интеллекта могут привести к неожиданным последствиям. NPC в Oblivion не ценили жизни других персонажей — им было гораздо выполнить свои задачи любой ценой.
Впрочем, это не значит, что пора бить тревогу. Крупные корпорации, занимающиеся разработками в сфере ИИ, подчиняются строжайшему кодексу этики, который не позволяет использовать ИИ в преступных целях. Кроме того, в будущем наверняка появятся специфические законы, которые дополнительно урегулируют технологии по всему миру.