Институт «Будущее жизни» наградил разработчиков ИИ
В Бостоне прошла церемония награждения победителей конкурса работ в области искусственного интеллекта. Тридцать семь проектов были отобраны более чем из трёхсот представленных на суд жюри. Их авторы получат гранты из фонда Open Philanthropy Project и средств некоммерческой организации The Future of Life Institute. «Эти 37 проектов – лишь верхушка айсберга, – пояснил представитель института Джесси Галеф. – Мы надеемся, что наша программа вдохновит других заняться этой сложной и новой областью исследований ИИ». Джесси Галеф (фото: Heather Leah Kennedy). Одна из работ носила говорящее название: «Автономное вооружение летального действия, ИИ и надлежащий контроль со стороны человека». Это не сценарий к очередному фантастическому боевику, а выполнение обсуждаемой резолюции ООН. Совет по безопасности ещё не пришёл к единому мнению о том, что именно следует считать «надлежащим контролем». Сейчас мы используем «слабые» системы ИИ в тактическом управлении. «Сильный ИИ» создаётся для помощи в решении стратегических задач. Его будет гораздо сложнее предсказать и контролировать. Институт «Будущее жизни» (FLI) был основан группой исследователей из разных областей, разделяющих взгляды о стремлении человечества к технологической сингулярности. Они ставят своей целью разработать долговременные стратегии безопасного развития технологий прорыва, и в первую очередь – «сильного» искусственного интеллекта. Среди сооснователей FLI есть физики Макс Тегмарк и Энтони Агирр, соавтор Skype Яан Таллинн, эксперт по методам машинного обучения Виктория Краковна и специалист по биологическим механизмам познания Мея Чита-Тегмарк. Структура FLI (изображение: futureoflife.org). Список официальных советников и меценатов института выглядит ещё более впечатляюще. Возглавляют его нобелевские лауреаты по физике Стивен Хокинг и Сол Перлмуттер, нейробиолог Кристоф Кох, а также сооснователь SpaceX и Tesla Motors Илон Маск. На развитие исследований в области искусственного интеллекта Маск пожертвовал $10 млн., поскольку сильно обеспокоен вектором развития связанных с ИИ технологий и меняющейся ролью людей в ближайшем будущем. Конечно, он не говорит всерьёз о повторении в реальности сюжета «Терминатора» или «Матрицы». Это лишь образные сравнения. Однако человек сможет контролировать машины только до тех пор, пока остаётся хоть немного умнее них и в состоянии обходиться своими силами. Проблема в том, что не желая принимать ответственность, мы постепенно наделяем компьютеры и другие устройства властью. «Я не могу вам это продать, товара в базе нету», – говорят мне на кассе. «Я не могу изменить расписание, его программа так составила», – сообщают в университете. «Мне смартфон написал, что у тебя сегодня день рождения!» – настаивает коллега. «Здесь не может быть ошибки, мы на компьютере считали», – оправдываются студенты. Таких примеров каждый день набирается масса. Они веселят, пока не собираются в общую картину: мы не столько разгружаем себя автоматизацией работы, сколько создаём новую. Робот AILA терпит присутствие любопытных белковых существ (фото: REUTERS/Fabrizio Bensch). Избалованное технологиями большинство уже не хочет жить иначе и формирует одностороннюю зависимость. Уже давно во многих отраслях люди только мешают автоматике и оставлены на своих местах лишь для самоуспокоения. Яркий пример – вектор развития программы ВВС США. За последние пять лет число строевых лётчиков резко сократилось. Их место сейчас занимают операторы дронов, а завтра они сами освободят кресло, поскольку не будут успевать командовать поумневшей автоматикой. В современном автомобиле водитель напрасно чувствует себя хозяином положения. Он едет по маршруту GPS-навигатора, а органы управления уже не связаны механически с исполнительными. Они передают команды бортовому компьютеру, который и управляет машиной. Даже автоматическая парковка и полный автопилот – уже вполне готовые технологии. Их массовое внедрение сдерживает лишь психологический барьер. Когда он окажется в прошлом, все места в салоне можно будет сделать пассажирскими. В машине с автопилотом руль останется как элемент стиля (изображение: thedetroitbureau.com). Начало процессу отстранения людей от управления было положено ещё в прошлом веке. Вот что говорил в конце восьмидесятых Ричард Фейнман о своей работе в комиссии по расследованию причин катастрофы шаттла «Челленджер»: «… все операции контролируются компьютерами. Шаттл автоматически попадает на орбиту — астронавты просто сидят на своих местах. Наиболее эффектная вещь — это посадка. В течение этого времени астронавты ничего не видят, и все изменяется настолько быстро, что снижение должно проводиться автоматически. Однако на высоте в четыре тысячи футов происходит нечто, что выполняет не компьютер: пилот нажимает на кнопку, чтобы опустить шасси. Я нашел это очень странным – глупость, которая, очевидно, связана с психологией пилотов: они герои в глазах публики; все считают, что именно они управляют шаттлом. Для них просто невыносима мысль, что, на самом деле, им делать нечего». В этом примере речь идёт о «слабом» ИИ – группе из пяти компьютеров, выполняющих единую программу полёта с довольно жёстко детерминированными критериями. Ни на что другое они не способны, но со своей задачей справляются лучше любой группы астронавтов. Современные реализации на базе нейросетей разных типов уверенно развиваются в сторону «сильного» ИИ, умеющего воспринимать естественный язык, учиться и творить. К примеру, IBM Watson без разницы, что именно анализировать на входе и формулировать на выходе. Он с одинаковым успехом предложить новый рецепт блюда, выигрышную стратегию игры или рассчитает вещество с заданным биологическим эффектом. В работе с ним даже прослеживаются элементы самосознания или его успешная имитация. Во всяком случае, всё выглядит так, будто он отделяет сведения о себе от данных об окружающем мире и умеет наряду с изложением фактов формулировать частное мнение. – Может ли робот написать симфонию, или создать шедевр живописи? – А вы можете? (фрагмент из фильма «Я, робот»). Илон Маск уверен, что неспециалистам сегодня трудно осознать масштабы возникающей проблемы. Люди лишь шутят по этому поводу, удивляясь подсказкам Siri, Cortana или Google Now. «Прогресс в области искусственного интеллекта невероятно быстрый. Без доступа к разработкам Deepmind и других компаний трудно осознать, насколько стремительным темпами развивается индустрия. Рост в ней близок к экспоненциальному. Существует риск, что нечто действительно опасное случится в ближайшие пять, максимум – десять лет. Это не та ситуация, когда поднимают ложную тревогу без малейшего понимания научного подхода». Главная миссия FLI – смягчение рисков, которые грозят человечеству в будущем от необдуманного использования новых технологий. Это коллектив опытных исследователей, а не очередные неолуддиты, призывающие разбить машины и уйти жить в леса. Многие из собравшихся в институте развивали ключевые направления технологий и активно пользуются ими сами. «Я не одинок в своих мыслях о том, что пора обеспокоиться. Ведущие компании в сфере ИИ уже предприняли значительные меры для обеспечения безопасности. Впрочем, распознавать опасность – это одно, а научиться контролировать цифровой суперинтеллект – совсем другое», – говорит Илон Маск. Большинство победителей конкурса приступят к реализации своих проектов уже в сентябре. Общая сумма грантов составит $7 млн.
