Большая красная кнопка

В авторитетных западных изданиях в 2016 году появилась информация о том, что в Google разрабатывают «большую красную кнопку», призванную остановить AI в случае, если искусственный интеллект будет угрожать человечеству. По информации журналистов, для этого специалисты подразделения Google – компании Deep Mind – объединились с учеными из Оксфордского университета. На исследования выделено 400 млн британских фунтов. «Если агент (AI) работает в режиме реального времени под контролем человека, оператору необходима большая красная кнопка, которую можно нажать, предотвратив нежелательные действия со стороны агента», – поясняют интернет-издания. Ранее, действительно, в Сеть был выложен документ, озаглавленный «Безопасно прерываемые агенты» (Safely Interruptible Agents). Его авторы – Лорен Орсо из Deep Mind и Стюарт Армстронг из Оксфордского университета. В документе описывается возможное будущее соседство людей с искусственным интеллектом, противостоящим желаниям и устремлениям человечества вроде фантастических Скайнета и Терминатора. Это не кажется безумным с учетом того, что не так давно старейшая и крупнейшая американская юридическая компания Baker & Hostetler «наняла» робота-адвоката для помощи в процессах. Искусственный интеллект поддерживается суперкомпьютером IBM Watson. Что касается Deep Mind, ранее настоящим героем новостей стал разработанный компанией искусственный интеллект Alpha Go, обыгравший одного из сильнейших игроков го, гроссмейстера Ли Седоля. Эта победа стала причиной резкого форсирования Южной Кореей разработки собственного искусственного интеллекта и выделения на это значительных средств из бюджета. Нужно добавить, что глава Deep Mind Демис Хассабис призвал людей осторожно отнестись к обнародованной информации. В своем Twitter-аккаунте он отметил, что, несмотря на бродящие по Интернету слухи, в компании пока не прогнозируют будущее искусственного интеллекта Alpha Go. «Как решим, сделаем официальное заявление», – пояснил глава компании. Чемпион Европы Фань Хуэй за игрой в го / ©wikipedia Элон Маск: «Мы уже киборги» Беспокойство по поводу предстоящих осложнений взаимоотношений между роботами и людьми нарастает. Причем говорят об этой тревоге именно главные адепты научно-технического прогресса. Например, Элон Маск, заявивший в августе 2014 года о том, что технология искусственного интеллекта «опаснее, чем ядерное оружие». А еще через несколько месяцев, выступая перед студентами Массачусетского технологического университета, создатель Tesla и SpaceX назвал AI «самой большой угрозой нашему существованию». При этом к концу 2015 года сам Маск стал соучредителем некоммерческой исследовательской компании OpenAI, объяснив ее цель необходимостью открытости процесса создания искусственного интеллекта. «Если у вас есть "кнопка", которая может делать плохие вещи в мире, вы не захотите дать к ней общий доступ», – пояснил Маск. В конце мая 2016 года, выступая на ежегодной конференции Recode, Элон Маск рассказал о некоем проекте, или, может быть, пока просто идее «нейронного кружева», которое должно снизить риск человечества стать любимой игрушкой в железных руках роботов. «К примеру, у вас есть лимбическая система, кора мозга, а это третья система – цифровой слой, который хорошо совместим с вашим организмом. Как мозг работает в симбиозе с лимбической системой, так и этот цифровой слой будет слаженно работать с остальными частями тела», – сказал Маск. Эта нейронная система должна повысить уровень приема-передачи информации человеком, способность ее обрабатывать. «Мы уже киборги», – заявил Маск, поясняя, что Интернет, мобильные телефоны и прочие гаджеты, по сути, развили у людей сверхспособности. «Но мы ограничены в приеме-передаче информации. Особенно в передаче», – добавил Маск. Люди способны принимать и интерпретировать достаточно большой объем информации, но генерировать эту информацию гораздо сложнее. Человек может лишь быстро говорить, быстро писать или печатать. «Нейронное кружево», подключив человека к системе цифровой связи, могло бы преодолеть это биологическое ограничение. Маск не стал пояснять, будет ли это «кружево» имплантировано в тело или выращено естественным путем, допустим, с помощью генного редактирования, но отметил, что оно может проходить «через вены и артерии», обеспечивающие пути для нейронов. ©Depositphotos Впрочем, есть и противоположная точка зрения. Председатель совета директоров компании Alphabet (Google) Эрик Шмидт в интервью Tech Insider скептически оценил выступления как Элона Маска, так и его коллеги Стивена Хокинга, также ранее предостерегавшего о возможной гегемонии AI. «Ствен Хокинг, безусловно, гениальный человек, но он не эксперт в компьютерной области. Элон тоже замечательный человек, но тоже, скорее, физик, чем компьютерщик», – отметил Шмидт. О потенциальном сценарии будущего, в котором роботы уничтожают человечество, он заявил следующее: «Такой сценарий просто описывает вариант, в котором компьютеры становятся настолько умны, что в какой-то момент, из-за, допустим, бага в программе решают уничтожить человечество. Мой вопрос к вам следующий: вы не думаете, что люди заметят это и начнут выключать компьютеры? У нас будет гонка между людьми, выключающими компьютеры, и AI, лихорадочно пытающимся переместиться в еще не выключенное устройство. И так до последнего компьютера. А мы его не можем выключить. Это же кино, фильм. Существующее положение вещей в мире такой сценарий не поддерживает». Масштабная роботизация Сопредседатель существующего в рамках NASA Университета сингулярности Нил Якобштейн рассказал журналу PCmag, что за период с 2011-го по 2015-й год мировые компании вложили в исследование AI более трех миллиардов долларов. Кроме крупных инвесторов, включая Facebook и Google, есть еще и ряд менее известных стартапов. К примеру, Brighterion занимается использованием искусственного интеллекта в «облачном» анализе и промышленном IoT, Feedzai тренирует роботов для выявления мошенничества в банковских операциях, Experfy с помощью AI эффективно решает бизнес-проблемы коммерсантов и так далее. То есть масштаб развития искусственного интеллекта в мире сейчас не ограничивается десятком главных игроков IT-рынка – он гораздо больше. В своем интервью Якобштейн, по сути, продолжил мысль Маска, также настаивая на необходимости развития человеческого мозга для противостояния синтетическому. «У всех нас одни и те же проблемы. Мозг ограничен в скорости, объеме памяти, пропускной способности и скован предубеждениями», – заявил Нил Якобштейн. ©Depositphotos По словам ученого, тенденция в развитии AI сейчас двигается в направлении создания искусственного неокортекса (новой коры, составляющей у человека большую часть коры, в отличие от низших млекопитающих) и гиппокампа. Таким образом, мозг робота будет как человеческий, только во много раз мощнее и быстрее. «AI становится мощнее, и нам нужно решать, как мы будем вести себя в рамках идущей коэволюции. Как с точки зрения задач, которые мы ставим перед искусственным интеллектом, так и в плане того, как мы хотим строить наши отношения, не теряя человеческого самоуважения», – пояснил Якобштейн. По словам ученого, первоначально взаимодействие людей и роботов будет «элитарным процессом», но затем войдет в повседневную жизнь, как когда-то сотовые телефоны. «Через смартфон ваш мозг получает доступ ко всем знаниям мира и мощному искусственному интеллекту, обрабатывающему цифровую информацию. У вас уже симбиоз с AI», – заключил Якобштейн. Плоть от плоти Однако, может статься, что угроза человечеству будет исходить не от набора железок и проводов, а от органической «плоти от плоти». В конце мая 2016 года мировое научное сообщество было заинтриговано прошедшей «тайной встречей в Гарварде», участники которой хотят создать искусственный геном человека и, соответственно, самого человека с нуля. О деталях встречи на страницах Live Science рассказал выпускник Гарвардского университета, молекулярный биолог, специализирующийся на генном редактировании, Джефф Бессен. Как оказалось, речь вовсе не идет о каком-то детище Франкенштейна. Более 130 ученых, промышленников и специалистов по этике собрались в Гарварде, чтобы обсудить проект создания искусственного генома человека Human Genome Project (HGP). Название, по сути, отсылка к аналогичному проекту, в результате которого в 2003 году удалось полностью секвенировать человеческий геном. Тот проект начался в 1990 году под руководством Джеймса Уотсона под эгидой Национальной организации здравоохранения США, и целью его было определение последовательности нуклеотидов, которые составляют ДНК, и идентификация 20–25 тыс. генов в человеческом геноме. Создание генома имеет свою историю. В 2010 году американский биолог Джон Крейг Вентер расшифровал первый геном микроорганизма – бактерии Haemophilus influenzae – и заявил о создании искусственной клетки. Вентер представил общественности первый в мире искусственный организм, синтетическую бактерию по имени Синтия. С тех пор ученые систематически пытаются продвинуться дальше в исследованиях, включая и организатора гарвардской встречи – американского генетика Джеффа Буке, впервые создавшего функциональную эукариотическую хромосому, содержащуюся в дрожжах. Однако такая работа обходится недешево. Создание синтетической бактерии тому же Вентеру обошлось в более 40 млн долларов и отняло годы работы. Эксперты полагают, что в нынешних условиях производство одного человеческого генома обойдется примерно в 90 млн долларов. Впрочем, если дело «поставят на поток» и применят отработанные технологии, к 2036 году эта сумма может снизиться до 100 тыс. долларов. Кроме того, есть и производственная проблема – мощности всех действующих в мире лабораторий, по словам Джеффа Бессена, сегодня не хватит на создание одного человеческого генома. ©Depositphotos От изучения – к созданию Как отмечает Джефф Бессен, на гарвардской встрече ученые призвали перейти от чтения генома к его созданию из строительных блоков ДНК. По замыслу идейных вдохновителей HGP, в числе которых генетик Джордж Черч, его американский коллега Джефф Буке и специализирующаяся на биотехнологиях юрист компании Autodesk Нэнси Келли, можно «полностью синтезировать геном человека в клеточной линии». Процесс создания искусственной ДНК, по словам Джеффа Бессена, аналогичен процессу офсетной печати – главное собрать все в правильном порядке. Результат химически идентичен естественной макромолекуле. Мировой рынок синтезированного ДНК (речь идет о существующем создании отдельных элементов ДНК, не полного генома) оценивается сейчас примерно в миллиард долларов в год. Искусственная макромолекула имеет практическое применение: это выращивание человеческих органов для трансплантации, создание иммунитета к вирусам, онкозаболеваниям, создание новых лекарственных препаратов и так далее. Участники гарвардской встречи выразили надежду, что их работа поможет в «разработке более безопасной, менее дорогостоящей и более эффективной терапии». Тайный ореол вокруг этой встречи объясняется просто: проект достаточно сложный в этическом плане, и неизвестно, как идеи ученых будут восприняты широкой общественностью. В частности, сейчас организаторы фактически наложили вето на любые комментарии относительно встречи до официальной публикации итогов совещания. Вопросов к HGP действительно много. «Насколько хорошо будет изучить, а затем создать геном Эйнштейна?» – озадачен биоинженер из Стэнфорда Дрю Энди. Доктор Черч и биоинженер Энди, к слову сказать, давно сотрудничают вместе – они вместе создали компанию Gen9, специализация которой понятна из названия. Некоторые эксперты полагают, что участие в совещании бизнесменов и предполагаемое частное финансирование проекта приведет в итоге «к приватизации технологии генетической модификации». Было также высказано мнение, что исследователи вынашивают подпольные планы по клонированию людей с помощью синтетических ДНК. По словам Джеффа Бессена, химическое производство генома человека – совокупности генетических инструкций, содержащихся в каждой клетке, – действительно, может придать новый смысл термину «ребенок из пробирки». «Если бы такая технология существовала, геном любого человека можно было бы расшифровать, а затем синтезировать по требованию кого-либо», – предупреждает Бессен. ©Depositphotos Клоны из будущего Опасение на самом деле не беспочвенно. Китайские ученые, представившие в конце 2015 года проект «фабрики клонов», позже заявили о готовности клонировать людей. Самое большое в мире предприятие по клонированию китайская компания Boyalife Group построит в сотрудничестве с южнокорейской Sooam Biotech Research Foundation и китайской Академией наук в северокитайском Тяньцзине. Объем производства клонированных коров, по расчетам ученых, к 2020 году составит один миллион в год. В перспективе «фабрика клонов» также намерена заниматься производством лошадей для скачек и полицейских собак со специализированными способностями (повышенное обоняние и поиск). Еще одной сферой интересов предприятия является клонирование приматов для медицинских опытов. Поэтому заявление руководства будущей фабрики о готовности перейти от приматов к людям стало логичным. «Технология уже есть. Если это официально разрешат, не думаю, что кто-то справится с этим лучше, чем Boyalife», – заявил журналистам исполнительный директор будущей фабрики Сю Сяочун. Он подчеркнул, что пока никаких экспериментов в области клонирования человека предприятие не осуществляет. И все же, несмотря на необходимость решения этических вопросов, по мнению Бессена, создание генома человека пока остается несбыточной мечтой. «На сегодняшний день нет эффективного способа трансплантации искусственного генома в человеческую клетку. Даже самые впечатляющие достижения в этом плане, вроде «дрожжевого» проекта доктора Буке, в сотни раз меньше по масштабу, чем нынешний вызов. Изготовление генома мушки-дрозофилы или нематоды в десятки раз проще и безопаснее в плане этики, может ответить на те же вопросы, которые хотят получить, синтезируя человеческий геном», – считает молекулярный биолог. ©Depositphotos Гарвардская «тайная вечеря», по его словам, обнажила еще одну проблему современной науки – ее консервативность. Журналисты узнавали о проекте в Интернете, в соцсетях. А официальной информации предстоит долгий путь. «Однажды я и мои коллеги ждали появления нужной научной публикации полгода», – добавляет Бессен. По мнению ученого, его коллегам критически необходимо сейчас найти баланс между контролем публикаций и правом журналистов выполнять свою работу, что в итоге сказывается на научной информации.