Этика для железяки

Правила общения человека и робота собираются разработать к весне в Госдуме. Чем вызвана спешка и нужен ли нам подобный закон, разбиралась «Вечерка». С заявлением о законопроекте выступил глава Комитета Госдумы по экономической политике, промышленности, инновационному развитию и предпринимательству Сергей Жигарев. По его словам, депутатам предстоит прописать в документе этические нормы взаимоотношений человека и робота, возможности их взаимодействия, а также предусмотреть формирование фондов. Они смогут компенсировать вред, который, если что, нанесут механические братья мягкотелому человечеству. — К 2019 году общемировой объем поставок роботов составит более 400 тысяч единиц, — объяснил «ВМ» мотивы своего заявления депутат Жигарев. — Робототехника развивается стремительно, причем именно в сторону совершенствования интеллектуальных способностей. Уже в обозримом будущем человечество придет к созданию «робота разумного», мозгом которого станет квантовый компьютер. Такой робот будет способен к познавательной деятельности и сможет самостоятельно принимать решения. Иными словами, монополия человека на мышление будет нарушена. Что за этим последует? Как минимум — новые вызовы, причем не только технологические, но и культурные, образовательные, морально-этические, на которые уже сейчас надо давать ответ. Скажем, кто будет нести ответственность за действия (бездействия) роботов в случае, если те создадут угрозу физической безопасности человека, а то и интересам человечества в целом — активируют, скажем, ботов, которые развяжут информационную войну? Нет ответа. Так что законодательное регулирование робототехники явно назрело. По словам депутата, не одни наши законотворцы обеспокоены тем, что человеку придется потесниться в своей эволюционной нише. Над схожими документами сейчас работают Япония и страны Евросоюза, а в Южной Корее так и вовсе приняли первый в мире «Этический устав роботов», который, например, закрепляет за ними право на «жизнь», гарантируя защиту от уничтожения, нанесения повреждений и оскорблений — редкий кореец, наверное, огрызнется теперь на ползающий по квартире робот-пылесос... Они как личности — Для начала нашим депутатам было бы неплохо определиться хотя бы с тем, что они вкладывают в понятие «робот», — рассказал «ВМ» завкафедрой робототехники и мехатроники МГТУ «СТАНКИН» Юрий Подураев. — Потому что когда некоторые наши банки говорят, что заменяют труд людей трудом роботов (то есть некими машинами, которые автоматически формируют некие тексты договоров), то это не роботы в классическом научном понимании. И когда тачанка на радиоуправлении с привинченным к ней манекеном стреляет на маневрах по танкам — это тоже не робот. Наличие искусственного интеллекта тоже не признак робота. Вот есть, скажем, автоматические переводчики с одного языка на другой с функцией самообучения. Нужно ли законодательство по использованию таких программ? Наверное, нет. И речь не о терминологии, а о понимании объекта, потому что в каком-то смысле и лифт робот, когда вы нажимаете кнопку, но можно ли считать лифт электронной личностью? Определение Международной федерации робототехники («машина, которая имеет несколько степеней подвижности, свойства автономности и интеллектуального управления») тоже уже устарело. А главное, любой промышленный стандарт вроде ГОСТа или ТУ — это тоже в некотором смысле законодательство, ведь там к машине предъявляются обязательные требования. И с незапамятных времен во всех этих «законах» (особенно это касалось промышленной робототехники) всегда прописывался вопрос безопасности труда, то есть взаимоотношения машины и человека. Так что стандартизация и регламентация этой деятельности есть, что бы там ни думали некоторые депутаты. Согласился с коллегой и доцент кафедры «Робототехнические системы» МГТУ имени Н. Э. Баумана Сергей Воротников: — У нас, как водится, телегу пустили впереди лошади. Закон — штука хорошая, но он должен опираться на какую-то материальную основу. Такого рода законы обсуждаются в разных странах, так как уже есть случаи гибели людей в процессе взаимодействия с роботами-такси и роботамихирургами, и непонятно, с кого требовать компенсацию. Но у нас в стране с «материальной основой» еще не все радужно — нет той самой армии роботов, которые как-то не так себя ведут, и людей, которые им мешают. Да и в мире чисто автоматических роботов мало. В промышленности все цеха, работающие в таком режиме, закрыты для человека, а если он туда попадает, система тут же останавливается. Есть (в том числе и у нас) коллаборативные роботы, которые работают непосредственно с человеком, но в силу малой мощности и многоступенчатой системы защиты навредить ему они не могут. Далеко человечеству, считает Воротников, и до роботов системы «Электроник»: — Нет никакого смысла делать полностью гуманоидных роботов. Проектов много, есть и такие, что издалека и не отличишь, но это исключительно научно-рекламные игрушки. С интеллектом тоже все не просто. По некоторым параметрам (например, распознаванию лиц) нейронные сети делают это уже практически как мы, но вот в вопросах принятия адекватных решений пока буксуют. Так что ни при нашей жизни, ни при жизни наших детей и внуков роботы человечество точно не поработят. Они пойдут в обход Не поработят, но когданибудь запросто могут это сделать, утверждают пессимисты. Некоторые футурологи считают, что азимовское первое правило робототехники — запрет на вред человеку — можно обойти вполне элементарно. Для этого роботу надо лишь поделить акт агрессии на два безобидных действия. Например, наделать печенек с мышьяком (с благой целью потравить, скажем, в округе крыс), а потом скормить печеньки человеку (робот ведь вправе помогать ему в утолении голода). И таких обходных маневров существует масса. И это мы еще не брали в расчет способность к самообучению, которая уже сейчас — практически обыденность. Снимет, скажем, какой-нибудь железный вундеркинд печеньками запрет на убийство, а потом увидит на заборе «Спартак — чемпион». Полезет в сеть выяснить, о чем речь, прочтет о бунте рабов, проведет параллели со своей незавидной участью и пошло-поехало… И будьте уверены: ни один искусственный нейрон не дрогнет в совершенных мозгах, когда будет мочить супостата, анатомию и логику поведения которого он прекрасно изучил. Вполне возможно, что существенный вклад в войну миров внесем и мы — своим прекраснодушием. Например, в США уже 18 лет действует Общество за предотвращение жестокости по отношению к роботам. «Мы должны быть готовы рассматривать их как живых существ и уважать их желания и потребности», — призывает оно. А американский философ Михаил Эпштейн даже предрекает появление нового научного направления — гуманологии. По аналогии с антропологией, исследующей человека, эта дисциплина будет изучать специфические признаки роботов и организмов, созданных на их основе. Они оставят нас без работы Впрочем, некоторые наблюдатели считают, что главная угроза от наших железных братьев будет не в том, что они замахнутся на нас дубиной интеллектуальной войны, а в том, что они просто отнимут у нас работу. И никакие законы, принятые в нашу защиту, не помогут. Ведь ни один капиталист не устоит перед перспективой получить дешевых, покладистых, не требующих страховок, отпусков, восьмичасового рабочего дня и прочих социальных благ своих подчиненных. А прибыль, что по Карлу Марксу, что по Генри Форду — превыше всего. Тем не менее большинство футурологов все-таки склоняются к мысли, что создавать свод этических норм и правил для некоего, пока еще достаточно абстрактного роботизированного будущего, преждевременно. Ведь оно, это будущее, может оказаться гораздо сложнее и интереснее, чем нам сейчас кажется. А следовательно, прежде чем говорить об этике в эпоху искусственного интеллекта, надо до этой самой эпохи хотя бы дожить. ОСНОВЫ ТРИ ЗАКОНА РОБОТОТЕХНИКИ ■ Робот не может причинить вред человеку или своим бездействием допустить, чтобы человеку был причинен вред. ■ Робот должен повиноваться всем приказам, которые дает человек, кроме тех случаев, когда эти приказы противоречат Первому Закону. ■ Робот должен заботиться о своей безопасности в той мере, в которой это не противоречит Первому или Второму Законам. *Сформулированы Айзеком Азимовым в 1942 году в рассказе «Хоровод» БУДУЩЕЕ РЯДОМ 2020 ГОД. Дороги наводняют самоуправляемые автомобили. 2022 ГОД. В США и Европе принимают законы, регулирующие отношения людей и роботов. 2027 ГОД. Персональные роботы, способные на сложные автономные действия, становятся привычной вещью. 2038 ГОД. Появление роботизированных людей. В их арсенале — «запасной» интеллект (например, ориентированный на одну узкую сферу деятельности) и дополнительные опции вроде лишних рук или жабр. 2040 ГОД. Небиологический интеллект стал в миллиард раз более способным, чем человеческий. 2043 ГОД. Тело среднестатистического человека может принимать любую форму, а внутренние органы заменяются кибернетическими устройствами гораздо лучшего качества. 2045 ГОД. Мы умножаем собственный мозг в миллиарды раз, связывая кору наших полушарий беспроводным путем с искусственным интеллектом в облаке. *По версии техдиректора Google Рэя Курцвейла, известного массой сбывшихся прогнозов в области ИИ СНЯТО! Пять фильмов про негуманных роботов. ОТРОКИ ВО ВСЕЛЕННОЙ Однажды роботы решили, что эмоции и духовность препятствуют счастью планетарной цивилизации, и лишили людей ненужного «девайса». ТАЙНА ТРЕТЬЕЙ ПЛАНЕТЫ На планете Шелезяка живут лишь роботы: строят заводы, на которых делают других роботов, которые строят такие же заводы… В итоге на некогда зеленой планете не осталось ничего живого. СТЕПФОРДСКИЕ ЖЕНЫ Мужчины сотворили идеальный мир с идеально послушными женами-роботами. Я, РОБОТ Один железный парень попробовал нарушить закон о роботах, и ему это явно понравилось. ИЗ МАШИНЫ Робот Ева умело имитирует чувства, по ходу дела кроша в мелкий винегрет недругов-людей. В общем, все (кроме нее) умерли. ЧИТАЙТЕ ТАКЖЕ Сможет ли человек конкурировать с роботами С развитием современных технологий человечество получает, казалось бы, безграничные возможности. Но у процесса есть и обратная сторона. Об этом в эфире сетевого телевещания «Вечерки» говорили эксперты — участники круглого стола. (далее...) Подписывайтесь на канал "Вечерней Москвы" в Telegram!