Человечеству грозит гибель от умных машин
Если сильный искусственный интеллект когда-нибудь станет реальностью, он точно уничтожит человека. Избежать такого исхода вряд ли получится — ведь создатели сразу же утратят контроль над его работой. Угрожающим прогнозом поделился на конференции «Цифровая экономика: труд и человек» в рамках VI Международного форума Финансового университета Владимир Коровкин, руководитель исследовательской лаборатории инноваций и цифровых технологий МШУ «Сколково». «Человек ему будет не нужен, а какие бы мы ни наложили на него ограничения, он их обойдет, потому что будет умнее людей», — считает Владимир Коровкин. Впрочем, считает эксперт, это все же далекая перспектива. «Пока ничто, кроме экспериментальных программ, не соответствует критериям какого-то машинного интеллекта», — полагает Владимир Коровкин. По его оценке, человек все еще сильно выигрывает у компьютера, прежде всего из-за своей феноменальной универсальности. «Например, у меня есть друг, который зарабатывает как юрист, профессионально пишет музыку для фильмов, а еще контрибутирует ядро Linux на очень высоком уровне. И у него одна голова, а не три», — говорит Владимир Коровкин. Однако умные машины могут стать угрозой для человечества уже в текущем столетии, полагает Терри Уайт, консультант руководителей бизнеса по цифровой трансформации компании Ovum. Так, уже через 20 лет можно прогнозировать появление нейросетей, которые смогут частично имитировать работу мозга человека. Пока они не могут думать, чувствовать и создавать, однако через 70 лет способны стать реальностью по-настоящему умные нейросети. И это будет означать наступление эпохи сингулярности, когда машины смогут проявлять и понимать эмоции. Подобные прогнозы довольно пугающие, отметил Терри Уайт, ведь обретя сознание, машины смогут действовать в собственных интересах вместо интересов людей. «Чтобы хотеть захватить мир, необходимо иметь такую амбицию. Я не верю, что искусственный интеллект когда-нибудь сможет испытывать такую эмоцию», — не согласен генеральный директор SAP CIS Андрей Филатов. Главную опасность все равно будет представлять человек, который может получить в свои руки очень мощный искусственный интеллект. «Это большие риски для человечества, сами люди, которые имеют доступ к вещам, которые могут иметь двойное назначение. Уже сейчас мы видим, что армии разных стран испытывают автоматизированные дроны и танки, которые самостоятельно принимают решения, куда двигаться и по каким целям стрелять. Именно в этом заключается большая опасность для мира», — считает Андрей Филатов.
