Ученые и "айтишники" перестали понимать, как именно нейросеть принимает решения, передает телеканал "360".
В этом они признались на главной мировой конференции по искусственному интеллекту (ИИ) ‐ Neural Information Processing Systems. Впрочем, речь о многократно описанном в фантастике "восстании машин" пока не идет. Подробности сообщил Quartz.
Эксперты предлагают действовать, пока система не стала слишком сложной и не вышла из-под контроля. "Мы не хотим довольствоваться произвольными решениями, принятыми людьми или ИИ, которые нам непонятны, - пояснил Джейсон Йосински из Uber. -Чтобы модели машинного обучения были приняты обществом, нам нужно знать, почему ИИ принимает те или иные решения".
Кири Вагстафф - ИИ-эксперт в Jet Propolusion Lab (NASA) - согласен с коллегой и дополнил его опасения своими. "Если у вас есть космический корабль на орбите вокруг Марса, то он находится на расстоянии 200 миллионов миль, он стоит сотни миллионов долларов, может быть даже миллиард долларов. Если что-то пойдет не так, нет никакого способа отремонтировать, заменить любой его узел, не тратя огромную сумму денег", - заявил эксперт.
Иными словами, то, чем еще недавно восторгались и о чем писали хвалебные статьи журналисты, повернулось темной стороной. Речь о способности искусственного интеллекта к самообучению и самосовершенствованию, которая стала угрозой для человечества. По словам ученых, можно говорить, что искусственный интеллект научился абстрактно мыслить - а значит, принимать алогичные решения.
Тяжеловесное, но тем не менее рабочее решение предложила исследователь из Google Мэтра Рагху. В своем докладе она описала процесс отслеживания действий отдельных "нейронов" нейросети. Проанализировав миллионы операций, она поняла, какие из искусственных "нейронов" концентрировались на неверных представлениях. После этого стало возможным их отключить.