Зачем нужен искусственный интеллект нового поколения

Сегодня почти аксиома: кто выиграет в гонке систем искусственного интеллекта (ИИ), тот будет владеть миром. Ведущие страны вкладывают в эту сферу огромные средства. В вашем проекте заявлено, что будут созданы, прежде всего для медицины, надежные и логически прозрачные системы ИИ нового поколения. А сегодня такие системы разве не надежные и не прозрачные? И что такое - новое поколение ИИ?

Александр Горбань: Самое громкое событие, связанное с применением ИИ в медицине, это провал широко разрекламированной многомиллионной системы знаменитой фирмы IBM. Оказалось, что она ставит диагнозы и консультирует хуже среднего врача. После нескольких лет работы систему удалили с рынка. В чем главное проблема применения ИИ в так называемых чувствительных сферах, где от него зависит жизнь человека? В ошибках интеллекта. Протоколы его взаимодействия и человека сложнейший вопрос, мы пока плохо друг к другу приспособлены. Хотя ИИ и очень умный, но и он далеко не безгрешен, совершает ошибки. Так вот, если мы не научимся с ними работать, причем быстро и эффективно, наступит "зима" ИИ. Выживут только те области, где от его применения не зависит наша жизнь. И точно это не медицина.

Данную проблему наука, после нескольких лет эйфории и громких успехов ИИ, начинает осознавать только сейчас. А в нашем проекте мы считаем ее главной.

То есть надо научиться исправлять огрехи ИИ?

Александр Горбань: Не совсем. Надо научиться с ними работать. Представьте, что ИИ где то ошибся. Как его поправить? Сегодня схема действий такая. Я должен взять эту ошибку , вернуться к исходной точке, в первый класс, когда он только начал обучаться на примерах, скажем, как по ренгеновским снимкам диагностировать рак молочной железы. И с самого переучить его с учётом этой ошибки. Это гигантская, непрактичная работа.

А можно действовать иначе. Не возвращаться к азам, не портить то, что он уже освоил, а понять причину ошибки. И здесь мы приходим к логической прозрачности. Нам надо понять ход мысли ИИ, его логику, его путь к ошибке. Это сегодня мировой тренд. Даже есть программы "Объяснимый искусственный интеллект ".

Зачем нам вообще надо знать, как он решил задачу? Ведь это нейронные сети, они как то организованы, их обучили на примерах, и они успешно работают. Зачем нам знать, что происходит внутри этого умного "черного ящика".

Александр Горбань: Вы повторили аргумент нашего известного ученого, профессора Виталия Дунина-Барковского . Он говорит, мы же не знаем, как устроен мозг, не понимаем, как он работает, может никогда и не узнаем. Но результатами все пользуется. Если бы ИИ работал безошибочно как оракул, то с этим можно согласиться. Но, как я сказал, он может ошибиться. И нам надо понять причину логической ошибки, откуда она прилетела. На каком этапе. И "ремонтировать" ИИ, переучивать его именно здесь, не возвращаясь к истокам. Причем переучивать быстро и эффективно.

В итоге будет создан ИИ нового поколения, который сможет исправлять собственные погрешности. Это поможет кардинально изменить подход к диагностике и лечению многих заболеваний, в том числа онкологических, возрастных, на раннем этапе выявлять различные патологии.

Фактически речь идет о персонализированной медицине, высокотехнологичному здравоохранению, развитие которых заложено в нацпроект "Наука". Но ведь сферы применения ИИ гораздо шире. Среди систем нового поколения найдется им место?

Александр Горбань: Именно это и предусмотрено в проекте. Кратко перечислю области, где будет работать наш ИИ. Это новые алгоритмы проектирования квантовых систем, поиск новых сверхпроводников, изучение лазерной плазмы, ее взаимодействия с различными мишенями, диагностика стрессовых состояний сельскохозяйственных растений, анализ климатических данных для предсказания экстремальных и опасных явлений, прежде всего для Арктики. Участвовать в этих работах будут авторитетные ученые из разных стран.

Сегодня ИИ - мировой тренд, на него в ведущих странах выделяются огромные деньги. И на ваш проект до 2023 года будет потрачено 300 миллионов рублей. По российским меркам сумма впечатляет. Многих она вообще может удивить, ведь программистам не нужно сложное и дорогое оборудование...

Александр Горбань: На самом деле, сумма не такая большая, учитывая, что у нас большая команда. В проекте будут участвовать авторитетные ученые из разных стран. Что касаться россиян, то помимо Нижегородского госуниверситета в консорциум входят несколько крупнейших вузов и институтов: это питерский ИТМО, Институт системного программирований им. Ванникова РАН, Институт прикладной математики Келдыша РАН, Приволжский медицинский университет и научная группа под руководством Артема Оганова, одного из признанных в мира специалистов в области создания новых материалов.

Кстати, Артем Оганов вернулся в Россию из США, где он получил все, о чем может мечтать ученый: был постоянным профессором, имел собственную лабораторию, прекрасное финансирование.. В интервью для "РГ" он назвал несколько причин своего решения. А главная - бюрократия замучила. Хочу заниматься наукой.

Александр Горбань: Надо учесть, что он вернулся в Сколково, где созданы прекрасные условия, чтобы заниматься только наукой. Что он и хотел . Я знаю много ученых, которые бы хотели вернуться в Россию. Понимаете, там все-таки другая культура, другой менталитет. Говоря образно, там каждого в "коробочки" помещают. Каждый - в своей. Работать надо строго, как предписано, шаг влево , шаг вправо - нарушение. И работать очень много и очень интенсивно. Множество обязанностей, которые я бы не смог объяснить русскому профессору. Ему придется делать то, что он здесь не делает. Словом, там и в помине нет никаких молочных рек и кисельных берегов. Все очень жестко.

Александр Николаевич, тема "утечки мозгов" для нашей науки одна из самых болезненных. . Вы тоже уехали, но как-то неправильно. Когда в сложнейшие 90-е страну покидали тысячи российских учёных в поисках нормальных условий для работы, вы оставались дома, хотя приглашали в самые престижные зарубежные университеты и институты, а уехали только в 2003 году. Почему?

Александр Горбань: Нельзя детей бросать в трудную минуту. На мне тогда много было завязано - аспиранты, студенты, Красноярская летняя школа, Тобольская летняя школа, где учились талантливые ребята. Да и еще много чего. Конечно, не только на мне, но ответственность чувствовал. В те годы нищеты мы, например, создали в Красноярске научный фонд, чтобы "подкармливать" ученых. А когда ситуация в стране и в науке начала выправляться, решил посмотреть мир.

Кстати, об одаренных детях. Вы стали студентом в 15 лет. Были вундеркиндом?

Александр Горбань: Хлипким, маленьким вундеркиндом, который с утра до вечера не расстается с учебником, точно не был. А был этаким здоровенным, сильным парнем высокого роста, который всем интересовался. Мама учитель, она слишком хорошо меня подготовила к школе, поэтому сразу пошел во второй класс. В последних классах мне стало как-то скучно, за полгода экстерном в Омске закончил два класса и поступил в университет.

По статистике нашу страну покинули сотни тысяч ученых. Сколько, по вашему мнению, достигли успеха?

Александр Горбань: Думаю, это лукавая статистика. Непонятно, кого считают.

Если всех уехавших людей с высшим образованием, то будет очень много, сотни тысяч. Если считать кандидатов наук, уже меньше. Еще меньше - докторов наук. Если же считать живущих и печатающихся за границей ученых российского происхождения, которые стали частью западной науки, то, по всей видимости, счет пойдет максимум на десятки тысяч. Вы, конечно, знаете шутку, что такое американский факультет по математике? Место, где русские профессора учат китайских студентов. Но это уже в прошлом, когда из-за экономического кризиса действительно уезжали высококлассные специалисты.

Говорят, что у нас мозги классные, но кпд низший из за плохой организации нашей науки.

Александр Горбань: Не согласен. И там и здесь есть хорошие и мозги и организация, а есть и то и то плохое. В СССР была единая системы образования, фундаментальной и прикладной науки, технологий. Она была иная, чем в других странах, но единая. Сейчас эта единая цепь разорвалась. Скажем, мы начинаем отставать в образовании. Конечно, на Западе высшее образование далеко не блестящее, но там есть элитные вузы, которым мы серьезно уступаем. На мировом уровне работают МГУ, МФТИ, есть несколько хороших университетов, есть сильные инженерные вузы, но в общем наблюдается отставание. Почему? Там очень быстро подстраиваются под изменения в мире, следят за изменениями потребности, последними достижениями в науке. Идет жесточайшая гонка. Если ты отстал, то умер. Помните, в "Алисе в стране чудес" принцип черной королевы. Чтобы стоять на месте, надо очень быстро бежать. В сырьевой структуре нашей экономики бизнесу не нужно бежать. Ему и так хорошо. Поэтому такой слабый спрос на научные разработки и на первоклассное образование.

Следите за тем, что происходит в нашей науке?

Александр Горбань: Мне кажется, что руководство страны сейчас очень заинтересовано в развитии образования и науки. Это крайне важно. Сейчас ученые бурно спорят о том, как оценивать их труд, говорят, давайте финансировать по числу публикаций. Это мода пришла к нам из Китая. Не считаю, что число статей это соль Земли. Критерий истины.

Но с другой стороны, как понять, вы вообще есть в науке или нет, каково в ней ваше место? Нужно что-то предъявить. Либо публикации, либо зарабатывать миллионы на своих идеях, тогда никакие публикации не нужны. Тогда это прикладная наука. Но если нет ни того, ни другого, то тебя в науке просто не существует. Пустое место.

Кстати, в Англии требуют, покажи и публикации, и миллионы. Там идет соцсоревнование. Каждые пять лет вузы оценивает специальная комиссия. Каждый профессор обязан предъявить несколько лучших работ, каждый департамент в расчете на семь сотрудников должен представить одну "внедрюшку", причем с доказанным экономическим эффектом. Если не вписался, то бюджетное финансирование срезается. Критерии очень жесткие. Здесь свои правила, которым надо учиться. Далеко не всем это удается.

Вам удалось. Ведь сумели в Англии сделали прекрасную карьеру, стали полным профессором, заняли кресло директора престижного научного центра .

Александр Горбань: Вы знаете, что в Оксфордском и Кембриджском университетах остались старые ритуальные столовые, где есть общие кресла, а есть персональные - с табличкой профессоров. Они стоят на возвышении.

Может вам в Нижегородском университете, где работаете по мегагранту, поставить персональное кресло.

Александр Горбань: Подумываю. А если серьезно, то хочется домой. И подтолкнул меня мегагрант. В созданную мной в университете лабораторию пришли очень талантливые молодые ребята. Вообще люди вокруг меня очень хорошие, к науке стало больше внимания. Да и дети остались в России.

Они ученые?

Александр Горбань: Сын сильный математик, но решил заняться программным бизнесом. Одна дочь художник, другая - музыкант. Словом, думаю, но соблазн вернуться большой.