Ещё

Будет ли искусственный интеллект управлять людьми 

Будет ли искусственный интеллект управлять людьми
Фото: Российская Газета
Обо этом шла речь на «круглом столе» в  , организованном «Российской газетой». Собрались ведущие специалисты, изучающие вопросы искусственного интеллекта ("ии") и работу человеческого мозга: , академик РАН, вице-президент РАН, руководитель отдела фундаментальной и прикладной нейробиологии Центра социальной и судебной психиатрии им. В. П. Сербского; М. А. Пирадов, академик РАН, директор Научного центра неврологии; К. В. Анохин, академик РАН, директор Института перспективных исследований мозга .
Полтора года назад, в октябре 2018-го, на аукционе Christie"s был продан портрет за полмиллиона долларов. Это была первая в истории картина, написанная искусственным интеллектом. Он вначале проанализировал 15 000 портретов за последние пять веков — и написал свой, вполне себе оригинальный. Через полгода американская компания Warner Music заключила первый в мире контракт с исполнителем — интеллектом Endel. За год эта искусственная нейросеть обещала выпустить несколько дисков. Вскоре в  появился и первый виртуальный композитор AIVA, пишущий симфонии. Его, кстати, признала как равного профессиональная музыкальная ассоциация. Тремя годами ранее другой «ии», проанализировав 11 тысяч неизданных книг, «сел» и написал два романа и повесть. «Ии» сегодня может сочинять стихи, придумывать сказки, даже лепить скульптуры. Да, не уровня Пушкина, братьев Гримм и Родена. Но главное — он реально творит. Занимается тем, что, казалось, всегда было сферой живого, человеческого сознания.
Владимир Чехонин: Вы правы, «ии» поднялся до небывалых высот. И тем не менее он — вторичен. Ведь интеллект работает по алгоритмам, которые закладывает человек. Хотя сейчас идут разработки «ии», способного на неожиданные, не поддающейся стандартной логике решения. Но даже в этом случае программу с возможным креативом пишет, прогнозирует этот всплеск креатива ее создатель, программист-нейрофизиолог. Кто во всех приведенных вами примерах вложил элементы человеческого сознания в программу нейросети? Кто поставил задачу написать портрет или роман, или четверостишие? Человек. Оторвать машину от него невозможно. На данном во всяком случае этапе. Программист-нейрофизиолог предполагает те осознанные действия интеллекта, которые выглядят, как его собственные, разумные решения. В будущем, конечно, «ии» наверняка пойдет и дальше.
А, может, уже пошел? Термин искусственный интеллект впервые прозвучал в 1956 году на научной конференции в Дартмутском университете в США в речи ученого . Спустя всего 61 год была создана поразившая огромное количество шахматистов интеллектуальная программа AlphaZero. 5 декабря 2017 года она за 4 часа в 100 партиях разгромила в пух и прах — нет, не сильнейших шахматистов мира, с ними к тому времени легко уже расправлялась компьютерная программа Stockfish 8, анализировавшая немыслимые 80 миллионов ходов в секунду. AlphaZero разгромила именно ее. И как! До начала игры «ии» были известны лишь две вещи: как ходят фигуры на доске и цель игры — мат. Больше ничего, вообще. Интеллект начал с нуля и через час самообучения стал сильнейшим игроком на планете. Честно говоря, даже трудно представить, как далеко шагнет «ии» уже в следующие 60 или 100 лет. Терминатор, Ария из фильма «На крючке», репликанты из «Бегущий по лезвию» могут показаться по сравнению с ним надувными шариками из .
Михаил Пирадов: Да, представить сложно, но еще сложней предсказать — к чему развитие «ии» в итоге приведет. Ведь главное его отличие от обычных компьютерных программ — возможность самообучения, самосовершенствования, не зря ведь его называют еще нейросетью по аналогии с мозгом. Другими словами, «ии» сам себя может «сделать». И каким он себя «сделает» — еще вопрос, из которого вытекает другой: а доживем ли мы как цивилизация до превращения «ии» в подобие Сверхразума? И вообще: существует ли в принципе предел возможностей «ии»? В конце концов не станет ли он доминировать над человечеством? По космическим меркам наш мир живет секунды. Конечно, это довольно спекулятивная вещь, но есть предположения, что мы не первая цивилизация на Земле. Но, если предположить хотя бы на миг, что какие-то цивилизации были до нас, то что привело к их исчезновению — термоядерные конфликты вследствие столкновения разумных существ друг с другом или столкновения с искусственным интеллектом, вышедшим из-под контроля?
Доживем ли мы как цивилизация до превращения искусственного интеллекта в подобие Сверхразума? И существует ли в принципе предел возможностей «ии»?
Возвращаясь в день сегодняшний, замечу: далеко не все современные лидеры научно-технического прогресса так уж радостно прогнозируют совершенствование «ии». , например, тратящий свои миллиарды не на фешенебельные яхты, как многие другие мультимиллиардеры, а на поднятие человечества на более высокую ступень развития, считает, что «ии» очень скоро станет пострашнее ядерной бомбы. И он в таких прогнозах не одинок. Так что давайте пока поговорим о том, что уже есть или появится в недалеком будущем с помощью «ии».
Найдено лекарство от рака
Давайте: беспилотные машины, самолеты, медицинская диагностика, создание новых лекарств, абсолютно весь быт, начиная от приготовления пищи и заканчивая стиркой, глажкой домашним роботом, поливкой растений, заказом пиццы или десертов из ресторана к приходу хозяина, все банковские операции, любые общения с клиентами по любой ситуации, «ии» вместо судей, военные системы, воюющие без присутствия человека на поле боя… Что еще?
Константин Анохин: Много чего. Но заметьте: перечисленные функции «ии» — это задачи для узконаправленной нейросети. Той, которая сильна в чем-то одном: вычислении, распознавании лиц, оперировании какими-то данными, будь то банковские, медицинские или военные. Благодаря этому вы всегда сможете отличить «ии» от человека — вспомните дублей, которые изготавливали для себя научные сотрудники НИИЧАВО в фильме «Понедельник начинается в субботу».
Следующим придет универсальный «ии», который, как и человек, будет способен на разные действия и операции. Сейчас он решает сложную математическую задачу, потом уберет квартиру, приведет ребенка из детсада, накормит его обедом. Сегодня подобное невозможно, но многие научные центры работают над этим. Фундаментально важен следующий, третий шаг. Искусственный интеллект пока еще — только про «делать», не про «ощущать». Ни один самый мощный «ии» не знает о своем собственном существовании. Сможет ли человек создать «ии»-системы, которые будут обладать внутренним «я», самоидентификацией, субъективным опытом? Другими словами, существовать на том же уровне бытия, что и мы? И, если да, то кто и как будет решать вопрос о прекращении «жизни» этих существ?
Почему «ии», обладая фантастической памятью, вычислительными способностями, вариантными возможностями, до сих пор не «подсказал» ученым пути создания лекарств от самых агрессивных форм рака, рассеянного склероза, мышечной атрофии, от того же коронавируса?
Владимир Чехонин: По сути, на руководимый мной Совет по научному сопровождению Национальной лекарственной политики возложена ответственность за поиск новых фармпрепаратов, поэтому я отвечу. На