Нейросети: как далеко может зайти искусственный интеллект и нужно ли его остановить?

Развитие нейросетей меняет нашу жизнь во многих аспектах. Так, для ученых — ускоряет анализ данных, упрощает работу, помогает делать прорывные открытия. Но технологии вызывают и вопросы, в том числе — о необходимости регулирования этой области, о безопасности использования ИИ и том, какое влияние нейросети в целом способны оказывать на человека.

Владимир Спиридонов

доктор психологических наук, заведующий Лабораторией когнитивных исследований факультета психологии ИОН РАНХиГС

В моей области самым интересным и даже захватывающим были не конкретные работы, а нечто, что происходит рядом с нами. Я имею в виду чат GPT-4, который претендует на то, чтобы быть сильным искусственным интеллектом. Собственно, количество дискуссий, обсуждений того, как это работает и что такое получилось — вот это было действительно очень-очень интересно.

То есть появление этого варианта искусственного интеллекта активизировало дискуссии о том, что такое интеллект, чем человеческий интеллект отличается от машинного, или наоборот, чем машинный — от человеческого, насколько вообще можно смоделировать человеческий интеллект в другом материале.

И с этим связано огромное количество разных трудностей, даже только технических. Например, нерадивые студенты стали делать курсовые и дипломы с помощью чата GPT. Это пока ловится, но только вручную.

С одной стороны, я отношусь к этому с гордостью, потому что, вообще говоря, нейронные сети были придуманы в значительной степени психологами. С другой стороны, это страшно интересная область, я надеюсь, она будет развиваться быстрыми темпами, и мы много чего узнаем про свой собственный интеллект. По мере того, как возникают все более сильные варианты искусственного интеллекта, мы все больше узнаем о себе самих хотя бы потому, что нам нужно сравнивать самих себя с этим новыми монстрами и понимать, чем мы отличаемся, а чем мы похожи. Мы действительно будем лучше понимать самих себя.

Роман Душкин

главный архитектор систем искусственного интеллекта исследовательского центра ИИ по направлению

Транспорт и логистика

НИЯУ МИФИ

Выход GPT-4 в общий доступ — наверное, самый мощный прорыв прошлого года. С учетом того, что инженеры Microsoft, которые анализировали работу этой модели, написали в прошлом году отчет под названием «The packs of AGI», то есть «Проблески искусственного интеллекта общего уровня», то эту модель можно считать именно такой. Поэтому, конечно же, она значима, хотя, лично на мой взгляд, направление выбрано не то. Тем не менее, это тоже один из необходимых шагов, который надо делать.

Я думаю, что задачей искусственного интеллекта как научной области, междисциплинарной области научных исследований, является раскрытие природы нашего собственного интеллекта и разума. Мы, люди, примерно как черные ящики. Почему мы не можем понять природу нашего собственного интеллекта? Потому что, если мы черепную коробку раскроем, там будет биологический субстрат, объективными методами понять природу интеллекта достаточно затруднительно. И поэтому возникла идея: «будем на компьютере моделировать когнитивные процессы, через это поймем».

Домоделировались до того, что искусственные нейронные сети стали такими же черными ящиками, в которых не разобраться.

Их можно раскрыть и посмотреть, там весовые коэффициенты, что-то там происходит, но проинтерпретировать это крайне затруднительно. Так затруднительно, что практически невозможно. Собственно, поэтому основная-то задача не выполняется, по моему мнению.

Еще из интересного: GPT-4 интегрировали с роботом «Ameca», она управляет и голосом, и эмоциями на лице. Новые версии андроида Илона Маска; его компания за два года прошла намного дальше, чем тот же Boston Dynamics за 15 лет. То есть технологии идут семимильными шагами. Google объявил, что они выпускают мультимодальную модель «Gemini», но ролик оказался маркетинговой выдумкой, и выдаванием желаемого за действительное. Думаю, Google повел себя очень неэтично.

Скрещивание генеративных моделей искусственного интеллекта с разными областями знаний дает очень интересные результаты. Большинство людей знают генеративный искусственный интеллект как чат GPT, который генерирует текст, или Midjourney, YandexART, который генерирует картинки, но в работе ученых потребности другие. И первая область генерации, в которую хочется запихнуть систему искусственного интеллекта — это, конечно же, материаловедение и фармацевтика, то есть задача — научить нейросети генерировать молекулы. Соответственно, модель искусственного интеллекта, которая позволит по заданным свойствам генерировать заданную молекулу и подготовить технологию ее производства — вот это будет бомба.

Александр Кислов

профессор, доктор географических наук, заведующий кафедрой метеорологии и климатологии Географического факультета МГУ

Мы применяем предлагаемые ИИ методы для уточнения результатов гидродинамического моделирования в задачах прогноза погоды.

Однако, не все попытки такого рода успешны, то есть не все метеорологические данные можно эффективно улучшить таким способом. Причем некоторые вещи ИИ не способен помочь решить в принципе, поскольку он основан на том, что выполняется обучение на основе предыдущего опыта, суммированного в большом объеме информации.

Однако, если рождается нечто новое (изменения климата, возникновение новых влияющих факторов, появление новых экстремальных явлений, вообще переход количества в качество), то ИИ не сможет помочь в их воспроизведении, тут должна работать физика.

Юрий Лачуга

доктор технических наук, профессор, академик РАН

В сельском хозяйстве искусственный интеллект только начинает использоваться, пока чаще в качестве эксперимента, но эти разработки очень перспективны. Например, доильный робот. Он работает по индивидуальной программе с каждой коровой, учитывает ее особенности: все данные с чипа животного переносятся в компьютерную программу, а та задает, например, режим кормления, доения. И знаете, коровы в очередь становятся на компьютерное доение!

Еще в России создается робот по сбору яблок. Сегодня сады не похожи на те, что были в Советском Союзе — раскидистых деревьев нет, стоит моноствол и на ветвях на расстоянии 3-4 метра от земли растут яблоки. Представляете, как сложно убирать каждое дерево, если речь идет нескольких сотнях гектаров. Робот с искусственным интеллектом может дотянуться длинным манипулятором до нужного места, распознать с помощью компьютерного зрения яблоко, насколько оно созрело, аккуратно его снять и положить в ящик. Это существенно облегчит производителям фруктов жизнь и проблемы с трудовыми ресурсами.

Алексей Рубцов

доктор физико-математических наук, профессор физического факультета МГУ, профессор РАН, руководитель научной группы Российского Квантового Центра

Нейросети и искусственный интеллект очень хороши, чтобы делать простую работу, например, программистскую: они пишут куски кода, может быть, не идеальные, но потом проще часть кода самому вычистить, чем с нуля писать. Мне кажется, это правильная тенденция. Может быть, когда-нибудь они будут активно помогать нам писать научные и околонаучные тексты.

Максим Червяков

заведующий кафедрой метеорологии и климатологии СГУ

ИИ все больше становится частью научного исследования. На данном этапе я, к примеру, использую ресурсы ИИ для написания обзора по какой-то конкретной научной тематике или создаю подборку наиболее релевантных научных публикаций. Думаю, что в скором времени это будет обычным инструментом ученого. Возможно, мы даже будем включать в свои публикации информацию о том, использовался ли ИИ для получения результатов, или написания той или иной части текста статьи.

Вячеслав Дубынин

нейробиолог, доктор биологических наук, профессор кафедры физиологии человека и животных биологического факультета МГУ

Искусственный интеллект — потрясающая методика, которая позволяет во всех сферах науки и бизнеса, даже искусства, достичь каких-то новых вершин.

Я весь год, собственно, начиная с весны, участвовал как нейробиолог в дискуссиях, связанных с искусственным интеллектом, с тем, как работают нейросети, какие у них ограничения, и все это очень интересно. И мы, конечно, как нейробиологи рады и счастливы, что принцип работы мозга получил отражение в этих нейросетях. В свое время, когда я еще был молодым научным сотрудником, только защитившимся, в начале 90-х, я участвовал в нейрокомпьютерных исследованиях, и мы рассказывали, как работают сетки в мозге, как меняется вес связей, когда идет обучение, почему нужны слои, почему нужно подкрепление, тормозные нейроны. Это все постепенно развивалось и за последние, наверное, 6-7 лет сделало очень мощный скачок. А в этом году все это стало вдруг доступным.

ИИ во всех сферах науки будет очень полезен. У нас это, например, чтение электроэнцефалограммы, чтение фМРТ или, например, разработка физиологически активного препарата. Так, работая с регуляторными пептидами, мы перебираем порой до сотни структур для того, чтобы найти какой-нибудь эффект, условно, снижение аппетита или исправление послеродовой депрессии. С помощью обучающихся нейросеток это можно делать гораздо эффективнее.

Для нейробиологов еще важно то, что поведение самих нейросеток позволяет и в деятельности живых нейросетей в каком-то смысле лучше разобраться, потому что мы же можем отслеживать в искусственных сетках каждый элемент, а навтыкать тысячи электродов в мозг крысы или обезьяны — не можем.

ИИ помогает и в написании работ. Если вы сами работали с каким-нибудь аналогом GPT-чата, вы знаете, что вы должны очень точно задать вопрос, получить некий текст на четверку с минусом. При этом использование такого варианта ИИ позволяет пройти через самый порой длительный период, когда вы создаете первичный вариант текста — с этим текстом уже можно работать, править, находить ошибки. Это позволяет более эффективно, например, создавать статьи, публикации, вовсе не перекладывая на ИИ всю работу, а используя его как вспомогательный, но очень эффективный инструмент.

Александр Самардак

доктор физико-математических наук, и.о. ректора СахГУ

Сейчас искусственный интеллект помогает быстрее конструировать фармпрепараты и биологически активные вещества, проводить моделирование их воздействия на определенные болезни, бактерии и вирусы.

Я думаю, он поможет справиться с теми болезнями, которые были непобедимы, в частности диабет, ожирение, некоторые виды рака. В 2023 году вышел ряд научных работ, которые говорят о том, что в ближайшее время будет прорыв.

Развитие технологий искусственного интеллекта — процесс стремительный и, на мой взгляд, многие недооценивают мощь и стремительность того, что сейчас происходит. В науке ИИ может помочь с систематизацией и анализом накопленных знаний, что приведет к важным научным открытиям в разных областях. Позитивные изменения нашего образа жизни неизбежны.

Я сейчас сам участвую в инновационном проекте: с несколькими экспертами из университетов и академического института мы делаем «помощника ученого» на основе искусственного интеллекта. Это такая платформа, где генеративная сеть будет помогать ученому собирать и анализировать информацию, делать ее более доступной для понимания, быстрее входить в новую научную тематику, чтобы оперативно отвечать на запросы индустрии. Таким образом можно будет избавить ученого от рутины и оставить больше времени на творческий процесс.

Павел Волчков

кбн, исполнительный директор Центра живых систем и заведующий лабораторией геномной инженерии МФТИ

В своей работе мы активно применяем алгоритмы ИИ. Все, наверное, слышали про ChatGPT. Это машинное обучение, используемое для лингвистики, лингвистических моделей. У каждой IT-компании, не только Google, Яндекс и так далее, теперь есть такой свой чат. Это лингвистические модели.

Геном — это тоже язык. В геноме спрятаны все вариации этой программы и реализации нашего генотипа. Уже существует алгоритм ИИ, с помощью которого можно интерпретировать кусочек гена, например, переводя с языка нуклеотидного, аминокислотного на язык структуры белков. В этом направлении, например разрабатываются такие программы как «AlphaFold», система на основе машинного включения. В этом направлении работает большое количество групп, и мы, в частности. Делаются большие прорывные исследования.

Глобально мы, конечно, хотим пойти дальше этой промежуточной стадии белков (хотя здесь тоже огромное поле для деятельности). Мы хотим понимать, интерпретировать конкретный геном, особенно в тех спорных моментах, где видим расхождение референса, и мы хотим понять клиническое значение: патологическая эта аминокислота или нет. Поскольку таких расхождений в геноме не одно, а много, то важно понимать всю совокупность.

Евгений Кравченко

к.ф.-м.н., заведующий лабораторией новых методов регистрации ионизирующих излучений Междисциплинарного центра физики элементарных частиц и астрофизики Физического факультета НГУ

Мы непосредственно применяем метод машинного обучения в своей работе. Так как мы занимаемся астрофизикой, одна из задач — регистрировать гамма-кванты сверхвысоких энергий, которые к нам приходят из далекого космоса.

Такие гамма-кванты взаимодействуют с атмосферой, но найти их достаточно сложно, потому что также прилетает еще много-много протонов — заряженных частиц, которых в сотни, в тысячи раз больше. Прилетевшая из космоса частица взаимодействует с атмосферой, и рождает, в зависимости от энергии, десятки тысяч или даже несколько миллионов вторичных частиц. Вот эти «ливни» от гамма-квантов и от протонов нужно уметь отличать с помощью различной регистрирующей аппаратуры.

Для этого можно использовать как раз методы машинного обучения. Проведенные нами модельные расчеты показали, что данный метод определяет тип ливня с лучшей эффективностью по сравнению с ранее использовавшимися методами. В настоящее время мы продолжаем работы по развитию данного метода с целью использования его при обработке реальных набранных данных, чтобы получить новые знания. ИИ — очень перспективное направление.

Евгений Павловский

заведующий лабораторией аналитики потоковых данных и машинного обучения Механико-математического факультета НГУ

В данный момент мы работаем над созданием моделей машинного обучения для применения в медицине, в учебных целях.

Также исследуем возможности искусственного интеллекта в целом: как они могут усилить или ухудшить экспертизу врачей. Мы показали, что возможно повышение качества диагностики опухолей мозга: обведение контуров, более точный подсчет объема новообразований.

Кроме этого, пытаемся исследовать возможности квантовых вычислений для искусственного интеллекта.

Кажется, до конца не осмыслен потенциал появившегося кандидата в общий искусственный интеллект, и еще более непонятно его влияние на общество, на традиционные институты вроде образовательного процесса. Поэтому скорее ждем широкой общественной дискуссии о нужности общего искусственного интеллекта, о его влиянии на детей и взрослых.

Александр Родин

руководитель Лаборатории прикладной инфракрасной спектроскопии МФТИ, д. ф.-м. н., исполнительный директор научно-технического центра мониторинга окружающей среды и экологии МФТИ

Нейронные сети стали рутинным инструментом, без них просто невозможно продуктивно работать, это абсолютно необходимый рабочий инструмент. В своей области применяем его для анализа данных, в частности мы разработали комплект оперативной ледовой разведки для Северного морского пути. У нас нейронные сети занимаются обработкой радиолокационных изображений, их интерпретацией. В задачах экомониторинга с помощью нейронных сетей мы уточняем спутниковые данные более детальными данными беспилотников, также анализируем спектральных данные и еще много что.

Владимир Каныгин

заведующий лабораторией Ядерной и Инновационной Медицины НГУ, к.м.н., доцент

Наиболее значимыми направлениями в развитии науки в России я бы отметил применение искусственного интеллекта и нейронных сетей в практической медицине, как на уровне обычной поликлиники, так и в направлении телемедицины. Особо необходимо подчеркнуть возможность использования ИИ в научных исследованиях направленных на изучение и совершенствование терапии онкологических заболеваний.

Основной проблемой в применении ИИ в медицине остается недостаточное количество квалифицированных специалистов, способных органично сочетать медицинскую подготовку с инженерно-информационной и нанотехнологической.

Виктор Матвеев

Научный руководитель

Объединенного института ядерных исследований, академик РАН

Действительно, в физике сбор, обработка экспериментальных данных, получаемых на современных научных установках, уже сейчас идет с использованием методов искусственного интеллекта.

Но также алгоритмы ИИ вошли в социальную жизнь: банки, образование, медицина и др. Это очень интересная, но непростая тема.

Тут важно, что те люди, те специалисты, которые развивают сейчас искусственный интеллект в мире, понимают, что сейчас должны очень осознанно вырабатываться правила, по которым эти новые методы должны развиваться.

ИИ — это такая своеобразная машина, такой тончайший инструмент, который позволяет достичь огромных результатов, но ответственность стоит за людьми. Поэтому важно думать, как сделать так, чтобы это развитие не нанесло вреда человечеству, когда все еще не особенно понятно, как эти программы принимают свои решения. Так что, это тоже тонкая вещь, требующая очень колоссального внимания от конкретных специалистов, которые создают эти методы, но в том числе и философов, логиков, юристов. Все это в конечном итоге должно приносить только пользу.

Алексей Огнев

проректор СахГУ, профессор ДВФУ

ИИ не остановить, да и не нужно. Задача — научить правильно использовать его мощь.

Сейчас губернатор Сахалинской области проводит эксперимент по внедрению инструментов ИИ во все сферы государственного и муниципального управления: здравоохранение, образование, транспорт и т.д. Аналогичную программу нужно запустить в науке и образовании — отдельный конкурс по практическому внедрению инструментов ИИ в научно-образовательную деятельность ВУЗов и НИИ.

Елена Брызгалина

к.ф.н., заведующий кафедрой философии образования философского факультета МГУ имени М.В.Ломоносова, руководитель магистерской программы «Биоэтика», член комиссии по биоэтике МГУ, Член этического комитета НТУ «Сириус»

Сфера моего научного интереса — этическое регулирование высокорискованных научно- технологических биомедицины и искусственного интеллекта. В 2023 году рядом стран были сделаны шаги для формулировки позиций относительно рисков развития ИИ и его регулирования: осенью 2023 — указ президента США; летом 2023 в Евросоюзе закон разделил системы ИИ в зависимости от риска, с указанием на те, что имеют неприемлемые риски; летом 2023 года Китай принял 24 правила для регулирования ИИ, в том числе в контексте ключевых социалистических ценностей. Представители бизнес-структур и ученые во не имеют общей позиции по вопросу регулирования ИИ: от требования временного моратория на обучение мощных систем до протестов против регулирования как фактора, способного подорвать конкурентноспособность стран и компаний.

Стала очевидна невозможность создания наднациональных регулирующих и надзорных организаций, в мире не складывается тренда в национальном регулировании. Научно- технологический суверенитет России связан с проработкой полноценного регулирования использования ИИ в разных сферах. Закон о регулировании рекомендательных технологий, вступивший в силу 1 октября 2023 года, и кодекс этики ИИ 2021 года недостаточны для сбалансированного развития ИИ в нашей стране между крайностями тотального контроля и как следствия возможного торможения разработок, с одной стороны, и рискованным безудержным развитием цифровых технологий, с другой стороны. Думается, что задача создания полноценной регуляторики — вызов для 2024 года.

В основе развития нейросетей и ИИ — фундаментальные вопросы о природе человека, образе желательного будущего, целях научно-технологического развития. ИИ массово создаются индивидуальные модели организмов. Системы ИИ способны усугубить тенденцию к коммерциализации таких сфер жизни как медицина и образование, так как создают условия для больших баз данных как объекта коммерческого интереса. При применении ИИ в медицине жизнь становится предметом постоянного мониторинга, акценты в понимании здоровья смещаются с биографических на биологические характеристики. То есть, под здоровьем больше не понимается способность достигать определенных жизненных целей и выполнять рутинные задачи. Здоровье оказывается комплексной характеристикой оцифрованной модели молекулярно-биологических и физиологических процессов конкретного индивида. Это не может не волновать философов, эти проблемы составляют предмет моих исследований.

В кодексе этики ИИ Россия одной из первых в мире стран сформулировала пять рисков и угроз, которые сопровождают внедрение «цифры» в жизнь: дискриминация, потеря приватности, потеря контроля над ИИ, причинение вреда человеку ошибками алгоритма, применение в неприемлемых целях.