Google выделяет $10 млн на исследование взаимодействий ИИ-агентов
Конкурс Google проводит совместно с фондом Schmidt Sciences (основан бывшим главой Google Эриком Шмидтом), Фондом кооперативного искусственного интеллекта (Cooperative AI Foundation) и Агентством перспективных исследований и изобретений (Advanced Research and Invention Agency).
Отдельные модели ИИ, функциональность, полезность и безопасность которых взращивалась годами, взаимодействуют между собой совершенно непредсказуемым образом. В экосистемах, где, как предполагается, будут общаться между собой, полностью исключив человеческий фактор, крупномасштабные мультиагентные ИИ-системы, могут внезапно возникнуть неизвестные коллективные модели поведения, сложное, труднопредсказуемое и нерациональное поведение ИИ-агентов, а также риски, до сих пор неизвестные или малоизученные. Например, резкий всплеск экономической активности, новые угрозы безопасности, уязвимости ИИ или ловушки для ИИ-агентов, конкуренция между группами ИИ-агентов и их целями. Не исключена даже версия, что синергия такой экосистемы воплотит на практике модель AGI (Artificial General Intelligence), концепция которой известна пока только в теории.
Moltbook. Зачем искусственному интеллекту соцсеть без людей?
Песочницы, лабораторные исследования отдельных агентов и нескольких агентов изолированно, и даже соцсети для ИИ-агентов пока не помогли – масштабы не те. А ведь эра, когда на арену мировых экономик выйдут ИИ-агенты и мультиагентные системы разных организаций, уже, можно сказать, «на носу». Но вместо обещанного ускорения бизнес-процессов и снижения операционных затрат мировое экономическое и технологическое сообщество рискует столкнуться с высоким риском ошибок, которые обойдутся очень дорого.
Можно ли заранее повысить безопасность и стабильность экосистемы искусственного интеллекта и получится ли ими управлять – вопрос, который и хочет изучить Google DeepMind, приглашая к взаимодействию и обещая финансирование академическим и независимым исследовательским организациям.
Направления, по которым будут принимать заявки:
- Песочницы (sandboxes) и испытательные полигоны с реалистичными условиями для симуляции виртуальных рынков и экосистем и для оценки многоагентной безопасности;
- Наука об агентных сетях, изучение свойств и взаимодействий групп ИИ-агентов;
- Укрепление инфраструктуры ИИ-агентов: стресс-тестирование, обеспечение безопасного межплатформенного взаимодействия;
- Надзор и контроль: разработка методов мониторинга и снижение коллективного вреда в больших масштабах.
Сумму финансирования разделят между собой исследователи, заявки которых победят в конкурсном отборе. Их имена, как ожидается, объявят осенью текущего года.
Смогут ли российские разработчики и исследователи принять участие в этом конкурсе – покажет практика.