Александр Голышко: Привет, инфорги!
Александр Голышко, ведущий аналитик, АО «НПО РусБИТех», к. т. н. Александр Голышко: Привет, инфорги!
«Я боюсь, что обязательно наступит день, когда технологии превзойдут простое человеческое общение, и мир получит поколение идиотов»
Альберт Эйнштейн
Просторы Интернета и социальных сетей переполнены сегодня информацией о том, что в ноябре прошлого года компания Илона Маска OpenAI запустила чат-бот ChatGPT (Generative Pre-trained Transformer), который, являясь представителем т.н. генеративного искусственного интеллекта (ИИ) на базе нейросети, сразу же произвел переполох в ИТ-индустрии. ChatGPT может генерировать весьма качественный контент, да и вообще все что угодно: отвечать на вопросы, писать код, переводить тексты, генерировать рассказы на заданные темы. И это лишь малая часть того, на что он способен.
Возможности ChatGPT уже оценили школьники и студенты, которые начали его использовать для решения домашних заданий, дипломов и написания эссе. Все зашло настолько далеко, что школы Нью-Йорка и Сиэтла запретили использовать ChatGPT на своих компьютерах и сетях, объяснив это негативным влиянием на обучение. Преподавателям уже сложно определить, когда ученики используюсь ChatGPT, потому что нейросеть выдает каждый раз разные и в то же время понятные и правильные ответы.
А еще ChatGPT отлично справляется с точными науками: математикой, геометрией, биологией, химией и физикой. С гуманитарными предметами чуть сложнее, потому что база ChatGPT преимущественно состоит из англоязычных источников, да и обучается нейросеть преимущественно на запросах на английском языке, однако ChatGPT уже смог получить магистерскую степень по экономике в университете Пенсильвании. Мошенники на сайтах знакомств уже используют ChatGPT для автоматизации переписок с девушками. Известный журнал Clarkesworld прекратил прием рукописей от новых авторов, потому что редакцию завалили банальными текстами, сгенерированными с помощью ChatGPT. Только в феврале 2023 г. было выписано 500 отказов на такие тексты. В свою очередь, художники также почувствовали серьезного конкурента, который заполняет рынок удивительными картинами на любой вкус.
Одна из главных и часто встречающихся возможностей ChatGPT — работа с кодом. Разработчики могут использовать ChatGPT для отладки кода, и нейросеть сама найдет и исправит ошибки. Переписать функцию с одного языка на другой также не проблема. Хакеры уже тестируют ChatGPT, и понятно зачем. Уже сейчас ChatGPT способен написать простой скрипт на Python для шифрования файлов. Эксперты считают, что в будущем этот бот сможет написать код для удаленного шифрования чужого устройства, то есть точно также, как работают программы-вымогатели на Windows.
И вот уже звучат опасения, что подобные боты (а их сейчас наплодится немало) станут обладать «человеческим» разумом. ИТ-индустрия получит, прежде всего, огромные риски кибербезопасности. Остальные риски также присутствуют, и вот уже тестируются нейросети, способные отличить творение человека от творений сообщества ChatGPT.
Однако, как отмечают специалисты, пока что сенсационность многочисленных интеллектуальных достижений ИИ-систем типа ChatGPT сильно обесценивается отсутствием у этих систем собственно понимания. Какие бы сложные экзамены ни сдавали самые продвинутые из современных генеративных ИИ, какие бы сложные интеллектуальные функции они бы ни выполняли, — они работают исключительно за счет оптимизации статистически наиболее вероятного выбора очередных слов и ничего не понимают в обработанной информации. Последнее, как известно, определяется тем, что они не перекодируют свою память в свете новой информации, меняющей интерпретацию уже имеющейся информации в их памяти, сформированной на стадии обучения ИИ. Иначе говоря, если наш мозг активно меняет наше понимание прошлых событий в свете новой информации, то ИИ так не умеет. Пока не умеет. Дайте срок, и он научится…
В целом разумный ИИ может появиться в следующем десятилетии, но уже сейчас людям стоит отнестись к этому серьезно. Десятки миллионов лет потребовались эволюции для создания продвинутого биологического интеллекта млекопитающих, работающего, как отмечают эксперты, на основе материальной цифро-аналоговой гиперсети мозга.
Когда несколько сот лет назад дальнейшее развитие биологического интеллекта млекопитающих уперлось в ограничения масштаба и свойств этой гиперсети, эволюция нашла способ преодоления данных ограничений. Человек разумный, — стал обладателем принципиально нового типа гиперсети – культуры обмена мыслями. Люди не только способны обнаруживать существование других умов и понимать, что у этих умов есть свои убеждения, но также способны формировать сети доверия, построенные на общих намерениях, убеждениях и ценностях. Во многом поэтому люди перестали быть животными и, совершив множество колоссальных прорывов, создали цивилизацию. Впрочем, у когнитивной культуры, как системы познавательных процессов, есть свой предел, как в плане потенциальных масштабов ее расширения, так и в плане её базовых свойств. Дальнейшее эволюционное развитие биологического разума, казалось бы, уперлось в ограничения.
Однако эволюцию не остановить – взрывной прогресс ИТ кардинально изменяет инфосферу человечества. Происходят столь радикальные изменения в масштабах и устройстве распределенных когнитивных сетей, что уже правомерно говорить о формировании нового типа культуры, которая принципиально отличается от традиционной культуры обмена мыслями. Теперь акторами когнитивных сетей, помимо людей, становятся алгоритмы. Вследствие чего культура перестает быть культурой обмена мыслями людей, превращаясь, как ее уже называют эксперты, в алгокогнитивную культуру. Свойства этой гиперсети таковы, что, попав в неё, люди постепенно превращаются в инфоргов (информационные организмы, связанные с биологическими агентами и инженерными алгоритмическими артефактами в глобальной среде — инфосфере), а управление гиперсетью постепенно переходит в ведение алгоритмов. Переход к алгокогнитивной культуре радикально меняет многие ключевые культурные практики людей.
Наши деды и еще сотни поколений формировали свой разум, постигая картину мира и научаясь тысячам вещей, ежедневно задавая десятки и сотни вопросов родным и близким, друзьям и разнообразным профессионалам (наставникам, учителям, мастерам в своем деле и т.д.). В XXI веке, в результате существенного расширения информационно-коммуникационной среды сетью Интернет, разум поколения Z стал формироваться иначе. Стало возможным задавать вопросы не только разнообразным индивидам, но и коллективному разуму, формируемому с помощью поисковиков, соцсетей, рекомендательных систем, ну а теперь и генеративным ИИ, конечно.
Причем, заметим, подобный способ формирования разума использовался всего лишь одним поколением. И насколько оно отлично от предыдущих, видно невооруженным глазом. С распространением генеративных диалоговых ИИ вроде ChatGPT способ формирования разума вновь начал кардинально меняться. Теперь это будет происходить в процессе все того же задавания вопросов, но отвечать на них теперь будут уже не только индивиды и коллективный разум людей, но и генеративные диалоговые ИИ. А поскольку последние будут развиваться несравнимо быстрее индивидов и их коллективного разума, то со временем влияние генеративных диалоговых ИИ на формирование разума людей станет доминирующим.
И вот уже специалисты отмечают, что в результате такого изменения способа формирования разума люди будут превращаться в новый подвид Homo sapiens – инфоргов. Соответственно будут меняться существующие на Земле типы культуры, переходя в новую алгокогнитивную форму. В общем, пока прогрессивное человечество ждало чего-то непонятного от наступающей неведомой техносингулярности (когда ИИ превзойдет-таки человеческий разум), приходит серьезное изменение самого человечества.
Вполне возможно, вместо порабощения самих людей каким-либо машинным сверхинтеллектом, наступит эра «неослабевающей банализации» человеческого сознания генеративными диалоговыми ИИ – тупыми как пробка и ничего в мире не понимающими, но способными стать необоримыми (и столь желанными) ментальными вирусами. Несомненно, эти ИИ расскажут и про Эйнштейна, и про его высказывания, но вряд ли заденут потомков за живое. Как точно подметил когда-то Рэй Бредбери, «человечеству дали возможность бороздить космос, но оно хочет заниматься потреблением: пить пиво и смотреть сериалы».
Говорят, окончательно поймут сказанное выше лишь наши правнуки (про многих внуков-инфоргов, не выпускающих из рук смартфонов, уже многое ясно), которым придется-таки получать «настоящие» знания, развивать «настоящую» науку (хотя кто и как будет это получать и развивать сегодня не очень понятно). Впрочем, наиболее тонко чувствующие профессионалы искусства уже приблизились к такому пониманию.
Что касается неведомой техносингулярности, то она, возможно, вообще не наступит из-за принципиальной неповторимости интеллекта людей. Так давайте же надеяться на последнее, господа инфорги.