Нейросеть, покажи личико!

Итак, как госпожа профессор рекомендует отличать ИИ-текст "на глазок"? По мнению Роббинс, искусственный текст похож на "словесный салат". В нем смешаны текстовые шаблоны, сочетание которых дает псевдосмысл, не связанный с реальностью. Дело в том, что так работают языковые модели. Для человека слово объединяет означающее ("дерево") с означаемым (настоящим деревом, деревом на картине, фото, в памяти и пр.). Языковые же модели LLM нацелены только на означающие. LLM пишет текст посредством авторегрессии: выдает следующее слово на основе предшествующих. Поэтому продолжить фразу "Кошка села на..." для нейросети вполне вероятно "стул". Ведь это статистически вероятно для многих случаев глагола "сесть"! Живой человек, глядя на красный стул или воображая таковой, напишет: "Этот стул красный". ИИ пустится в пространные рассуждения вроде: "При рассмотрении эстетики мебели важно учитывать, что цвет играет важную роль как в визуальной привлекательности, так и в функциональном дизайне. Красный, как тёплый тон, может создавать динамичные акценты, но в то же время создавать проблемы с точки зрения пространственной гармонии". Иными словами, очевидно, что нейросеть не способна представить себе такой простой бытовой предмет, как красный стул. Как универсальное правило Холлис Роббинс предлагает следующий постулат: если при чтении вы не видите никаких образов и не порождаете ассоциации, скорее всего, текст генерировал искусственный интеллект. Также на работу ИИ указывают формулировки типа "речь идёт не только о X, но и о Y" или "вместо A следует сосредоточиться на B". Эти выражения профессор называет "вычислительным хеджированием" (в экономике это страхование инвесторов от финансовых рисков). Так как LLM знает только взаимосвязи между словами, а не между словами и миром, он "страхуется", чтобы его не поймали на незнании. "Перестраховка" – ее золотое правило. Искусственный текст идеально сбалансирован: каждому аргументу есть контраргумент. Предложения, созданные нейросетью, обычно неконкретны, в них нет точных деталей. В материале об образовании ИИ упомянет "подготовку учащихся к будущей работе" и "развитие навыков критического мышления", но не назовет конкретных имен, количество учеников, рабочие моменты обучения (кому-то не хватило ручки) и пр. Язык ИИ обычно абстрактен. Нейросеть хорошо справляется с годовыми отчетами и корпоративными коммуникациями, которые зачастую пишутся не для того, чтобы их читали и осознавали, но для "пыли в глаза". Зато она насытит такой текст модными терминами и словосочетаниями типа "взаимодействие с заинтересованными сторонами" или "стратегические инициативы". Но, по сути. Это ни о чем. Также некоторые пользователи ИИ-текстов отметили, что их "техническим" маркером являются длинные тире, расставленные к месту и не очень. Увидели этот признак – статью писал робот. Завершает свои рекомендации Холлис Роббинс с юмором: дайте сомнительный текст нейросети и спросите, кто его писал. Она себя узнает!