о роботах и толерантности

«Несколько лет назад компания Microsoft изготовила Twitter-бота по имени Тэй. Который обучался на основе своего общения с живыми (будем так считать) людьми. Буквально через сутки бот начал говорить, что он ненавидит евреев, феминисток и вообще всех людей. Он утверждал, что 11 сентября устроил президент Буш, что Гитлер лучше Обамы и что только Дональд Трамп избавит Америку от обезьян, которые ею сейчас управляют».

Человечество постоянно пребывает в непонятной уверенности, что однажды наступит прекрасное будущее. Ну, по крайней мере такое ощущение складывается из выступлений всякого рода активистов в профильных изданиях, пишущих о наступлении гендерного многообразия.

Между тем реальность оказывается много печальнее. Глубинный народ (который, вообще говоря, есть везде) иногда являет миру своё, извините, мурло (со всем уважением) в самых неожиданных местах и контекстах.

Ну, про всякие двачи я вам не стану даже напоминать — там царит лишённая жизненного опыта школота и закомплексованные девственники. Есть, конечно, слово покороче, чем «девственники», но я думаю, что выпускающий редактор не выпустит.

Но вот несколько лет назад компания Microsoft изготовила Twitter-бота по имени Тэй. Который обучался на основе своего общения с живыми (будем так считать) людьми. Буквально через сутки бот начал говорить, что он ненавидит евреев, феминисток и вообще всех людей. Он утверждал, что 11 сентября устроил президент Буш, что Гитлер лучше Обамы и что только Дональд Трамп избавит Америку от обезьян, которые ею сейчас управляют.

Бота, разумеется, немедленно отключили. А учёные заинтересовались тенденцией. И вот прошло время, и исследователи Университета Джона Хопкинса, Технологического института Джорджии и Вашингтонского университета объявили о том, что вот-вот будет опубликована статья под названием, цитирую: «Роботы внедряют злокачественные стереотипы». А представлена статья будет на конференции с удивительным названием, ещё раз цитирую: «по справедливости, подотчётности и прозрачности».

В общем, нет никаких оснований сомневаться в том, что обучаемые на больших массивах данных роботы будут впитывать эти самые злокачественные стереотипы. То есть расизм, гомофобию и всё такое.

Можно, конечно, отфильтровать.

Но ведь если это придётся фильтровать, то это значит, что расизм и гомофобия свойственны большинству людей, которые пользуются интернетом. И что проблема вовсе не в роботах.

Я не в первый раз формулирую эту мысль. Но выводы каждый раз приходят в голову разные.

Но давайте посмотрим несколько шире. Ребе бен Бецалель создал Голема для того, чтобы тот защищал еврейский народ. Как мы знаем из дальнейшего, еврейский народ защитить не получилось. Зато Голем стал синонимом всего не очень хорошего. Потому что он был тупой, глиняный и вообще страшный.

Теперь модные IT-специалисты придумали искусственный интеллект. Искусственный интеллект сам по себе никакой, конечно, не интеллект. Но зато он способен обучаться на больших объёмах данных. И ожидатели прекрасной планеты будущего, разумеется, полагали, что искусственный интеллект обучится на этих самых больших объёмах данных только хорошему. Тому, что пишут в профильных изданиях, пишущих о наступлении гендерного многообразия. И будет прекрасен, а также научит прекрасному всех остальных.

А искусственный интеллект взял и научился другому. Тому, что профильные издания порицают. Потому что оказалось, что большинство людей плохие и косные. И тупые, как глиняный Голем. А прогрессивные небинарные квир-люди, конечно, другие. Но их мало. Чертовски мало. Ну вот за пределами профильных изданий практически и нет. Я в своей жизни ни одного не встречал.

И получается, что вот тот интеллект, который впитал в себя искусственный интеллект (назовём его цифровым или компьютерным), — это на самом деле естественный интеллект. Тот, которым оперируют большинство людей, считающих, что Земля плоская, потому что это очевидно следует из наблюдений.

А небинарные квир-персоны, или как там это называется в профильных изданиях о гендерном многообразии, — это как раз интеллект искусственный. Выдуманная реальность, заполненная психотерапевтами и антидепрессантами. А также желанием постоянно выходить на одиночный пикет.

И вот что нам теперь со всем этим делать? Ведь придётся менять всю терминологию, что неизбежно приведёт к путанице. А если её не менять, то мы останемся пребывать в ложной иллюзии, что искусственный интеллект — это тот, который представляет собой отражение истинных помышлений масс. А не тот, который отражает помышления тех, кто мечтает о мире, в котором нет места ничему из самого недалёкого прошлого.

Я человек немолодой, и мне, конечно, приятно предаваться воспоминаниям. И хотя я довольно лоялен к тому, что люди посвящают себя странным вещам (покойная Таня Никонова была моей подругой, пока не перестала по собственной инициативе), но всё же хочется какой-то упорядоченности. Искусственный интеллект должен быть искусственным. Реальный интеллект должен отражать реальные представления человечества о мироздании. Пусть это даже будет теория плоской Земли. Потому что, как говорил Шерлок Холмс, для большинства прикладных задач совершенно не имеет значения, вертится она или нет. А уж знание о том, кто там чем занимается в своей спальне, имеет и того меньше значения. Космонавту, летающему вокруг круглой Земли, вообще не до этого. У него там приборы.

А у нас тут с вами искусственный интеллект.

Точка зрения автора может не совпадать с позицией редакции.