Эксперт по искусственному интеллекту Андрей Себрант рассказал про эксперимент в израильском суде

Один из главных в России экспертов по искусственному интеллекту - директор по стратегическому маркетингу Яндекса Андрей Себрант в интервью изданию Сolta.ru рассказал об эксперименте с алгоритмом, проведенном в израильском суде. «В Израиле решили тренировать алгоритм, чтобы он мог принимать решения в суде. Анализировали массив простых дел с ясным контекстом происшествий, по которым принимаются бинарные решения — либо штраф, либо 15 суток. Можно было проследить за историей вынесения приговоров в течение нескольких лет и заложить в алгоритм. Приходит новое дело, судья выносит свой вердикт, а люди, ведущие эксперимент, сообщают, какое решение по нему принял алгоритм. На те решения, которые принимает машина, немедленно набрасываются аналитики данных и начинают их изучать. И выясняют чудовищную вещь: у нее есть большой суточный ход. В начале рабочего дня машина выносит более мягкие приговоры, потом жесткость растет, потом снова падает и постепенно восстанавливается. Почему? Оказалось, что чем ближе по времени к обеду, тем приговоры злее, а чем живые судьи более сытые, тем они мягче. И обработка алгоритмом массива дел позволила выявить эту закономерность. Там было много еще разных сюрпризов: оказалось, что алгоритм чудовищный и с точки зрения гендера, и с точки зрения того, какого цвета подсудимый», - рассказал эксперт. «Нами управляют люди. Всегда. Алгоритм сам по себе управлять ничем не может», - делает вывод Андрей Себрант.