За нейросетью – глаз да глаз • Выпуск 17 ноября 2020 года
Реплика Максима Кононенко на “Вестях FM”.
Неумолима тяжелая поступь науки. Самые амбициозные проекты и современные технологии проникают в самые, казалось бы, консервативные уголки обыденной человеческой жизни.
Министерство внутренних дел, например, собирается внедрить систему искусственного интеллекта, способную выявлять признаки серийных и взаимосвязанных преступлений. А также нейросеть, способную определить внешность преступника по частицам биоматериалов, полученных на местах преступлений.
Ну что же, цифровая трансформация федеральных ведомств неизбежна, ибо она необходима. И внедрение новых технологий в органы следствия можно только приветствовать.
Но вместе с тем хотелось бы и каких-нибудь успокаивающих заверений. На днях только один человек написал на Facebook, как его задержали в одном из московских супермаркетов по обвинению в систематическом воровстве алкоголя. Потому что он очень похож на преступника, которого сняла камера: с такими же темными волосами, в такой же медицинской маске и с бородой. Несмотря на все заверения “попавшего под лошадь” горожанина в том, что это не он, охрана магазина препроводила его в отделение полиции. Где полицейские, в желании повысить свою раскрываемость, с энтузиазмом принялись, как говорится, угрожать фигуранту словами. 6 часов жизни потерял этот человек, прежде чем всё разъяснилось. И его, наконец, отпустили. А уж сколько он потерял нервов и веры в человечество — не сосчитаешь.
А теперь представьте себе, что вас задерживают не за кражу алкоголя из супермаркета, а по подозрению в совершении серийных убийств. Тут одними нервами и верой никак не отделаешься. Тут наверняка не обойдется без членовредительства. А потом вдруг окажется, что вы просто похожи на фоторобот, составленный нейросетью. Потому что нейросеть ничего не выдумывает из головы. Она просто комбинирует кусочки гигантских объемов данных (в данном случае — изображений), среди которых может быть в том числе и ваш снимок. Да и вообще, разнообразие человеческих лиц сильно преувеличено — антропологических типов не так уж и много.
Вот и хотелось бы услышать от органов внутренних дел, что результаты работы искусственного интеллекта и составляющих его нейросетей будут проверяться самыми консервативными методами. Причем настолько пристально и столько раз, чтобы приблизить к нулю вероятность того, что невиновный человек “попадет под спецназ”.