 Система распознавания лиц в подмосковном Одинцово ошибочно идентифицировала невиновного гражданина как преступника, находящегося в розыске. Кандидата филологических наук Федора Ермошина увезли в наручниках, когда он выходил из своего дома.
Оказалось, что система показала 70% сходства с нарушителем, который разыскивается за кражу игровых приставок. Ему показали какие-то бумаги, где было две фотографии: его и нарушителя. По его мнению, сходства никакого, кроме очков и толстовки.
Во время задержания Ермошин был уверен, что это бандиты - настолько нагло и бесцеремонно они себя вели. Только потом он понял, что это сотрудники органов. По дороге они давили на него, что если он чистосердечно во всем признается, то у него еще есть шанс, иначе они посадят его в камеру с извращенцами. Правда, в отделе поняли, что он не тот человек, которого они ищут, извинились и отпустили. Ермошин написал заявление в прокуратуру с просьбой дать правовую оценку жесткому задержанию, в результате которого ему были нанесены ушибы.
Аналитик Никита Кричевский прогнозирует рост таких случаев из-за ошибок в распознавании тех, кто не прячет свое лицо.
"Страшно представить, что будет в столице, когда камеры начнут идентифицировать несознательных граждан с приспущенными масками, к примеру, не полностью закрывающими нос", - заявил он.
Об опасности автоматичеcких решений систем искусственного интеллекта (ИИ) давно предупреждает специалист в области искусственного интеллекта и социальных сетей, президент компании "Крибрум" Игорь Ашманов. Он считает, что необходимо запретить принятие решений ИИ о человеке в автоматическом режиме. Конечное решение, пусть и на основании решений ИИ, всегда должно принимать ответственное лицо и нести за него ответственность. Так же считает президент компании InfoWatch Наталья Касперская. Она отмечает, что ошибки информационных систем абсолютно неизбежны.
Напомним, ранее стало известно, что власти столицы собираются передать структурам МВД фотографии граждан, хранящиеся на сайте mos.ru. А нарушителей масочного режима решили отслеживать через видеокамеры в ТЦ.
источник |
