Взгляд Максима Кононенко Нейронами нейросети глаголет истина

Реплика Максима Кононенко на "Вестях FM".

За время проведения чемпионата мира по футболу в России система распознавания лиц FindFace Security помогла задержать более 180 человек, включенных в базы правонарушителей. Система распознает лицо человека за полсекунды с точностью в 99 процентов, что позволило, например, вернуть украденный из фан-зоны кубок лучшему игроку одного из матчей. Камера сняла похитителя, а когда этот самый похититель пришел в фан-зону на следующий день, система распознавания лиц его идентифицировала среди десятков тысяч других болельщиков.

Ну, казалось бы, – вот оно, наступившее будущее. Искусственный интеллект нельзя коррумпировать, с ним нельзя договориться, его сложно обмануть. Все оказываются в равных условиях, в которых каждый может выбрать себе стратегию поведения – пытаться нарушить закон или нет.

Но, как это обычно бывает, подвох кроется там, где его меньше всего ожидаешь. Дело в том, что камеры системы распознавания лиц смотрят только на определенные категории населения. А на другие категории населения эти камеры вовсе не смотрят. Американский союз защиты гражданских свобод скормил аналогичной системе распознавания лиц Amazon Rekognition фотографии американских конгрессменов. И что же? Система определила 28 конгрессменов как преступников. В связи с чем правозащитники бьют тревогу и требуют отложить введение системы распознавания лиц в эксплуатацию полицейскими.

То есть защитники гражданских свобод в США считают, что система распознавания лиц ошибается. Потому что конгрессмены, которых эта система раньше не видела, не могут находиться среди внесенных в базу данных системы правонарушителей.

Но ведь это как сказать, правда? Устами младенца, как известно, глаголет истина. Мы не в состоянии осознать, что происходит внутри сложной нейросети, обученной на действительно большом объеме данных. А вдруг она видит то, чего мы с вами видеть не в состоянии? Вдруг ее нейронами, как и устами младенца, тоже говорит истина? И, может быть, американская система назвала 28 конгрессменов преступниками просто потому, что она видит в их лицах что-то такое, чего не видят американские налогоплательщики.

Если это так, то перед нами с вами открываются грандиозные перспективы. Нет, я вовсе не о том, что надо немедленно пропустить через систему распознавания лиц портреты всех до единого граждан страны. Это мелкая утилитарная задача. Но ведь если нейронная сеть может по лицу определить потенциального злоумышленника – значит, ее вполне можно обучить на наборе данных, созданном для поисков потенциально идеального человека с заранее определенным набором параметров. Например, потенциально идеального конгрессмена. Или депутата Государственной Думы.

Хотя и это, конечно, тоже временное решение. В идеале, конечно, нейронная сеть должна не выбирать конгрессменов и депутатов, а заменять их. И тогда, вот просто поверьте, жить в этом мире станет значительно проще.