Авторские материалы Друг, который защитит: ДИТ запустил телеграм-бот "Стопфейк"

Департамент информационных технологий Москвы запустил телеграм-бот для защиты от кибермошенников. Теперь любой желающий может загрузить свою переписку, ее скриншот или голосовое сообщение в бот. Он проверит полученную информацию с помощью искусственного интеллекта и оценит, какова вероятность обмана. Подробнее о том, как это работает, расскажет Мария Глазунова.

Теперь у каждого желающего может появиться друг, который защитит от мошенников. Департамент информационных технологий Москвы в рамках проекта «Перезвони сам», запустил телеграм-бот «Стопфейк». Пока он работает в тестовом режиме и собирает отзывы и предложения первых пользователей. Полноценно его планируют запустить этой весной.

Разработчики рассказали, работает бот с помощью искусственного интеллекта и технологии оптического распознавания текста и речи.

Чтобы начать проверку, достаточно найти бот в "Телеграме" и нажать кнопку «старт». А дальше все просто – чтобы проверить сообщение, достаточно переслать, скопировать или сделать его скриншот. Бот проанализирует то, как составлены предложения, и поможет определить, есть ли в нем признаки мошенничества – такие, как эмоциональное давление, манипуляции, просьбы о предоставлении персональных данных или переводе денег, а также подозрительные ссылки.

Проверим, как это работает. Пересылаем сообщение, в котором нам предлагают отправить деньги на неизвестный безопасный счет.

Обрабатывается запрос меньше минуты. После получаем результат: с вероятностью 80% сообщение отправлено мошенниками. Ниже бот описал признаки, по которым сделал такой вывод: срочный перевод денег и запрос конфиденциальных данных.

Если вам отправили голосовое сообщение, его тоже можно проверить. Бот определяет вероятность мошенничества на основе содержания присланного сообщения или пересказа беседы. Такие сообщения анализируются сервисом в два этапа: сначала определяется наличие синтезированной речи, таким образом бот определяет, настоящий ли голос у отправителя или это дипфейк – сгенерированый голос. Затем проверяется само содержание, то есть текст сообщения.

Проверим и этот способ. Загружаем запись звонка от мошенников. «Алло, здравствуйте, меня зовут Евгений. У вас с сегодняшней даты заканчивается договор на использование городского телефона». Результаты удивили: с вероятностью 17% сообщение содержит синтезированную речь. А вот вероятность того, что сообщение отправлено мошенниками, составила менее 10%. Получается, что в этом случае бот ошибся.

Создатели объясняют, пока искусственный интеллект не может гарантировать стопроцентную точность. Сервис только учится распознавать обман, в то время как мошенники становятся хитрее. Они могут использовать сленг, нестандартные формулировки или голосовые искажения, чтобы обойти алгоритмы.

Но что делать, если бот подтвердил мошенничество? В этом случае сервис рекомендует следовать советам, опубликованным на сайте проекта «Перезвони сам». Здесь можно найти список распространённых фраз, которые злоумышленники используют при разговоре. В этом разделе разработчики создали имитацию переписки, в которой приходят примеры самых распространённых сообщений от мошенников. Оказалось, чаще всего при обмане используются фразы «как можно скорее», «безопасный счет», «ссылка на программу» и «срочно погасить».

Также на сайте можно найти больше 20 чек-листов, в которых доступно и просто расписаны советы на все случаи жизни. Например, как защитить ребенка от интернет-мошенников. Авторы объясняют, для этого каждый родитель должен сначала сам проверить ресурсы, установить ограничения на подозрительные сайты и рассказать ребенку о том, что делать, если ему пишут незнакомцы.

Все полученные знания можно сразу проверить. На сайте представлены интерактивные тесты. Один поможет вам проверить свою бдительность и разоблачить злоумышленников. На картинке изображена, на первый взгляд, совершенно обычная комната, однако все предметы, люди и животные, которые в ней находятся, представляют собой разные жизненные ситуации.

Нажмем, например, на таинственного незнакомца за дверью. Нам предлагают ситуацию: в дверь постучал человек, который позднее представился сотрудником газовой компании. Он сообщил, что управляющая компания вашего дома вместе с обслуживающей газовой компанией приняли решение провести сегодня внеплановую поверку и установку газового оборудования. Ниже – два варианта ответа: «мошенничество» и «не мошенничество». Ситуация подозрительная. Но в качестве эксперимента нажимаем на отрицательный ответ. "Вы ошиблись", – пишет нам сайт. А ниже подробно описывает, почему: это – мошенническая схема, о проведении таких проверок должны сообщать заблаговременно. А их график советуют смотреть на сайте специализированных организаций.

Второй тест поможет оценить, насколько вы готовы противостоять злоумышленникам. Для этого пользователям предлагается пройти небольшой тест – 10 вопросов с вариантами ответов. Например, как вы поступите, если получите заявку в друзья от незнакомца? Или какие действия следует предпринять, если вам сообщают, что вы – участник операции по поимке опасного преступника? Согласиться и следовать указаниям, поделиться информацией с друзьями или прекратить разговор. В конце теста расскажут, насколько вас легко обмануть и какие темы вам стоит изучить получше.