Профессор РАН Визильтер: ИИ рано внедрять в госуправление из-за уязвимости

Он отметил, что инструменты искусственного интеллекта уже постепенно начинают функционировать в сфере госуправления. Так, Визильтер напомнил о портале "Госуслуги", в систему которого уже внедрили модернизированных ассистентов. При этом собеседник указал на возможные угрозы, связанные с применением ИИ.

Первой проблемой ИИ профессор назвал его непрозрачность. Он объяснил, что специалисты не могут проследить логику информационных систем, потому что знания ИИ находятся в коэффициентах нейросетевых моделей, которые невозможно прочитать.

"Второй фактор – это то, что они уязвимы. Некоторое время назад был очень популярный пример про атаки на нейросети, которые занимаются компьютерным зрением. Когда предъявляют немного искаженное изображение, распознавание происходит совершенно неверно. Есть известная модель пиксельной атаки, когда буквально один или несколько пикселов изменяет, человек никак не изменяет свое мнение о содержании этого изображения, а нейросеть реагирует неправильно. Но на самом деле точно такие же атаки возможны и на языковые модели, и на мультимедийные модели самого разного вида. Поэтому проблема уязвимости очень важна, особенно в критических приложениях, в том числе в госсекторах", – сказал Визильтер.

Он добавил, что если искаженная нейросетями информация будет доступна через государственные системы, то это приведет к снижению уровня доверия людей к таким системам. Поэтому, подчеркнул собеседник, к внедрению ИИ в госуправление нужно относиться осторожно. По мнению Визильтера, решение всех проблем, связанных с уязвимостью ИИ, займет несколько лет.