Авторские материалы В Европе запретили ИИ с "неприемлемыми рисками"

Евросоюз первый в мире ввел закон об искусственном интеллекте. Он запрещает компаниям использовать системы, которые представляют риск для человека и общества. Например, фирмам, работающим в Евросоюзе, теперь запрещено применять искусственный интеллект для оценки социального поведения человека на работе или в школе, а также собирать биометрию в реальном времени в общественных местах. Штрафы в случае нарушения закона так высоки, что компания-нарушитель может просто разориться. С подробностями – собственный корреспондент "Вестей ФМ" в Европе Елена Балаева.

Закон об искусственном интеллекте Европейский парламент официально принял еще в августе прошлого года, но компаниям дали еще небольшие время для его применения, и в полную силу он заработал только сейчас.

Начиная со 2 февраля в странах Евросоюза теперь запрещены системы ИИ, представляющие, как говорится в документе, "неприемлемые риски" для безопасности, здоровья или основных прав, за исключением случаев, связанных с "национальной безопасностью".

Список запретов в законе весьма обширен.

Отныне, например, в Европейском Союзе запрещается использование программ на основе искусственного интеллекта, которые оценивают социальное поведение человека. Этот метод известен в мире как "социальный рейтинг", в последние годы его использование в части стран достигло невероятных масштабов. В новом европейском законе так прямо и говорится: "Не допускается распознавание эмоций на рабочих местах или в образовательных учреждениях, университетах или школах".

По-прежнему запрещены манипулятивные системы искусственного интеллекта, использующие обманные технологии для воздействия на поведение людей. В эту категорию попадают, например, голосовые игрушки, которые побуждают детей к опасному поведению.

В список запретов Евросоюза включены системы искусственного интеллекта, которые ищут и используют уязвимости людей или социальных групп. Это те самые пресловутые звонки по телефону, выполненные роботами. С их помощью мошенники выманивают деньги или даже отнимают квартиры у пожилых или просто слишком доверчивых людей.

Распознавание лиц в общественных местах, в том числе с помощью камер видеонаблюдения, также будет в принципе запрещено, но предусмотрены исключения: полиция и спецслужбы смогут использовать такую технологию для расследования преступлений, связанных с торговлей людьми и терроризмом, но только по решению суда.

Компании, нарушающие эти правила, рискуют получить штрафы до €35 млн или 7% от годового оборота, в зависимости от того, какая сумма больше.

В сентябре прошлого года более 100 организаций, включая Amazon, Google и OpenAI, подписали добровольное соглашение о немедленном применении принципов нового закона. Однако такие крупные игроки, как например Apple, отказались от участия в пакте. Тем не менее, как отмечает законодатели, это не освобождает тот же Apple от выполнения требований закона.

Организации, разрабатывающие или использующие искусственный интеллект, должны будут оценивать уровень риска своих систем и сами принимать меры для их приведения в соответствие с требованиями закона.

И вот за это новые правила и попали под шквал критики со стороны участников бизнеса. Например, представители союза этой отрасли заметили, что политики установили жесткие требования и сжатые сроки для компаний, но сами не сделали свою домашнюю работу. Теперь весь риск ложится на компании, работающие с искусственным интеллектом. И это явно не пойдет на пользу именно европейским компаниями. В США в развитие искусственного интеллекта инвестируют миллиарды допоров – и с приходом Трампа это процесс увеличится еще, а в Китае выпускаются чрезвычайно мощные языковые модели, которые, как показал опыт прошлой недели, вполне идут вровень с продукцией Силиконовой долины. И вот, как жалуются представители индустрии, на этом фоне в Европе политики и ставят палки в колеса компаниям, работающим с искусственным интеллектом. Это признают и сами еврочиновники – председатель Еврокомиссии Урсула фон дер Ляйен и президент Евроцентробанка Кристин Лагард в своем блоге согласились – да, конкурентоспособность Европы находится под угрозой и точно на обочине прогресса. Однако они полны оптимизма. По их словам, Европа обладает всеми необходимыми условиями, чтобы наверстать упущенное, поскольку в одном только Евросоюзе на каждый миллион жителей приходится почти столько же выпускников технических специальностей сколько и в США. Правда, они не уточняют, где живут эти выпускники технари – в Европе или все же в Силиконовой долине.