Всевидящий «Окулус»

С середины февраля на базе подведомственного Роскомнадзору Главного радиочастотного центра начала работу информационная система «Окулус». Ее задача — выявлять контент, нарушающий законодательство России. В первую очередь речь идет об экстремизме, терроризме, призывах к незаконным действиям. Особенность этой системы в том, что в основе ее работы — искусственный интеллект. Именно он будет находить контент, который подлежит блокировке.

До внедрения «Окулуса» контент проверялся вручную. За один рабочий день сотрудник Главного радиочастотного центра мог оценить 106 изображений и 101 видео. Искусственный интеллект способен в сутки проанализировать 200 тысяч единиц контента.

Систему «Окулус» начали тестировать в декабре прошлого года, интегрировать в январе, и вот теперь она заработала в полную силу. Главная идея в том, чтобы выявлять опасный контент, как только он появился в Сети, чтобы неподобающие картинки и видео не успели распространиться и запомниться аудитории.

«Окулус» — это нейросеть, и перед тем, как приступить к работе, она прошла обучение. В сеть загрузили данные, какой контент приемлемый, а какой — незаконный. Соответственно, искусственный интеллект будет отделять зерна от плевел, руководствуясь принципом подобия. И все-таки возникает вопрос: а что если электронный разум ошибется и поставит экстремистскую метку на вполне безобидное фото или видео?

«Окулус» должен выявлять экстремистскую тематику, призывы к массовым беспорядкам или самоубийствам, рекламу наркотиков и другое противоправное содержание. В перспективе до 2025 года нейросеть планируется доработать и усовершенствовать, чтобы она умела разбирать и определять опасное содержание в сложных рукописных текстах и рисунках.

По данным Генпрокуратуры России, в прошлом году в стране зарегистрировано более полутора тысяч преступлений, связанных с экстремизмом. В большинстве своем это распространение недопустимого контента в интернете.

Может ли человек получить судимость, если нейросеть ошибется? Этот вопрос мы адресовали адвокату Рустаму Чернову. Эксперт успокоил – исключительно на искусственный интеллект в уголовных делах правоохранительная система не полагается.

По словам эксперта, «Окулус» можно воспринимать как техническое средство, режим, использование которого подпадает под Закон «Об оперативно-разыскной деятельности». На первом этапе, когда встает вопрос о возбуждении уголовного дела, сотрудник полиции предоставляет материалы с признаками преступления. Таким материалом может стать фото, которое человек или искусственный интеллект обозначили как экстремистское.

 – Но затем вся эта информация проверяется следователем, назначаются экспертизы и уже потом суд принимает решение — виновен ли гражданин, — говорит Рустам Чернов.

Поэтому, по словам эксперта, материалы, собранные искусственным интеллектом, еще несколько раз будут перепроверяться людьми.

Но возбуждение уголовного дела — это крайний случай. С 2012 года в России разрешена внесудебная блокировка сайтов. Роскомнадзор активно ею пользуется. И как раз система «Окулус» может стать для ведомства большим помощником в этой работе.

И тут тоже есть нюансы: а как не допустить необоснованного причинения ущерба? Да, если «Окулус» ошибется и будет заблокирован безобидный сайт, никто не получит срок, но ведь для владельцев сайт — источник заработка, средство хозяйственной деятельности.

 – Поскольку система только начала работать, то, скорее всего, будет много ошибок. Поэтому следует рекомендовать фиксировать выявленное системой «Окулус» нарушение, обязательно готовить и направлять претензии к разработчику и государственному органу, который применяет данный инструмент в своей деятельности, и, конечно же, обжаловать предъявляемые требования. Для этого, скорее всего, потребуется обратиться к экспертам для обоснования законности того или иного контента, получения заключения и направления этого заключения в уполномоченные органы. С большой вероятностью, после претензионного порядка и отказа уполномоченного органа в удовлетворении претензии потребуется обратиться в суд за признанием действий незаконными и для отмены вынесенного уполномоченным государственным органом предписания, — считает адвокат Елизавета Селезнева.

Оба наших эксперта отметили, что какого-то отдельного статуса у системы «Окулус» нет. То есть,  гражданин, столкнувшийся с блокировкой своего сайта или уголовным делом, скорее всего даже не будет знать, что экстремизм в его контенте увидел искусственный интеллект.

Статус этого искусственного интеллекта тоже не определен. То есть, с одной стороны, для всех очевидно, что нейросеть может самостоятельно выполнять операции по заданным алгоритмам, с другой стороны, ответственность за ее действия несет эксплуатирующая организация.

Однако пока очевидно, что, даже если нейросеть будут активно использовать при мониторинге, в любом судебном разбирательстве — как по уголовным делам, так и по гражданским спорам из-за блокировки — все материалы будут пристально изучать люди. И именно за ними остается последнее слово.

Ольга Андреева