Правительство готовит меры против дипфейков и сгенерированного нейросетями контента, сообщает «Российская газета» со ссылкой на замглавы Минцифры Александра Шойтова. Обсуждаются меры по обязательной маркировке таких материалов - фотографий, видео и текстов, а также по выявлению случаев, когда подобный контент используется для мошенничества и распространения фейков.
Замминистра отметил, что платформы, позволяющие создавать сложный цифровой контент со специальными эффектами, сегодня доступны широкой аудитории. Поэтому в России и в мире «назрела» необходимость регулирования ИИ-технологий, так как их ключевой риск - это использование мошенниками и экстремистами. При этом он подчеркивает, что не нужно бороться «со всем» контентом, есть творческие, научные и другие материалы, которые «не нужно трогать».
Маркировка контента может быть видимой для пользователей, машиночитаемой или основанной на криптографических методах подтверждения. Сегодня уже существуют методы обнаружения такого контента с достаточно высоким уровнем выявления в видео, аудио и в неочевидных текстовых форматах дипфейков, говорит замминистра.
Также активно обсуждается и проект о регулировании искусственного интеллекта. В рамках документа рассматривается, например, создание реестра ИИ-технологий. Чтобы туда попасть, нужно будет пройти специальное тестирование. В перспективе это поможет автоматически выявлять опасный контент и предотвращать его создание. Шойтов подчеркнул, что искусственный интеллект должен быть подвержен цензуре.
«Человек у нас цензуре не подлежит в соответствии с конституцией. Искусственный интеллект пока не является таким же субъектом как человек, поэтому он должен быть подвержен полноценной цензуре до момента, пока мы хорошо не разберемся с технологией. Эту грань нужно искать сначала технологически, а потом нормативно», - заключил Шойтов.
