В Мажилисе Казахстана обсуждены вопросы цифровой безопасности и рисков, связанных с использованием искусственного интеллекта. Депутат фракции партии «AMANAT» Сергей Пономарев призвал ужесточить законодательство в сфере регулирования дипфейков, подчеркнув, что распространение поддельных изображений и видео уже стало угрозой национальной безопасности, передает корреспондент Altainews.kz.

Цифровизация — не только возможности, но и риски

На пленарном заседании Мажилиса депутат фракции партии «AMANAT» Сергей Пономарев обратился с запросом к заместителю Премьер-министра – министру искусственного интеллекта и цифрового развития Жаслану Мадиеву и министру внутренних дел Ержану Саденову. В своем обращении он отметил, что Казахстан активно продвигается по пути цифровизации, однако стремительное развитие технологий несет не только преимущества, но и серьезные вызовы.

По словам Сергея Пономарева, уже второй год подряд Всемирный экономический форум называет дезинформацию и распространение ложных сведений одним из главных краткосрочных рисков для мировой стабильности. Сам депутат сообщил, что лично стал жертвой дипфейка: злоумышленники создали видео с поддельным изображением и голосом, где от его имени просили деньги.

Угроза национальной безопасности

Депутат подчеркнул, что распространение дипфейков с участием государственных деятелей или даже Президента страны может иметь катастрофические последствия и привести к дестабилизации ситуации в обществе.

Сергей Пономарев привел примеры из мировой практики:
в США положения о дипфейках включены в Закон об оборонном бюджете еще в 2020 году;
в Республике Корея введен запрет на использование дипфейков в предвыборной агитации;
в ряде стран уже внедряются технологии цифровой маркировки оригинального контента и системы автоматического выявления подделок.

Он добавил, что даже образованные граждане нередко становятся жертвами, когда видят или слышат подделанные видео и аудио с голосами близких людей.

Законодательные предложения

Сергей Пономарев предложил Министерству искусственного интеллекта и Министерству внутренних дел действовать на опережение и реализовать комплекс мер для защиты граждан:

- возложить на центр мониторинга и экспертизы цифрового контента обязанность по оперативному выявлению и блокировке дипфейков;
- создать систему подтверждения подлинности изображений и видео, которая будет доступна каждому гражданину;
- провести информационную кампанию по обучению граждан распознаванию дипфейков и защите от цифрового мошенничества;
- ужесточить законодательство в части ответственности за неправомерное использование технологий ИИ и ограничить сферы применения синтетического контента.

Предложения депутатов будут направлены на рассмотрение в профильные министерства.

Фото/видео: t.me/mazhilis_kz