На пленарном заседании Мажилиса депутат фракции Amanat Сергей Пономарёв обратился к заместителю премьер-министра – министру искусственного интеллекта и цифрового развития Жанату Мадиеву и министру внутренних дел Ержану Саденову с призывом принять меры по борьбе с дипфейками.
«Цифровизация и технологический прогресс сегодня — не просто направление, а новая национальная идея Казахстана. Однако у прогресса есть и обратная сторона. Технологии могут использоваться не во благо, а во вред. Одна из них — технология дипфейков, то есть создание при помощи искусственного интеллекта поддельных изображений, аудио- и видеоматериалов с участием реальных людей», — заявил депутат.
По словам Пономарёва, он сам стал жертвой подобной технологии: «Моё изображение и голос были полностью подделаны, использованы в ролике, где от моего имени просили деньги. Смонтировано настолько искусно, что даже близкие не сразу поняли подделку».
Депутат подчеркнул, что подобные случаи несут риски для общества и государства.
«Мы уже видели дипфейки с участием зарубежных политиков и даже с использованием образа Президента нашей страны. Качество подделок растёт, и с ним растут риски манипуляции общественным мнением, дискредитации госорганов и дестабилизации общественно-политической ситуации. Если будет создан и распространён дипфейк с участием руководителя государства или публичного лица с ложными призывами или фальшивыми заявлениями, последствия могут быть катастрофическими. Это уже угроза национальной безопасности», — подчеркнул он.
Пономарёв напомнил, что в США, Республике Корея и других странах уже приняты законы, регулирующие использование дипфейков, а также технологии автоматического выявления подделок.
«Дипфейки всё чаще используются в финансовом мошенничестве. Когда человек слышит голос близкого или видит его видео с просьбой о помощи, на эту удочку попадаются даже высокообразованные граждане. Более 50% случаев онлайн-мошенничества совершается с использованием искусственного интеллекта», — отметил депутат, ссылаясь на отчёт компании Feedzai за 2025 год.
Он подчеркнул, что главная опасность дипфейков — репутационный ущерб.
«Даже если позднее размещается опровержение, вред уже нанесён, а восстановить доверие практически невозможно», — добавил он.
Пономарёв потребовал от Министерства искусственного интеллекта и Министерства внутренних дел действовать на опережение и предложил три ключевые меры:
- Вменить в обязанности центра мониторинга и экспертизы цифрового контента оперативное выявление и блокировку дипфейков.
- Разработать систему подтверждения подлинности цифровых изображений и видеоматериалов, доступную не только судам, но и гражданам.
- Провести широкую информационную кампанию по обучению населения распознаванию дипфейков и защите от цифрового мошенничества.
«Наша фракция уже работает над внесением дополнительных норм в законы в части ужесточения наказания за неправомерное использование дипфейков и ограничения сфер применения синтетических продуктов ИИ», — подытожил Пономарёв.
