Специалисты из Университета Чикаго смогли создать уникальный софт под названием Nightshade, который спасает авторские работы от несанкционированного копирования средствами искусственного интеллекта, передает Bizmedia.kz.
Согласно отчету Techcrunch, этот инструмент работает по принципу так называемого «затенения» – он изменяет файл изображения так, что искусственный интеллект, обученный на этих искаженных данных, теряет способность воспроизводить оригинал. Проще говоря, профессор Бен Чжао, руководитель проекта, приводит пример с дерзким ходом, когда в острый соус добавляют, чтобы никто не позарился на чужой обед в офисе.
Nightshade целенаправленно вносит изменения в пиксели изображения, обманывая ИИ так, что он начинает считывать совсем иное, чем то, что видит человек. Со временем, если ИИ обучается на достаточном количестве таких «искаженных» изображений, он начнет выдавать результаты, не соответствующие заданиям. Для нарушения нормальной работы ИИ, который создает изображения, достаточно использовать менее ста примеров, «отравленных» с помощью Nightshade.
Профессор Чжао наглядно объясняет, что подобное вмешательство позволяет дезориентировать модели до такой степени, что, например, вместо коровы ИИ начнет рисовать грузовик. Разработчики уверяют, что их цель не в разрушении ИИ-бизнеса, а в том, чтобы обеспечить справедливое использование произведений художников и не позволять безвозмездно использовать их работы для обучения нейросетей.
