В ближайшие месяцы компания Meta Platforms (NASDAQ:META) планирует внедрить систему обнаружения и маркировки изображений, созданных сервисами искусственного интеллекта других компаний, передает Bizmedia.kz.
С использованием набора невидимых маркеров, встроенных в файлы, компания будет помечать контент на своих платформах Facebook, Instagram и Threads.
Таким образом, пользователи будут осведомлены о том, что эти изображения, которые во многих случаях выглядят как настоящие фотографии, на самом деле являются цифровыми творениями. Об этом сообщил Ник Клегг, главный политический руководитель компании, в своем блоге.
Кроме того, Meta уже помечает контент, созданный с помощью собственных инструментов искусственного интеллекта. По словам Клегга, как только система будет работать, Meta также будет маркировать изображения, созданные на платформах OpenAI, Microsoft (NASDAQ:MSFT), Adobe (NASDAQ:ADBE), Midjourney, Shutterstock (NYSE:SSTK) и Google (NASDAQ:GOOGL) от Alphabet.
Это объявление отражает разработку системы стандартов, которую технологические компании создают для снижения потенциального вреда, связанного с технологиями генеративного искусственного интеллекта. Эти технологии могут создавать поддельный, но реалистично выглядящий контент в ответ на простые подсказки
Этот подход основан на шаблоне, разработанном в течение последнего десятилетия некоторыми из тех же компаний для координации удаления запрещенного контента на платформах, включая изображения массового насилия и эксплуатации детей.
В интервью агентству Reuters Клегг выразил уверенность в том, что компании способны надежно маркировать изображения, созданные искусственным интеллектом, однако отметил, что инструменты для маркировки аудио- и видеоконтента являются более сложными и все еще находятся в разработке.
«Несмотря на то, что технология еще не полностью отработана, особенно когда речь идет об аудио- и видеоматериалах, мы надеемся, что сможем стимулировать развитие остальной индустрии», — подчеркнул Клегг.
Он также добавил, что в промежуточном периоде Meta будет требовать от пользователей маркировать свой собственный измененный аудио- и видеоконтент, и введение штрафных санкций будет следовать, если это не будет выполнено. Однако Клегг не уточнил размер штрафов.
Кроме того, он отметил, что на данный момент не существует эффективного механизма маркировки письменного текста, созданного инструментами искусственного интеллекта, такими как ChatGPT.
«Этот корабль уже плывет», — сказал Клегг.
Представитель компании Meta отказался сообщить, будут ли они применять маркировку к генерируемому искусственным интеллектом контенту, который распространяется через их сервис обмена зашифрованными сообщениями WhatsApp.
В понедельник независимый надзорный совет Meta осудил политику компании по отношению к видеороликам, которые вводят в заблуждение, заявив, что она слишком узкая, и такой контент следует маркировать, а не удалять.
Клегг согласился с этой критикой в целом.
Он заявил, что совет директоров был прав в том, что текущая политика Meta «просто не соответствует целям в условиях, когда у вас будет гораздо больше синтетического и гибридного контента, чем раньше».
Он отметил новое партнерство по маркировке как доказательство того, что Meta уже движется в предложенном советом направлении.
