Instagram предпринял еще один шаг в своей стратегии по борьбе с ростом числа инфлюенсеров, созданных с помощью ИИ . Платформа Meta объявила о значительном изменении своих правил: отныне аккаунты, использующие созданные ИИ личности, должны будут четко идентифицировать себя, иначе рискуют потерять видимость в приложении.
Это решение было принято после нескольких месяцев тестирования и жалоб пользователей, которые заявили, что почувствовали себя обманутыми, обнаружив, что, казалось бы , реальный человек на самом деле является вымышленным персонажем. Instagram не будет блокировать такие аккаунты, но хочет, чтобы они были четко отличимы от профилей реальных людей.
От «создателя ИИ» к «профилю, сгенерированному ИИ»
Наиболее заметное изменение — замена старого обозначения «создатель ИИ» на новый термин «профиль, созданный ИИ ». До сих пор это обозначение служило общим термином для учетных записей, использующих контент, созданный ИИ, но оно было неоднозначным: оно могло относиться как к человеку, использующему ИИ в качестве вспомогательного средства, так и к вымышленному аватару, которого не существует в реальной жизни.
Новая формулировка призвана дать понять, что этот ярлык предназначен для профилей, главный персонаж которых — человек, полностью созданный с помощью ИИ . Другими словами, речь идёт не просто о ретуши или автоматической генерации контента, а о том, что основная идентичность профиля является искусственной. Само приложение описывает этот ярлык как специфический идентификатор для аккаунтов, «представляющих собой созданный с помощью ИИ образ».
Для учетных записей, у которых уже было включено старое описание, оно будет автоматически преобразовано в «профиль, сгенерированный ИИ». После этого администраторы учетных записей смогут проверить, действительно ли новое описание отражает их активность , и решить, оставить его или удалить, если они посчитают, что оно больше не соответствует их контенту.
В профилях, где используется эта функция, метка будет отображаться как в заголовке аккаунта, так и рядом с публикациями, при условии, что этот контент не содержит других пометок, указывающих на то, что он был создан или изменен искусственным интеллектом.
Начисляется штраф за аватары, которые не идентифицируют себя.
Наиболее деликатный аспект этого изменения заключается в последствиях для тех, кто некорректно использует теги. Instagram различает тех, кто добровольно использует свой бренд, и аккаунты, которые должны его отображать, но не делают этого . В первом случае компания заверяет, что охват профиля останется неизменным: аккаунты, которые прозрачно идентифицируют себя, будут по-прежнему отображаться в рекомендациях в обычном режиме.
Однако, если платформа обнаружит профиль с синтетическим образом, не использующим соответствующую метку, она сразу же снизит его видимость. Такие аккаунты больше не смогут отображаться в общедоступных разделах для поиска , таких как вкладка «Исследовать», «Рекомендованные ролики» или в рекомендациях для пользователей, которые еще не подписаны на них.
Instagram не уточнил, какой процент охвата будет уменьшен и на какой срок, но ясно дал понять, что это своего рода «штраф за видимость»: аккаунт по-прежнему существует, может продолжать публиковать контент, и текущие подписчики будут продолжать его видеть, но он теряет возможность развиваться благодаря алгоритму рекомендаций.
Платформа будет использовать собственные системы обнаружения для выявления таких случаев, сочетая автоматизированные инструменты и внутренние сигналы , указывающие на то, что учетная запись использует созданный искусственным интеллектом образ, не раскрывая его. В этом случае ответственное лицо получит уведомление с предупреждением о том, что его профиль больше не может быть рекомендован другим пользователям.
Как активировать тег и какие возможности есть у создателей контента.
Для тех, кто управляет такими аккаунтами, процесс идентификации будет относительно простым. На экране редактирования профиля создатель может активировать опцию «Профиль, сгенерированный ИИ» . После выбора эта метка будет видна в профиле и будет также применяться к его публикациям, если только эти публикации уже не содержат другой специальной метки, указывающей на контент, сгенерированный или измененный с помощью искусственного интеллекта.
Если Instagram помечает аккаунт как подозрительный на использование искусственного аватара, не распознавая его, у создателя есть два способа восстановить свое присутствие в рекомендациях. Первый — самый прямой: добавить соответствующую метку , указать, что это искусственный аватар, и отметить это в профиле. После этого система сможет восстановить возможность отображения аккаунта в разделе «Исследовать» и в предложенных роликах.
Второй вариант — обжаловать решение. Meta признает, что ее системы обнаружения «не всегда идеальны» и что могут возникать ложные срабатывания, поэтому она предоставляет механизм обжалования в разделе «Статус аккаунта» в настройках. Если создатель контента считает, что платформа допустила ошибку — например, потому что профиль представляет реального человека, который использует ИИ только для редактирования контента, — он может запросить пересмотр решения.
Если Instagram удовлетворит апелляцию, профиль и его публикации снова смогут отображаться в общих рекомендациях социальной сети. Таким образом, компания пытается сбалансировать использование автоматизации с определенной степенью человеческого контроля для исправления ошибок, когда они несправедливо ставят создателя контента в невыгодное положение.
Какие учетные записи необходимо пометить тегами, а какие исключить?
Один из ключевых аспектов новой политики — это разница между использованием ИИ как инструмента и построением на его основе целостной идентичности. Термин «профиль, созданный с помощью ИИ» предназначен не для любого пользователя, который время от времени использует искусственный интеллект, будь то для ретуши фотографий, создания вспомогательных изображений, исправления текста или разработки графики.
В таких случаях Instagram считает, что на фотографии изображен реальный человек, даже если он использует ИИ в своем творческом процессе. Ни фотографам, использующим продвинутые фильтры, ни создателям контента с помощью генеративных моделей, ни брендам, тестирующим автоматизированные эффекты, не нужно будет помечать свой аккаунт новым идентификатором, если центральным персонажем остается человек.
В центре внимания так называемые виртуальные инфлюенсеры — вымышленные персонажи и гиперреалистичные аватары, представленные так, будто это реальные люди. В этих профилях демонстрируется искусственное лицо, вымышленная жизнь и, во многих случаях, коммерческие коллаборации с реальными брендами, без явного указания на то, что за ними не стоит реальный человек.
Instagram настаивает на том, что аккаунты, добровольно использующие эту метку, не увидят снижения охвата. Официальная цель — повышение прозрачности, а не наказание тех, кто намеренно указывает, что их персонаж — цифровой герой. Жесткие меры будут приняты в случаях, когда предпринимается попытка выдать себя за человека, несмотря на использование сгенерированной искусственным интеллектом личности.
Это различие проводит грань между искусственно сгенерированным контентом и имитацией человеческой личности. Платформа признает ИИ как творческий ресурс, но требует, чтобы он не использовался для введения пользователя в заблуждение относительно того, кто — или что — на самом деле стоит за профилем.
Глобальная проблема, затрагивающая также Европу.
Ужесточение регулирования происходит после периода, в течение которого международные СМИ и специалисты по маркетингу влияния задокументировали быстрое распространение синтетических профилей . Расследования, такие как те, что проводили The Guardian и The New York Times, выявили сети созданных с помощью ИИ «инфлюенсеров», продвигающих приложения, бренды товаров для здоровья или пищевые добавки, иногда выдавая себя за медицинских работников, хотя таковыми не являются.
В Европе это явление вызывает особую обеспокоенность из-за его совместимости с правилами регулирования рекламы и предстоящим европейским регламентом по искусственному интеллекту , который подчеркивает прозрачность при взаимодействии с автоматизированными системами. Хотя мера Instagram не была представлена как прямой ответ на европейское законодательство, она соответствует тенденции регулирования на континенте, которая стремится к четкому разграничению между искусственно сгенерированным контентом и личностями.
На таких рынках, как Испания, где инфлюенсеры играют все более важную роль в маркетинговых кампаниях и сотрудничестве с брендами, распространение синтетических аватаров вызывает вопросы о доверии общественности. Новая обязательная маркировка похожа, хотя и с некоторыми отличиями, на маркировку спонсируемого контента , которую рекламная индустрия была вынуждена принять несколько лет назад в соответствии с требованиями органов по защите прав потребителей и кодексами саморегулирования.
Для европейских и испанских брендов, уже работающих с созданными ИИ портретами целевой аудитории, это изменение влечет за собой очевидные издержки: если профиль не будет идентифицирован как созданный ИИ, его возможности по привлечению новых пользователей через алгоритм будут ограничены. В таком случае каждому рекламодателю придется решить, стоит ли поддерживать видимость «реального человека» или лучше отдать приоритет прозрачности, чтобы избежать потери охвата.
Баланс между прозрачностью, бизнесом и доверием.
Этим шагом Instagram пытается решить сложную задачу. С одной стороны, Meta давно продвигает искусственный интеллект как возможность для создателей контента и рекламодателей, предлагая инструменты для генерации изображений, улучшения текста и экспериментирования с цифровыми аватарами. С другой стороны, компания признает, что путаница в вопросе о том, кто является человеком, а кто нет, угрожает доверию к самой ленте, которая является основой ее рекламного бизнеса.
Социальная сеть не удаляет профили, созданные ИИ, и не запрещает их монетизацию; она просто требует от пользователей идентификации, если они хотят конкурировать на равных условиях в алгоритме рекомендаций. Это означает, что синтетические аватары приветствуются, если они не выдают себя за то, чем не являются.
Остается несколько вопросов: каковы будут темпы внедрения этих правил, как отреагируют агентства и бренды, которые вложили значительные средства в виртуальных инфлюенсеров , и последуют ли примеру другие платформы? Также остается неясным, будет ли этой меры достаточно, чтобы обуздать чувство перенасыщения контентом, созданным с помощью ИИ, которое отмечают многие пользователи, или же она просто перенесет часть этой проблемы в другие, менее регулируемые сферы.
В любом случае, новая система маркировки знаменует собой поворотный момент в том, как Instagram управляет применением искусственного интеллекта к идентификационным данным. Социальная сеть исходит из того, что синтетические персонажи никуда не денутся, но устанавливает базовое условие: если в профиле указан человек, созданный ИИ, сообщество имеет право знать об этом, не читая мелкий шрифт.