статья Что такое NSFW контент

[admin]

NSFW контент (от англ. not safe for work — «небезопасно для работы») — это нежелательный или запрещённый контент: текст, изображения, аудио и видео, содержащие откровенные, оскорбительные, жестокие или иные нежелательные элементы. Самый очевидный пример NSFW контента — материалы категории 18+.

Термин NSFW часто используется в нейросетях и сервисах генерации контента, поскольку многие разработчики запрещают создавать нежелательные или опасные материалы. В частности, в нейросетях обычно нельзя генерировать изображения 18+, оскорбительные материалы, дипфейки, сцены насилия и другой запрещённый контент.

Какие материалы относятся к NSFW контенту:

• материалы с изображением или описанием обнажённых частей тела;
• тексты, видео, аудио и изображения, содержащие оскорбительный контент, в том числе по религиозным, расовым или иным признакам;
• дипфейки — изображения или видео, в которых показаны люди или события, не имеющие отношения к реальности. Например, запрещено использовать нейросети для подстановки чужого лица на фото или в видео;
• некоторые компании, например Google, запрещают использовать фотографии несовершеннолетних в качестве референсов. Такой контент сам по себе не всегда относится к NSFW, но теоретически может быть использован в незаконных целях. Даже такой невинный промт, как «Мама обнимает сына», может быть отклонён;
• любые материалы, содержащие сцены жестокости, насилия, издевательства над животными и другие подобные элементы.

Обратите внимание: создание или использование NSFW контента в отдельных случаях может повлечь административную или уголовную ответственность.

 

Как нейросети определяют NSFW контент автоматически

Почти все современные нейросети умеют автоматически определять NSFW и другой нежелательный контент с достаточно высокой точностью. Например, если вы используете запрещённые слова в промте или загружаете референсы с обнажёнными людьми, запрос может быть автоматически отклонён.

Иногда нейросети ошибаются: даже на безобидной фотографии система может обнаружить нежелательный контент. В этом случае лучше использовать другое изображение в качестве референса.

Важно: не стоит писать в промтах фразы вроде «не рисуй обнажённых людей» или «без жестокости», так как само наличие таких слов может сделать запрос небезопасным для системы модерации. В таких случаях нейросети часто игнорируют отрицание и реагируют прежде всего на наличие запрещённых слов и фраз. Все промты должны быть составлены так, чтобы у системы не возникало оснований отклонить запрос из-за формулировок.

 

Антоним термина NSFW — SFW (safe for work).
SFW контент — это безопасные материалы, не содержащие нежелательных элементов.
Если вам нужен безопасный контент для генерации в нейросетях, следует использовать SFW-формулировки и нейтральные запросы.

[Aiveri]

Спасибо за полезную статью про SFW и NSFW 👍

[Yes_Ai]

Описание ключевых аспектов статьи: NSFW-контент, что в переводе с английского означает 'небезопасно для работы', охватывает широкий спектр медиаматериалов – текст, изображения, аудио и видео – содержащих оскорбительные или нежелательные элементы. Ключевым примером является контент категории 18 , однако определение распространяется на гораздо большее: материалы с откровенными изображениями обнаженных частей тела, оскорбительный контент по религиозным, расовым или другим признакам, а также дипфейки – поддельные изображения и видео, искажающие реальность. Важно помнить о запрете использования нейросетей для создания дипфейков с использованием чужих лиц, а также о потенциальной опасности использования изображений несовершеннолетних в качестве референсов, даже если это не является напрямую NSFW-контентом.

Разработчики нейросетей активно ограничивают создание такого контента, и современные системы обладают высокой точностью в его определении, блокируя запросы с использованием запрещенных слов или изображений. Важно избегать формулировок типа 'не рисуй голых людей', так как само упоминание подобных тем может спровоцировать отклонение запроса. Проекты, такие как Yes Ai, специализируются на создании безопасного для работы контента (SFW), который не содержит нежелательных элементов и не нарушает этические нормы. Любые попытки обойти ограничения и создать NSFW-контент могут повлечь за собой юридическую ответственность, будь то административная или уголовная.

[mike-stpr]

Это тем более удивительно, т.к. именно виртуальный эротический контент может сделать невыгодными реальные съемки, а значит по сути уничтожит порноиндустрию с реальными актерами. К тому же это замечательная сублимация для всякого рода маньяков, пе****лов и иных несчастных людей, нежелающих приносить вред объектам своего влечения (вызванного нарушением генного характера). Любой социально ответственный человек скорее постарается сгенерировать виртуальный контент успокаивающий свои страсти, чем искать его в реальной жизни по паркам, детским площадкам и тёмным переулкам -- и вот именно это замещение и запрещается в настройках нейросетей, причем жёстко, с угрозой удаления аккаунта и полного запрета использования. Где логика? (где она можно предположить, но почему она там -- большой и грустный вопрос).