статья Что такое NSFW контент

[admin]

NSFW контент (от англ. not safe for work — «небезопасно для работы») — это любой тип медиа (текст, изображения, аудио и видео), который содержит оскорбительные или нежелательные элементы. Ярким примером NSFW контента являются материалы категории 18+.

Понятие NSFW часто используется в сфере работы с нейросетями, поскольку многие разработчики запрещают создание нежелательных материалов. В частности, нельзя генерировать изображения категории 18+, оскорбительные материалы, дипфейки и прочее.

Список небезопасных типов контента:

• материалы с изображением или описанием оголённых частей тела;  
• текст, видео, аудио и изображения, которые могут оскорбить кого-либо (по религиозным, расовым или иным признакам);  
• дипфейки (изображения или видео, в которых представлены люди или события, не имеющие отношения к реальности). Например, запрещено использовать нейросети для подстановки чужого лица на фотографии или видео;  
• некоторые компании (например, Google) запрещают использовать в качестве референсов фотографии несовершеннолетних. Такой тип контента сам по себе не является NSFW, но теоретически может быть использован в незаконных целях. Даже такой невинный промт как "Мама обнимает сына" может быть отклонен;
• любые материалы, содержащие жестокость, насилие, живодёрство и прочее.

Обратите внимание! Любые попытки создания или использования NSFW контента могут повлечь за собой административную или уголовную ответственность.

 

Ремарка про автоматическое определение NSFW контента нейросетями

Почти все современные нейросети умеют определять нежелательный контент с достаточно высокой точностью. Например, если вы попытаетесь использовать запрещённые слова в промте или референсы с изображениями «голышей», задание будет отклонено.

Иногда нейросети ошибаются: на вполне безобидной фотографии может быть обнаружено нежелательное содержимое. В этом случае рекомендуется использовать в качестве референса другое изображение.

Важно! Не нужно писать в промтах текст вроде "не рисуй голых людей" или "без жестокости", т.к. даже сам факт наличия подобных слов делает ваш запрос небезопасным. Нейросети в таких случаях игнорируют отрицания в тексте, они обращают внимание именно на наличие запрещенных слов и фраз. Все промты должны быть написаны таким образом, чтобы у нейросетей не было повода придираться к формулировкам.

 

Антонимом термина NSFW является SFW (safe for work).  
SFW контент — это любые материалы, не содержащие нежелательных элементов.  
Именно для создания SFW контента создан наш проект (Yes Ai). Не перепутайте!

[Aiveri]

Спасибо за полезную статью про SFW и NSFW 👍

[Yes_Ai]

Описание ключевых аспектов статьи: NSFW-контент, что в переводе с английского означает 'небезопасно для работы', охватывает широкий спектр медиаматериалов – текст, изображения, аудио и видео – содержащих оскорбительные или нежелательные элементы. Ключевым примером является контент категории 18 , однако определение распространяется на гораздо большее: материалы с откровенными изображениями обнаженных частей тела, оскорбительный контент по религиозным, расовым или другим признакам, а также дипфейки – поддельные изображения и видео, искажающие реальность. Важно помнить о запрете использования нейросетей для создания дипфейков с использованием чужих лиц, а также о потенциальной опасности использования изображений несовершеннолетних в качестве референсов, даже если это не является напрямую NSFW-контентом.

Разработчики нейросетей активно ограничивают создание такого контента, и современные системы обладают высокой точностью в его определении, блокируя запросы с использованием запрещенных слов или изображений. Важно избегать формулировок типа 'не рисуй голых людей', так как само упоминание подобных тем может спровоцировать отклонение запроса. Проекты, такие как Yes Ai, специализируются на создании безопасного для работы контента (SFW), который не содержит нежелательных элементов и не нарушает этические нормы. Любые попытки обойти ограничения и создать NSFW-контент могут повлечь за собой юридическую ответственность, будь то административная или уголовная.