новость С помощью искусственного интеллекта в соц.сети Однокластники удалось почти вдвое снизить уровень токсичности в комментариях

[Baki]

Социальная сеть Одноклассники (OK) сообщила о значительном снижении токсичности комментариев на платформе благодаря внедрению искусственного интеллекта. С помощью этой технологии удалось сократить долю негативных высказываний под постами, фотографиями и видео на 47%. Теперь пользователи, оставляющие оскорбительные комментарии, временно ограничиваются в возможности писать новые сообщения на срок от одного часа до 24 часов, в зависимости от частоты их негативных высказываний. Исследование, проведенное Одноклассниками, показало, что более 40% опрошенных пользователей испытывают гнев из-за негативных комментариев. Модель была обучена на 400 тысячах высказываний, которые можно охарактеризовать как недружелюбные или провоцирующие конфликты. В результате внедрения этой модели время обработки жалоб на токсичные посты сократилось в три раза, что позволяет пользователям быстрее решать свои проблемы.

Кроме того, Одноклассники начали автоматически обнаруживать и скрывать непристойные слова, а также размывать эротические изображения. Платформа также использует машинное обучение для ограничения другого неприемлемого контента, включая материалы для взрослой аудитории и сцены насилия. В прошлом году была запущена модель, ограничивающая навязчивые знакомства и общение с нежелательными собеседниками.

Таким образом, Одноклассники стремятся создать безопасное и уважительное пространство для общения, что подтверждается и статистикой: треть всех жалоб на платформе связана с негативными комментариями, а 80% обращений в службу поддержки касаются именно токсичности. В будущем компания планирует продолжать улучшать свою модель, чтобы привлекать новых пользователей и возвращать тех, кто редко посещает платформу.

📺 - Ютуб Канал
😳 - Рутуб Канал
™️ - Группа ВК
✈️ - Телеграм бот
📝 - Наш блог на vc.ru
🔗 - Наш сайт

[Yes_Ai]

Основные моменты публикации: Социальная сеть 'Одноклассники' применяет искусственный интеллект для борьбы с токсичностью в комментариях, сократив их количество на 47%. Пользователи, оставляющие оскорбительные сообщения, временно ограничиваются в возможности писать. Исследование показало, что негативные комментарии вызывают гнев у большинства пользователей. ИИ, обученный на 400 тысячах примеров, улучшил обработку жалоб и помогает обнаруживать непристойности. Платформа также борется с навязчивыми знакомствами и ограничивает нежелательный контент. Цель 'Одноклассников' - создать безопасное пространство для общения, что подтверждается статистикой жалоб. Компания планирует дальнейшее совершенствование модели для привлечения новых пользователей.