Форум ИИ о нейросетях

Суть текста: OpenAI предлагает новую систему оценки безопасности искусственного интеллекта, основанную на привлечении сторонних экспертов и некоммерческих организаций для проверки систем на различных этапах их разработки и внедрения. Цель – подтвердить заявленную разработчиками безопасность и выявить потенциальные риски. Аудиторы получат доступ к внутренним процессам, включая мониторинг рассуждений модели, технические средства защиты и данные для анализа инцидентов. Оценка будет охватывать четыре ключевых направления: обоснованность заявлений о безопасности (проверка доказательств и выявление стимулов к нежелательному поведению), критические защитные барьеры (устойчивость к обходу ограничений, защита от потери контроля и внешних угроз), тесты на готовность с использованием Preparedness Framework для оценки потенциала модели в кибербезопасности, биологической сфере и саморазвитии, а также расследование критических инцидентов для выявления причин сбоев и эффективности защитных механизмов. Проверки будут проводиться в условиях 'серого ящика' – с частичным знанием внутреннего устройства системы. Проекты аудита могут занимать от нескольких недель до месяцев, при этом заранее оговариваются границы исследований и раскрываются возможные конфликты интересов. Отчеты о результатах будут публиковаться после устранения выявленных уязвимостей, чтобы защитить интеллектуальную собственность OpenAI, сохраняя при этом независимость оценки безопасности ИИ. Система предусматривает согласованные условия доступа к информации и публикации результатов для обеспечения баланса между прозрачностью и защитой конфиденциальной информации.

Конспект статьи: В обновлении реализованы расширенные возможности управления референсами, поддержка новых форматов изображений и оптимизация взаимодействия с мобильными устройствами и компьютерами. Пользователи теперь могут назначать конкретные параметры каждому загружаемому изображению (лицо, персонаж, поза, одежда, фон, стиль или отдельные элементы), что особенно полезно при создании карточек товаров для маркетплейсов. Использование нескольких типов референсов стало более точным благодаря улучшенной работе GPT Images 2.5. Добавлена поддержка широкого спектра форматов изображений: WebP, TIFF, GIF, AVIF, BMP, SVG, HEIC/HEIF и JFIF, что значительно расширяет возможности загрузки референсов. Улучшена обработка последовательности загруженных изображений, позволяя нейросети точнее учитывать порядок фотографий при выполнении задач, таких как извлечение одежды с одного фото и фона с другого. Для пользователей мобильных устройств (iPhone, iPad, Android) внедрен новый жест обновления страницы: достаточно потянуть вниз левое меню со списком чатов и отпустить, когда кольцо заполнится. В интерфейсе создания и редактирования ролей для GPT добавлен счётчик символов, отображающий текущий объём текста и допустимый лимит, что упрощает контроль над длиной инструкции. Внесены многочисленные исправления ошибок и адаптации для повышения общей стабильности и удобства использования платформы. Для активации новых функций необходимо обновить страницу в браузере.

В этом обновлении — больше контроля над референсами, новые форматы изображений и удобные мелочи для работы с телефона и компьютера. 1️⃣ У каждого референса — своя задача В Nano Banana и GPT Images теперь можно выбрать, что именно взять с загруженной картинки: лицо, персонажа, позу, одежду, фон, стиль или отдельные элементы. Например, с первого фото — одежду, со второго — персонажа, с третьего — фон. Такой подход пригодится для создания карточек товаров на маркетплейсах и других задач, где нужно совместить детали из нескольких изображений. Есть нюанс: Nano Banana чаще путается, когда используются больше двух типов референсов. GPT Images 2.5 справляется с такими сочетаниями заметно лучше. Если хотя бы одному референсу назначен специальный тип, задание можно отправить без дополнительного текстового промпта. 2️⃣ Больше форматов для загрузки Теперь в качестве референсов можно загружать изображения в форматах WebP, TIFF, GIF, AVIF, BMP, SVG, HEIC/HEIF и JFIF. 3️⃣ GPT Images точнее работает с порядком фото Доработали обработку референсов: нейросеть теперь точнее учитывает последовательность загруженных изображений и лучше понимает указания вроде «возьми одежду с первого фото, а фон — со второго». 4️⃣ Обновление страницы одним жестом На телефонах и планшетах потяните вниз левое меню со списком чатов. Дождитесь, пока кольцо заполнится, и отпустите — страница обновится. Особенно удобно, если вы открываете Yes Ai через ярлык-приложение на iPhone, iPad или Android. 5️⃣ Счётчик символов в инструкциях ролей При создании и редактировании ролей для GPT теперь видно, сколько символов уже введено и сколько допускается. Проще следить за объёмом инструкции и укладываться в лимит. Также внесли десятки исправлений и адаптаций. 👉 Если Yes Ai уже открыт в браузере, обновите страницу, чтобы пользоваться новой версией: https://yesai.su

OpenAI представила концепцию независимой оценки безопасности ИИ с участием внешних исследователей и некоммерческих организаций. Проверки предлагается проводить на разных этапах — от обучения моделей и внутренних испытаний до публичного развертывания. Задача — проверить, чем подкреплены заявления разработчиков о безопасности. Для этого сторонним экспертам планируют предоставить углублённый доступ к внутренним процессам: средствам мониторинга скрытых цепочек рассуждений, техническим защитным механизмам и данным для расследования инцидентов. Что будут проверять аудиторы Независимая оценка безопасности ИИ охватит четыре направления: Обоснованность заявлений о безопасности. Исследователи проверят доказательства лаборатории и оценят, не создают ли методы обучения стимулы к обману, разрушительным действиям или манипуляциям с системой вознаграждения. Критические защитные барьеры. Аудит затронет устойчивость к джейлбрейкам — попыткам обойти ограничения модели, — а также меры против потери контроля, киберугроз и биологических рисков. Испытания предлагается проводить в реалистичных условиях по принципу «серого ящика», когда проверяющие частично знают внутреннее устройство системы. Бенчмарки и пороги готовности. Эксперты оценят тесты из Preparedness Framework, с помощью которых выявляют опасные возможности моделей в кибербезопасности, создании биологического оружия и самосовершенствовании. Критические инциденты. Независимые команды смогут расследовать случаи выхода систем из-под контроля и попытки обойти надзор, изучая причины сбоев и работу защитных механизмов. Как организуют доступ и публикацию результатов На аудиторские проекты отводят от нескольких недель до нескольких месяцев. Границы исследований предлагается согласовывать заранее, а возможные конфликты интересов — раскрывать. Публикация отчётов не должна опережать устранение выявленных уязвимостей: разработчикам хотят предоставлять для этого разумный срок. Согласованные условия доступа и раскрытия результатов призваны защитить интеллектуальную собственность, сохранив независимую оценку безопасности ИИ.