Нестабильная выдача результата в Chat GPT 4o

[NewGhost]

Добрый день!
Пытаюсь создать универсальный промт для анализа телефонных разговоров менеджеров. Столкнулся с такой проблемой: На одном разговоре вроде вычистил всё, результат плюс-минус нормальный. На другом - полная ерунда. Так же возвращаясь в новом чате к первому разговору, получаю другой результат. Я пробовал уменьшать температуру, не помогает. Я готовлю промт для работе по АПИ, поэтому мне важна начальная формулировка, контекстное обучение не подходит. А путаница возникает в простых вещах. Например, я жестко задаю, что должен быть вопрос или что должна использоваться формула - 1 раз срабатывает, второй нет, При чем, когда я указываю на ошибку, чат извиняется и исправляет. Короче, 2 вопроса: 1. Можно ли как-то стабилизировать выдачу результата (выводи ТОЛЬКО ТАК) и 2. Может быть другие модели работают с подобными вещами лучше?

[admin]

15 часов назад, NewGhost сказал:

Добрый день!
Пытаюсь создать универсальный промт для анализа телефонных разговоров менеджеров. Столкнулся с такой проблемой: На одном разговоре вроде вычистил всё, результат плюс-минус нормальный. На другом - полная ерунда. Так же возвращаясь в новом чате к первому разговору, получаю другой результат. Я пробовал уменьшать температуру, не помогает. Я готовлю промт для работе по АПИ, поэтому мне важна начальная формулировка, контекстное обучение не подходит. А путаница возникает в простых вещах. Например, я жестко задаю, что должен быть вопрос или что должна использоваться формула - 1 раз срабатывает, второй нет, При чем, когда я указываю на ошибку, чат извиняется и исправляет. Короче, 2 вопроса: 1. Можно ли как-то стабилизировать выдачу результата (выводи ТОЛЬКО ТАК) и 2. Может быть другие модели работают с подобными вещами лучше?

А пробовали через API без передачи лишнего контекста ?

Вы задаете эту задачу прямо в промте ? А лучше для этой цели использовать роли: https://forum.yesai.su/topic/88-sozdanie-roli-dlya-generacii-promtov-izobrazheniy-personazhey-s-pomoschyu-chat-gpt-4-turbo

[NewGhost]

Я хочу сначала отладить в чате, а потом уже пробовать через апи. И да, роли прописываю

[admin]

16 часов назад, NewGhost сказал:

Я хочу сначала отладить в чате, а потом уже пробовать через апи. И да, роли прописываю

А вы в нашем боте пробовали то же самое сделать? Такая же проблема возникает ?

Если через Yes Ai бота вы не сталкиваетесь с этой проблемой, значит дело точно в контексте, передаваемом при обращениях.

[NewGhost]

Ясно. Тогда 2 вопрос. Есть мнение, какая модель лучше справляется с такими задачами?

[admin]

3 часа назад, NewGhost сказал:

Ясно. Тогда 2 вопрос. Есть мнение, какая модель лучше справляется с такими задачами?

По идее даже GPT Omni-Mini должна справиться