Можно пошаговое решение по установке gpt4o локально вместе с NSFW-моделями?

[вован1]

Пытался спрашивать у онлайновой ЧатГопоты, но та постоянно выдаёт какие-то нерабочие ссылки.

Накачал кучу много-гигабайтных bin-ов (как я понимаю "моделек"), и ни одного exe-шника чтобы их как-нибудь запустить.

Читаю всё подряд, установил Питона - но там кроме "Привет мир!", у меня ничего не запускается.

Всё глубже забираюсь в дебри инфы, но всё дальше от нужного решения...

[admin]

Вы неверно понимаете суть задачи, которую хотите решить. Chat GPT - это разработка компании Open Ai, не путайте ее с другими языковыми моделями. Оригинальный Chat GPT поставить на свой сервер невозможно, тем более с поддержкой NSFW!

Если же говорить про установку сторонних разработок с открытыми весами, например, Gemma или Llama, то используйте этот софт https://lmstudio.ai

[admin]

1 час назад, вован1 сказал:

а как же насчёт GPT4All ?

Ну если вы почитаете описание gpt4all, то вопрос сам по себе отпадет, ибо это не оригинальный ChatGPT.

Еще раз: ChatGPT - это пропиетарный алгоритм, который принадлежит компании OpenAI, в открытом доступе его нет. Все подобные нейросети тоже могут называться GPT***, но это совсем другое. Да, стоит учесть, что большинство нейронок категории GPT обучаются путем перекрестных допросов ChatGPT, поэтому их ответы могут часто быть очень похожими.

[вован1]

В 27.04.2025 в 17:46, admin сказал:

Оригинальный Chat GPT поставить на свой сервер невозможно, тем более с поддержкой NSFW!

 

а как же насчёт GPT4All ?

[вован1]

В 27.04.2025 в 17:46, admin сказал:

Llama, то используйте этот софт https://lmstudio.ai

ну я скачал приложение, к нему модельку Llama-3.2-1B-Instruct 

а оно пишет Файлед ту лоад модель, No LM Runtime found for model formata "gguf"

[admin]

14 часов назад, вован1 сказал:

ну я скачал приложение, к нему модельку Llama-3.2-1B-Instruct 

а оно пишет Файлед ту лоад модель, No LM Runtime found for model formata "gguf"

сперва попробуйте скачать другую модель, совместимую с вашим железом, может быть эта криво скачалась.

---

У вас какая видеокарта ?

Установлены ли дрова Nvidia Studio Driver ? Рекомендую именно Studio Driver, а не Game ready.

---

Также можно попробовать установить Cuda тулкит, хотя вряд ли дело в этом — https://developer.nvidia.com/cuda-downloads