Jump to content
  • 0

Можно пошаговое решение по установке gpt4o локально вместе с NSFW-моделями?


вован1

Question

  • User

Пытался спрашивать у онлайновой ЧатГопоты, но та постоянно выдаёт какие-то нерабочие ссылки.

Накачал кучу много-гигабайтных bin-ов (как я понимаю "моделек"), и ни одного exe-шника чтобы их как-нибудь запустить.

Читаю всё подряд, установил Питона - но там кроме "Привет мир!", у меня ничего не запускается.

Всё глубже забираюсь в дебри инфы, но всё дальше от нужного решения...

Link to comment
Share on other sites

7 answers to this question

Recommended Posts

  • 1
  • Administrators

Вы неверно понимаете суть задачи, которую хотите решить. Chat GPT - это разработка компании Open Ai, не путайте ее с другими языковыми моделями. Оригинальный Chat GPT поставить на свой сервер невозможно, тем более с поддержкой NSFW!

Если же говорить про установку сторонних разработок с открытыми весами, например, Gemma или Llama, то используйте этот софт https://lmstudio.ai

  • Sad 1

image.png.bbc007783bfd77866c40d333bcf7acb0.pngimage.png.34ece97900fdaa0a096e6e0fa4f78094.png

Link to comment
Share on other sites

  • 1
  • Administrators
1 час назад, вован1 сказал:

а как же насчёт GPT4All ?

Ну если вы почитаете описание gpt4all, то вопрос сам по себе отпадет, ибо это не оригинальный ChatGPT.

Еще раз: ChatGPT - это пропиетарный алгоритм, который принадлежит компании OpenAI, в открытом доступе его нет. Все подобные нейросети тоже могут называться GPT***, но это совсем другое. Да, стоит учесть, что большинство нейронок категории GPT обучаются путем перекрестных допросов ChatGPT, поэтому их ответы могут часто быть очень похожими.

  • Like 1

image.png.bbc007783bfd77866c40d333bcf7acb0.pngimage.png.34ece97900fdaa0a096e6e0fa4f78094.png

Link to comment
Share on other sites

  • 0
  • User
В 27.04.2025 в 17:46, admin сказал:

Оригинальный Chat GPT поставить на свой сервер невозможно, тем более с поддержкой NSFW!

 

а как же насчёт GPT4All ?

Link to comment
Share on other sites

  • 0
  • User
В 27.04.2025 в 17:46, admin сказал:

Llama, то используйте этот софт https://lmstudio.ai

ну я скачал приложение, к нему модельку Llama-3.2-1B-Instruct 

а оно пишет Файлед ту лоад модель, No LM Runtime found for model formata "gguf"

Link to comment
Share on other sites

  • 0
  • Administrators
14 часов назад, вован1 сказал:

ну я скачал приложение, к нему модельку Llama-3.2-1B-Instruct 

а оно пишет Файлед ту лоад модель, No LM Runtime found for model formata "gguf"

сперва попробуйте скачать другую модель, совместимую с вашим железом, может быть эта криво скачалась.


У вас какая видеокарта ?

Установлены ли дрова Nvidia Studio Driver ? Рекомендую именно Studio Driver, а не Game ready.


Также можно попробовать установить Cuda тулкит, хотя вряд ли дело в этом — https://developer.nvidia.com/cuda-downloads

  • Like 1

image.png.bbc007783bfd77866c40d333bcf7acb0.pngimage.png.34ece97900fdaa0a096e6e0fa4f78094.png

Link to comment
Share on other sites

  • 0
  • User
В 05.05.2025 в 09:16, admin сказал:

попробуйте скачать другую модель

 

попробую

блин, а у меня ГеймРеади, но я когда в списке драйверов на оф.сайте смотрел - там по-ходу только он и был.

Про Куду разузнаю, спасибо

Link to comment
Share on other sites

  • 0
  • Administrators
12 часов назад, вован1 сказал:

попробую

блин, а у меня ГеймРеади, но я когда в списке драйверов на оф.сайте смотрел - там по-ходу только он и был.

Про Куду разузнаю, спасибо

https://www.nvidia.com/en-eu/geforce/drivers/results/240571/

image.png.bbc007783bfd77866c40d333bcf7acb0.pngimage.png.34ece97900fdaa0a096e6e0fa4f78094.png

Link to comment
Share on other sites

Join the conversation

You can post now and register later. If you have an account, sign in now to post with your account.
Note: Your post will require moderator approval before it will be visible.

Guest
Answer this question...

×   Pasted as rich text.   Paste as plain text instead

  Only 75 emoji are allowed.

×   Your link has been automatically embedded.   Display as a link instead

×   Your previous content has been restored.   Clear editor

×   You cannot paste images directly. Upload or insert images from URL.

×
×
  • Create New...