Перейти к содержанию

А можно ли сейчас собрать полностью автономного AI-агента на домашнем ПК?


Рекомендуемые сообщения

  • Пользователь

Всем привет.

Появилось ощущение, что локальные LLM постепенно перестают быть просто «чатиком в браузере». Есть Ollama/llama.cpp, различные coding agents, MCP, локальные модели и т.д. Но насколько реально собрать из этого действительно полезного автономного помощника, который большую часть работы выполняет без облачных API?

Интересует именно практический вариант:

  • Linux на обычном домашнем ПК;
  • локальная LLM;
  • агент, который умеет работать с файлами и запускать команды;
  • MCP для подключения дополнительных инструментов;
  • желательно без отправки данных во внешние сервисы.

Например, чтобы можно было сказать:

«Посмотри этот проект, найди причину ошибки, внеси исправление, запусти тесты и покажи, что изменилось».

И всё это происходило локально.

У кого-нибудь уже есть подобная конфигурация, которой реально можно пользоваться каждый день?

Интересно узнать:

  1. какое железо используется;
  2. какую модель запускаете;
  3. какой агент (OpenCode, Aider, Cline, OpenHands, Pi и т.п.);
  4. какие MCP-серверы подключены;
  5. где локальный вариант всё ещё проигрывает облачным моделям.

Особенно интересно услышать опыт тех, кто полностью отключал облачные API и какое-то время работал только с локальными моделями.

Ссылка на комментарий
Поделиться на другие сайты

  • Администратор

Полноценного локального агента сделать не получится, но ДА, он сможет какие-то простые операции выполнять, но если задачи связаны с серьезными проектами, то тупо не потянет слабое железо.

Другое дело, если бы у вас на локали было что-то из премиум категории - тогда да, можно условно решать задачи среднего уровня сложности.

Но если коротко, то локальные LLM - это просто плюшевые игрушки в сравнении с пропиетарными гигантами вроде Astra.

Если задачи из категории "агент, который умеет работать с файлами и запускать команды" или почту отправлять, то ДА, локальный простой LLM потянет вполне. Но для задач разработки проектов вряд ли, ибо оно будет работать, но с кучей ошибок в коде.

image.png.bbc007783bfd77866c40d333bcf7acb0.pngimage.png.34ece97900fdaa0a096e6e0fa4f78094.png

Ссылка на комментарий
Поделиться на другие сайты

Присоединяйтесь к обсуждению

Вы можете написать сейчас и зарегистрироваться позже. Если у вас есть аккаунт, авторизуйтесь, чтобы опубликовать от имени своего аккаунта.
Примечание: Ваш пост будет проверен модератором, прежде чем станет видимым.

Гость
Ответить в этой теме...

×   Вставлено с форматированием.   Вставить как обычный текст

  Разрешено использовать не более 75 эмодзи.

×   Ваша ссылка была автоматически встроена.   Отображать как обычную ссылку

×   Ваш предыдущий контент был восстановлен.   Очистить редактор

×   Вы не можете вставлять изображения напрямую. Загружайте или вставляйте изображения по ссылке.

×
×
  • Создать...