Пользователь hwyzriouqy Опубликовано 2 часа назад Пользователь Поделиться Опубликовано 2 часа назад Всем привет. Появилось ощущение, что локальные LLM постепенно перестают быть просто «чатиком в браузере». Есть Ollama/llama.cpp, различные coding agents, MCP, локальные модели и т.д. Но насколько реально собрать из этого действительно полезного автономного помощника, который большую часть работы выполняет без облачных API? Интересует именно практический вариант: Linux на обычном домашнем ПК; локальная LLM; агент, который умеет работать с файлами и запускать команды; MCP для подключения дополнительных инструментов; желательно без отправки данных во внешние сервисы. Например, чтобы можно было сказать: «Посмотри этот проект, найди причину ошибки, внеси исправление, запусти тесты и покажи, что изменилось». И всё это происходило локально. У кого-нибудь уже есть подобная конфигурация, которой реально можно пользоваться каждый день? Интересно узнать: какое железо используется; какую модель запускаете; какой агент (OpenCode, Aider, Cline, OpenHands, Pi и т.п.); какие MCP-серверы подключены; где локальный вариант всё ещё проигрывает облачным моделям. Особенно интересно услышать опыт тех, кто полностью отключал облачные API и какое-то время работал только с локальными моделями. Цитата Ссылка на комментарий Поделиться на другие сайты Поделиться
Администратор admin Опубликовано 2 часа назад Администратор Поделиться Опубликовано 2 часа назад Полноценного локального агента сделать не получится, но ДА, он сможет какие-то простые операции выполнять, но если задачи связаны с серьезными проектами, то тупо не потянет слабое железо. Другое дело, если бы у вас на локали было что-то из премиум категории - тогда да, можно условно решать задачи среднего уровня сложности. Но если коротко, то локальные LLM - это просто плюшевые игрушки в сравнении с пропиетарными гигантами вроде Astra. Если задачи из категории "агент, который умеет работать с файлами и запускать команды" или почту отправлять, то ДА, локальный простой LLM потянет вполне. Но для задач разработки проектов вряд ли, ибо оно будет работать, но с кучей ошибок в коде. 1 Цитата Ссылка на комментарий Поделиться на другие сайты Поделиться
Рекомендуемые сообщения
Присоединяйтесь к обсуждению
Вы можете написать сейчас и зарегистрироваться позже. Если у вас есть аккаунт, авторизуйтесь, чтобы опубликовать от имени своего аккаунта.
Примечание: Ваш пост будет проверен модератором, прежде чем станет видимым.