Self-host против облака: что реально тащить домой, а что оставить в аренде

Обложка

Одиннадцать статей позади — пора честно ответить, ради чего всё затевалось: что из этого зоопарка стоит поднимать у себя, а где self-host — красивая идея, которая жрёт время и электричество. Спойлер: «всё своё» не бывает, как и «всё в облако». Есть расклад по задачам, и я его выстрадал на собственных граблях.

Два лагеря, и оба врут

Про self-host пишут либо фанатики («хости сам, будь свободен»), либо скептики («домашний сервер — хобби для мазохистов»). Оба врут: у self-host нет единой цены — есть задачи, где он окупается с первого дня, и задачи, где он — чистая дыра в бюджете.

Где self-host окупается

Три вещи, которые облако не даёт в принципе, сколько ни плати.

Данные под контролем. Фото, видео с камер, заметки, логи — всё на моём диске. Для фотоархива и видеонаблюдения это суть задачи: отдавать семейный архив и камеры с крыльца в чужое хранилище — плохая идея ещё до всяких вопросов о деньгах. Immich и Frigate для того и существуют, чтобы это оставалось твоим.

Нет ежемесячной подписки. Публикации, картинки, аналитика, мониторинг — у каждой такой штуки есть SaaS-аналог «от девяти долларов». У меня вместо десятка подписок — один мини-ПК и несколько контейнеров: блог на WriteFreely, картинки через свою пасту, счётчик посещений — свой Umami. Заплатил за железо один раз — дальше только электричество.

Кастом. Мой вход в лабу — это Caddy с обратным туннелем наружу, NAT между сетями и ACL на админки. Такую схему под свою сеть и свои VPN облачный сервис не соберёт никогда. Как только нужно «не как у всех», self-host из опции становится единственным путём.

Где self-host — чистые грабли

Сложность. Каждый сервис надо поставить, обновить, пробросить, защитить. В облаке ты платишь за то, что это делает кто-то другой. Дома ты сам тот «кто-то». Когда ROCm-костыль падает на длинном промпте, чинить идти тебе, а не в поддержку.

Обновления. SaaS обновляется, пока ты спишь. Домашний сервис стоит в той версии, в которой ты его оставил, и за обновлениями следишь сам. Забыл на полгода — получил дыру и мёртвый бэкап-таймер.

GPU в дефиците. Для инференса нужно видео-железо, а оно либо дорогое, либо его нет. У меня встроенная графика, и весь локальный инференс держится на том, что 8 ГБ общей памяти уходят под модель впритык. Дискретная карта под большую модель — цена, сопоставимая с годом облачной аренды.

Аптайм. Домашнее железо спит, греется, ловит скачки и умирает, когда тебя нет. Облако поднимает за тебя три девятки. Если сервис должен быть доступен всегда и отовсюду — подвал это не гарантирует.

Разбор по нашему стеку

Пройдусь по тому, что у меня реально работает, и скажу честно, где бы я заплатил снова.

Caddy как вход — однозначно self-host. Обратный прокси, NAT, туннель наружу, сертификаты на автомате. Замены облаку нет: это про твою сеть и твои правила доступа.

Публикации (WriteFreely) — оправдан. Свой блог, свой текст, никакой аренды площадки. Единственное требование — дисциплина с бэкапами, их у меня гоняет таймер.

Картинки (rustypaste) — оправдан. Своя паста под обложки и картинки. Чужие CDN из моего региона рвутся, а своя всегда на месте: загрузка по токену, отдача публичная.

Мониторинг и аналитика (Beszel, Kuma, Umami) — оправдан. Лёгкие контейнеры, никаких подписок, данные о твоей инфре не утекают третьим лицам.

Локальный инференс (Ollama) — наполовину. Для приватных вопросов и фона локальная модель — золото: вопросы не уезжают из дома, токены ничего не стоят. Но для агентов с инструментами не годится: модель на 8 ГБ не умеет в инструменты, 8B-варианты возвращают кашу, вижн локально не работает. Поэтому вторая половина задач честно уезжает в облако.

Тяжёлый инференс и большие LLM — аренда. Гнать дома модель, которой нужна дискретная карта за тысячи, бессмысленно, если та же мощность берётся в аренду без вложений в железо. Для тяжёлых агентов, больших контекстов и вижна облако остаётся основным, и я с этим смирился.

Честные цифры, чтобы не спорить на ощущениях

Локальный инференс на встроенной графике:

Это уровень «читает примерно с моей скоростью»: для приватных вопросов комфортно, для потоковой генерации — на грани. Облачная модель отвечает почти мгновенно, умеет в инструменты и вижн, но стоит денег и гонит текст на чужие серверы.

Потолок — 8 ГБ VRAM. У встроенной графики нет своей памяти, она заимствует её у общей. Поэтому 8 ГБ «видеопамяти» — те же 8 ГБ из оперативки, модель на 12b влезает впритык, а на 16b уже не хватило бы. Главный предел iGPU — не скорость, а память. Отсюда вывод: локально жить можно, но о «больших моделях дома» речи нет.

Бесплатное облако кусается. Бесплатные модели у агрегатора стабильно отдают 429 — «провайдер перегружен». Лимит общий на весь бесплатный пул, в час пик ты в очереди за платными. Для рутины сойдёт, для важного — нет.

Правило выбора: три множителя

Перемножай чувствительность данных × нагрузку × цену железа с электричеством.

Чувствительность. Если данные нельзя отдавать наружу (фото, видео, документы) — self-host без вариантов, вопрос только, потянешь ли железо.

Нагрузка. Лёгкое и постоянное (блог, картинки, мониторинг, аналитика) — домой, окупается. Тяжёлое и пиковое (большая LLM, агенты с инструментами, вижн) — в аренду, если только дискретная карта уже не куплена по другим причинам.

Цена. Мини-ПК круглосуточно ест электричество, и это надо считать. Пока он тянет лёгкие сервисы и фоновый инференс — счёт смешной. Как только начинаешь докупать карты ради «бесплатного ChatGPT» — окупаемость умирает, дешевле арендовать.

Итого: приватное + лёгкое — домой; тяжёлое + пиковое — в аренду; приватное + тяжёлое — дорого в обе стороны, решай по деньгам.

Что в сухом остатке

Self-host окупается там, где речь про контроль данных, отказ от подписок и кастом: вход через Caddy, свой блог, своя паста, мониторинг, аналитика, фото и камеры — всё это я бы поднял снова, не думая. Локальный инференс на встроенной графике — честный бесплатный второй мозг для приватных задач и фона, но не замена облаку.

Облако остаётся там, где нужны инструменты, вижн, большие контексты и мгновенный отклик. Домашние 8 ГБ и 15 токенов в секунду этого не дадут, сколько ни танцуй с бубном вокруг ROCm.

Главный урок серии — не «хости всё» и не «плати за всё», а честный расклад: знай, что влезает в память, что умеет твоя модель, что падает на длинном промпте и где бесплатное на самом деле в очереди. Тогда self-host из религии становится обычным инженерным решением.

#llm #openclaw #selfhosting