Kapitelklicken springt direkt hin
Shownotes
Подписка на облачного кодинг-агента стоит не так уж дорого. Зачем тогда покупать GPU и запускать модель самому? Вместе с Иваном Опариным из Wildberries разбираемся, какие локальные модели уже годятся для агентной разработки, где они уступают облачным, сколько стоит железо под них и как настраивать их под свою кодовую базу.
А самое главное – дадим подробный гайд по тому, как решить свою первую задачу с помощью агента на локальной модели, и по тому, как внедрить их в свою ежедневную работу.
Хочешь стать главным экспертом по AI в своей команде? Один из лучших способов – перенимать опыт у тех, кто уже внедряет AI и набивает шишки на практике. Вступай в Podlodka AI Engineers Club – закрытое сообщество 800 инженеров c еженедельными воркшопами, активным чатом и огромной базой знаний.
podlodka.ai
Реклама. ИП Толстая, ИНН 507503278104, erid: 2SDnjdsfbtg
Также ждем вас, ваши лайки, репосты и комменты в мессенджерах и соцсетях!
Telegram-чат: t.me/podlodka
Telegram-канал: t.me/podlodkanews
Twitter-аккаунт: twitter.com/PodcastPodlodka
Ведущие в выпуске:
Стас Цыганов, Егор Толстой
Полезные ссылки:
Чат «ИИнтузиаст»
t.me/+H3uHM51jCg5mZjAy
Канал «ИИнтузиаст»
t.me/byurrer_ru
«Фарш не провернуть» — канал Алексея Фатеева о локальных моделях и инференсе
t.me/fuckup_files
«Локальный максимум» — материалы о локальных LLM, инференсе и GPU
alesha.pro
Qwen3.8-27B — основная модель, которую обсуждаем в выпуске
huggingface.co/Qwen/Qwen3.8-27B
Qwen3.8-27B — GGUF-квантизации от Unsloth
huggingface.co/unsloth/Qwen3.8-27B-GGUF
Qwen3.8-Flash-Next
huggingface.co/Qwen/Qwen3.8-Flash-Next
GLM-5.3-Flash
huggingface.co/zai-org/GLM-5.3-Flash
DeepSeek V4.1 Flash
huggingface.co/deepseek-ai/DeepSeek-V4.1-Flash…
Gemma — документация семейства моделей Google
ai.google.dev/gemma/docs/core
Unsloth — динамические квантизации моделей
unsloth.ai/blog/dynamic-v2
llama.cpp — движок для запуска локальных моделей
github.com/ggml-org/llama.cpp
vLLM
github.com/vllm-project/vllm
SGLang
github.com/sgl-project/sglang
DS4 / DwarfStar — inference-движок от создателя Redis
github.com/antirez/ds4
DeepInfer — inference-движок DeepSeek
github.com/deepseek-ai/DeepInfer
Mirai
trymirai.com
Uzu — inference-движок Mirai
github.com/trymirai/uzu
Coinbase — кейс дообучения Qwen3.5-9B для выявления фрода
coinbase.com/blog/part-three-owning-intelligen…
Cross-Model KV Cache Transfer — исследование переноса KV-кэша между моделями
arxiv.org/abs/2608.03893
Экспериментальная реализация переноса KV-кэша на vLLM от Алексея Фатеева
github.com/alesha-pro/vllm-cross-model-kv
Mostik — передача внутренних состояний между большой и маленькой моделями
mostik.ai/read-more
Microsoft — локальные модели и инструменты в Windows и GitHub Copilot
commandline.microsoft.com/local-models-sandbox…
Microsoft — гибридный AI в Windows
blogs.windows.com/windowsexperience/2026/10/07…
Гибридный инференс с клиент-серверным разнесением prefill и decode: архитектура и экономика для клиентов с унифицированной памятью
github.com/relux-works/hybrid-inference-paper
Андрей Карпати — о разрыве между использованием чат-ботов и продвинутых агентских систем
x.com/karpathy/status/2109361546505966046
Эссе инженера DeepSeek об автоматизации своей работы и открытом интеллекте
mp.weixin.qq.com/s/zk0KxuLzhmMJ4LPYW_OHMA
Английский пересказ эссе инженера DeepSeek и перевод в комментариях
lesswrong.com/posts/o8roRrdisBAjngHJN/a-summar…
