Можно ли использовать местный LLM для кодирования AI? ~Сводка тенденций ИИ-кодирования в июле 2026 года, как видно из данных~
автор: @kotauchisunsun
Дата выпуска: 2026/08/12
Тенденции AI Coding Agent в августе 2026 г.
Мы управляем сайтом AI Coding.Info с июля 2025 года.
Это сайт, который отслеживает тенденции использования, связанные с агентами кодирования AI, такими как Claude Code, Codex CLI, Github Copilot и Gemini, с фиксированной точки на основе информации в репозиториях Github. Чтобы определить использование AI Coding Agent, мы проводим ежедневные опросы при следующих условиях.
- Ежедневная проверка 9000 публичных репозиториев на Github.
- ТОП-300 звезд Github по языкам программирования
- Исследовано 30 типов языков программирования.
- Нацелено на 16 типов агентов кодирования искусственного интеллекта. — Только когда файлы правил, используемые различными агентами AI Coding, находятся в репозитории Github, определяется, что используется AI Coding Agent.
Тенденции прошлого месяца
https://ai-coding.info/reports/articles/20260703
Коэффициент использования агента кодирования AI составляет 13,0%.
Коэффициент использования репозитория AI Coding Agent составил 13,0%, что на 0,9% больше, чем 12,1% в прошлый раз.
Уровень использования AI Coding Agent на 1 августа 2026 г.
https://ai-coding.info/?date=2026-08-01#adoption-rate
Уровень использования AI Coding Agent на 1 июля 2026 г.
https://ai-coding.info/?date=2026-07-01#adoption-rate
Тенденции в использовании агента AI Coding Agent с 1 июля 2026 г. по 1 августа 2026 г.
https://ai-coding.info/?date=2026-04-01&since=2026-07-01&until=2026-08-01#share-trend
Доля AI Coding Agent по продуктам
Доля по продуктам следующая.
| Рейтинг | Название продукта | Курс акций |
|---|---|---|
| 1 место | Интерфейс командной строки Кодекса | 40,8% |
| 2 место | Клод Код | 32,0% |
| 3 место | Агент второго пилота | 15,1% |
| 4 место | Gemini CLI (Антигравитация) | 5,3% |
| 5 место | Курсор | 4,4% |
Хотя доля Codex CLI увеличивается, Claude Code остается прежним. Copilot Agent и Gemini CLI (Антигравитация) также демонстрируют небольшое снижение. Курсор — это то, чему я уделял немного внимания. Компания Cursor приобретена SpaceX. Были новости.
https://www.nikkei.com/article/DGXZQOGN16BC70W6A610C2000000/
Следовательно, произойдет ли изменение курса акций этого Курсора? Я так и думал, но в прошлом месяце это было 4,7%, а в этом месяце — 4,4%, так что особых изменений нет. Если посмотреть на количество репозиториев, упомянутых ниже, то на 1 июля было 85 репозиториев, которые использовали Cursor, а по состоянию на 1 августа их число осталось неизменным и составило 85. Таким образом, что касается этого явления, количество репозиториев, использующих AI Coding Agent, в целом увеличилось, но количество использования Cursor не увеличилось. В результате общая доля рынка снижается. Это стало феноменом. Однако из-за особенностей исследования AI Coding.Info количество репозиториев с файлами конфигурации, специфичными для Cursor (.cursor), не изменится. При этом сам Cursor поддерживает AGENTS.md. AI Coding.Info утверждает, что количество репозиториев с AGENTS.md = количеству внедрений Codex CLI, поэтому, хотя Cursor и используется, возможно, что он учитывается как Codex CLI, и существует вероятность того, что количество использований увеличивается в невидимой части.
Курс акций AI Coding Agent на 1 августа 2026 г.
https://ai-coding.info/?date=2026-08-01&since=2026-07-01&until=2026-08-01#agent-share
Курс акций AI Coding Agent на 1 июля 2026 г.
https://ai-coding.info/?date=2026-07-01&since=2026-07-01&until=2026-08-01#agent-share
Статус использования AI Coding Agent по языку программирования
Язык программирования, на котором чаще всего используется AI Coding Agent, — «TypeScript», второй — «Python», третий — «Rust», четвертый — «Go» и пятый — «C#». Уровень внедрения AI-кодирования для TypeScript остается высоким, в то время как состав «Python», «Rust» и «Go» в качестве второй группы и «C#» в качестве третьей группы является устойчивой тенденцией в последние годы.
Рейтинг AI Coding Agent по языкам программирования на 1 августа 2026 г.
https://ai-coding.info/?date=2026-08-01&since=2026-07-01&until=2026-08-01#language-agent-rank
Рейтинг AI Coding Agent по языкам программирования на 1 июля 2026 г.
https://ai-coding.info/?date=2026-07-01&since=2026-07-01&until=2026-08-01#language-agent-rank
Ежемесячные тенденции количества репозиториев, используемых AI Coding Agent.
По состоянию на 1 июля 2026 г. количество репозиториев составляло 1794, но по состоянию на 1 августа 2026 г. оно увеличилось до 1940, а количество репозиториев, использующих AI Coding Agent, увеличилось на 146.
Изменение количества репозиториев, использующих AI Coding Agent, с 1 июля 2026 г. по 1 августа 2026 г.
https://ai-coding.info/?date=2026-08-01&since=2026-07-01&until=2026-08-01#time-based-bar-chart
Можно ли использовать локальный LLM для кодирования AI?
В июне Клод выпустил следующее поколение LLM — Mythos и Fable 5, которое шокировало индустрию своей производительностью. Однако после этого китайская компания Kimi выпустила модель открытого веса под названием Kimi-K3, которая практически соответствует классу Fable. Это стало горячей темой. Даже если посмотреть на реальные показатели, цифры близки.
https://artificialanalysis.ai/#intelligence-category-tabs
Когда я это подумал,
**Разве местный LLM также не является вариантом для кодирования AI? **
Я думаю, вы можете так думать. Я исследовал эту местность. В таблице ниже перечислены основные модели LLM с открытым весом из графика выше.
| Название модели | Название компании | Дата объявления | Количество параметров | Количество активных параметров | Длина контекста | Индекс интеллекта |
|---|---|---|---|---|---|---|
| Кими K3(макс) | Кими(Китай) | 2026/07 | 2800 млрд | 104Б | 1М | 60 |
| GLM-5.2(макс) | Z AI(Китай) | 2026/06 | 756Б | 40Б | 1М | 53 |
| DeepSeek V4 Flash 0731 | DeepSeek(Китай) | 2026/07 | 284Б | 13Б | 1М | 52 |
| MiMo-V2.5-Pro | Xiaomi (Китай) | 2026/04 | 1023Б | 42Б | 1М | 43 |
| Муза Глиммер (высокая) | Мета(США) | 2026/08 | 30Б | 256 тыс. | 35 | |
| Джемма 4 31B (Рассуждение) | Google (США) | 2026/04 | 30,7Б | 256 тыс. | 30 |
Однако действительно ли они работают на вашем компьютере? Я этого не понимаю. Поэтому рассмотренный нами метод определения был
Требуемая память VRAM
2[ГБ] на параметр 1[B]
является. Вы можете примерно оценить, будет ли он работать, исходя из объема видеопамяти вашего ПК и количества параметров модели, которую вы хотите запустить. поэтому,
**Математически для запуска Kimi-K3 требуется 5,6 ТБ (5600 ГБ) памяти. **
Я объясню причину этого. В стандартной распределенной модели LLM веса выражаются десятичными числами с точностью bf16 или fp16. Для каждого параметра требуется 2 байта. Часто встречающиеся обозначения, например 30[B], обозначают количество параметров, а B означает миллиард и представляет собой 10^9. Таким образом, можно видеть, что такая модель, как 30[B], имеет данные веса 30×10^9. И 1[ГБ]=1*10^9[Байт]. Размышляя об этом таким образом, мы упоминали ранее, что стандартные веса хранятся в 2 байтах, поэтому на каждый вес требуется 2 байта, что означает 2 [ГБ] для хранения 1 [Б] параметра в памяти. Это расчет. В этом и состоит значение «2[ГБ] на параметр 1[B]», упомянутое ранее. Однако это всего лишь приближение; это минимальное требование для загрузки весов во VRAM, и поскольку в дополнение к этому может использоваться память, строго рекомендуется не превышать его. Это объем видеопамяти.
Здесь в игру вступает концепция квантования. Возможно, вы видели Q4_0 или Q4_K_M. Это метод, который сжимает вес до количества битов. Поэтому в случае Q4_0, грубо говоря, весовая емкость равна 4 битам (4-я часть Q4_0). Следовательно, в данном случае емкость составляет 0,5[ГБ] на 1[Б]. Их краткая справочная таблица выглядит так:
| Метод квантования | Требуемый объем памяти на 1[Б] [ГБ] |
|---|---|
| bf16,fp16(стандарт) | 2.0 |
| Q8_0 | 1.0 |
| Q4_0 | 0,5 |
Вы можете увидеть такое обозначение, как Q4_K_M, но, грубо говоря, это модель, которая повышает точность по сравнению с Q4_0, но использует немного больший объем памяти. Приятно осознавать это. Есть другой способ узнать это: просто посмотрите на размер файла веса (safetensor или gguf). Если это превышает объем памяти VRAM, это, как правило, не будет работать. Я думаю, ты можешь так думать.
Отсюда мы создали краткую справочную таблицу с указанием объема видеопамяти, метода квантования и количества параметров.
| Объем видеопамяти [ГБ] | Количество параметров (bf16,fp16)[B] | Количество параметров (Q8_0)[B] | Количество параметров (Q4_0)[B] |
|---|---|---|---|
| 8 | 4 | 8 | 16 |
| 16 | 8 | 16 | 32 |
| 24 | 12 | 24 | 48 |
| 32 | 16 | 32 | 64 |
| 64 | 32 | 64 | 128 |
| 128 | 64 | 128 | 256 |
| 256 | 128 | 256 | 512 |
| 512 | 256 | 512 | 1024 |
| 1024 | 512 | 1024 | 2048 |
| 2048 | 1024 | 2048 | 4096 |
Примерно за какое время это можно сделать? Учитывая, что если это модель с 8 ГБ видеопамяти, то это будет RTX 5050, а цена на Amazon составит 55 000 иен. Это может сработать, если модель имеет значение около 8[B], квантованное с помощью Q8_0. Это уровень.
Когда объем видеопамяти увеличивается до 16 ГБ, это становится моделью на базе RTX 5060 Ti, которая стоит около 108 000 иен. На этом этапе при квантовании Q4_0 LLM класса 30[B] будет работать или нет. Это уровень.
Когда объем видеопамяти увеличится до 32 ГБ, она станет флагманской моделью RTX 5090 и будет стоить 795 000 иен. Когда дело доходит до этого, я думаю, это тот уровень, на котором вы не сможете этого сделать, если у вас нет большой решимости. Я так думаю. Это квантование Q8_0 и работает ли модель класса 30[B] или нет. Это будет примерно тот же уровень.
Эта область является верхней чертой уровня потребительских товаров. Теперь, когда дело доходит до профессионального уровня, RTX PRO 6000 Blackwell оснащена 96 ГБ памяти. **Цена 2,35 миллиона иен. ** Здесь даже на уровне квантования Q4_0 работает только модель 192[B], поэтому флагманская модель не работает.
А так как были данные для установки GPU-кластера на сервер, то выложу их исключительно для справки. В случае NVIDIA B300 объем памяти составляет 288 ГБ, а цена — 8,63 миллиона иен. Если да, то DeepSeek V4 Flash 0731 с квантованием Q8_0 может работать. Q4_0 будет работать. Если у вас их два (что эквивалентно 17 миллионам иен), может подойти MiMo-V2.5-Pro с квантованием Q4_0.
https://www.nttpc.co.jp/cgi-bin/gpu/simulation/custom/index.cgi
Поэтому если сравнивать объем памяти и количество параметров, то речь именно об этом. Конечно, есть еще что обсудить, будет ли это включено в память. Итак, генерирует ли он достаточно TOK/s для нормального использования? Есть еще одна проблема. В этой статье рассказывается о самых основах. В LLM есть архитектуры под названием Dense и MoE, причем в MoE фактически рассчитываются только активные параметры, и в зависимости от способа исполнения есть способ уменьшить объем физической памяти путем считывания необходимых Экспертов из хранилища и т. д., вместо постоянного хранения всех Экспертов в памяти. Однако в реализации модели есть некоторые особенности, и загрузка из хранилища в память может стать узким местом. Бывают такие истории, но здесь мы игнорируем такие детали и просто считаем мощность, когда все веса модели хранятся в памяти.
Итак, если вы хотите запустить текущую квантовую флагманскую модель Q4_0 или Q8_0, вам понадобится машина стоимостью не менее 10 миллионов иен. Вот такое ощущение. С другой стороны, это может сработать, если вы используете специальное оборудование для достижения еще большего квантования. Например, есть люди, которые используют 2-битное и 3-битное квантование на Mac M4 с памятью 128 ГБ (продано) и DGX Spark (память 128 ГБ).
https://zenn.dev/tkhr_sait/articles/20260508_try-local-deepseek-v4
https://dev.classmethod.jp/articles/dgx-spark-deepseek-v4-flash-0731-llama-cpp/
С другой стороны, это, наверное, предел для отдельного человека. Это ощущение кожи. Лично я обращаю внимание на 1-битное квантование. Известные модели включают Bonsai и такие технологии, как BitNet, но ноу-хау 1-битного квантования не было обнародовано, поэтому я не пробовал его (вероятно, это заняло бы огромное количество времени и снизило бы точность вывода).
Итак, лично, если бы была выпущена 1-битная квантованная версия DeepSeek (приблизительно 35,5 ГБ), я мог бы увидеть мир, в котором ее можно было бы запускать локально на графическом процессоре потребительского уровня, в зависимости от некоторой изобретательности, но, поскольку в настоящее время у нас этого нет, это довольно сложно. Это чистая правда.
Поэтому,
**Запустить флагманскую модель с местным LLM нереально. **
Это мое общее впечатление. Если вы действительно хотите, чтобы это работало, я думаю, вам нужно провести некоторое тестирование.
мысли
На этот раз я сосредоточил свое внимание на местном LLM. Когда вышел Кими-К3, я был весьма шокирован, и класс Fable перешел в местный LLM! Это было довольно впечатляюще, но я даже не могу сдвинуть его с места с имеющимся у меня оборудованием. Это было мое честное впечатление. Раньше я публиковал статью о местном LLM, но в то время она не очень хорошо работала, поэтому я хотел бы сам углубиться в нее. Я так и думал.