Може ли се локални ЛЛМ користити за АИ кодирање? ~Резиме трендова АИ кодирања у јулу 2026. као што се види кроз податке~
аутор: @kotauchisunsun
Датум изласка: 2026/08/12
Трендови агената за АИ кодирање у августу 2026
Од јула 2025. водимо сајт под називом АИ Цодинг.Инфо.
Ово је сајт који посматра трендове коришћења у вези са агентима за АИ кодирање као што су Цлауде Цоде, Цодек ЦЛИ, Гитхуб Цопилот и Гемини са фиксне тачке из информација у Гитхуб репозиторијумима. Да бисмо утврдили употребу АИ Цодинг Агент-а, спроводимо свакодневна истраживања под следећим условима.
- Дневна инспекција 9.000 јавних спремишта на Гитхуб-у
- ТОП 300 Гитхуб звезда по програмском језику
- Истраживали из 30 врста програмских језика
- Циља 16 врста агената за АИ кодирање
- Само када се датотеке правила које користе разни АИ агенти за кодирање налазе у Гитхуб спремишту, утврђује се да се користи АИ агент за кодирање.
Трендови прошлог месеца
https://ai-coding.info/reports/articles/20260703
Стопа коришћења АИ агента за кодирање је 13,0%
Стопа искоришћења ризнице АИ агента за кодирање била је 13,0%, што је повећање од 0,9% са 12,1% прошли пут.
Стопа коришћења АИ агента за кодирање на 2026/8/1
https://ai-coding.info/?date=2026-08-01#adoption-rate
Стопа коришћења Агента за АИ кодирање 1. јула 2026
https://ai-coding.info/?date=2026-07-01#adoption-rate
Трендови у стопи коришћења агента за АИ кодирање од 2026/7/1 до 2026/8/1
https://ai-coding.info/?date=2026-04-01&since=2026-07-01&until=2026-08-01#share-trend
Удео агента за АИ кодирање по производу
Удео по производу је следећи.
| Рангирање | Назив производа | Стопа удела |
|---|---|---|
| 1 место | Цодек ЦЛИ | 40,8% |
| 2.место | Цлауде Цоде | 32,0% |
| 3. место | Цопилот Агент | 15,1% |
| 4. место | Гемини ЦЛИ (Антигравитација) | 5,3% |
| 5 место | Курсор | 4,4% |
Док се удео Цодек ЦЛИ повећава, Цлауде Цоде остаје исти. Цопилот Агент и Гемини ЦЛИ (Антигравитација) такође показују благи пад. Курсор је нешто на шта сам обраћао мало пажње. Курсор је купио СпацеКс. Било је вести.
https://www.nikkei.com/article/DGXZQOGN16BC70W6A610C2000000/
Дакле, да ли ће доћи до промене стопе акције овог курсора? Тако сам и мислио, али прошлог месеца је било 4,7%, а овог месеца 4,4%, тако да нема толико промене. Гледајући доле наведени број спремишта, 1. јула било је 85 спремишта која су усвојила курсор, а од 1. августа број остаје непромењен на 85. Дакле, у вези са овим феноменом, популација складишта која користе АИ Цодинг Агент је у целини порасла, али се број коришћења курсора није повећао. Као резултат тога, укупни тржишни удео опада. Ово је постало феномен. Међутим, због карактеристика истраживања АИ Цодинг.Инфо, број спремишта са конфигурационим датотекама специфичним за курсор (.цурсор) се неће променити. Имајући то у виду, сам Цурсор подржава АГЕНТС.мд. АИ Цодинг.Инфо наводи да је број спремишта са АГЕНТС.мд = број усвајања Цодек ЦЛИ-а, па иако се користи Цурсор, могуће је да се рачуна као Цодек ЦЛИ, а постоји могућност да се број употреба повећава у невидљивом делу.
Стопа удела АИ Цодинг Агент-а на дан 1.8.2026
https://ai-coding.info/?date=2026-08-01&since=2026-07-01&until=2026-08-01#agent-share
Стопа удела АИ Цодинг Агент-а на дан 2026/7/1
https://ai-coding.info/?date=2026-07-01&since=2026-07-01&until=2026-08-01#agent-share
Статус коришћења Агента за кодирање АИ према програмском језику
Програмски језик у којем се највише користи АИ Цодинг Агент је „ТипеСцрипт“, други је „Питхон“, трећи је „Руст“, четврти је „Го“, а пети је „Ц#“. Стопа усвајања АИ кодирања за ТипеСцрипт остаје висока, док је састав Питхон'', Руст'' и Го'' као друге групе и Ц#'' као треће групе био конзистентан тренд последњих година.
АИ Цодинг Агент рангирање према програмском језику 2026/8/1
https://ai-coding.info/?date=2026-08-01&since=2026-07-01&until=2026-08-01#language-agent-rank
Рангирање Агента за АИ кодирање према програмском језику 1. јула 2026
https://ai-coding.info/?date=2026-07-01&since=2026-07-01&until=2026-08-01#language-agent-rank
Месечни трендови у броју складишта које користи АИ Цодинг Агент
Број складишта је био 1,794 од 2026/07/01, али се повећао на 1,940 од 2026/08/01, а број спремишта који користе АИ Цодинг Агент се повећао за 146.
Промене у броју складишта који користе АИ Цодинг Агент са 2026/7/1 на 2026/8/1
https://ai-coding.info/?date=2026-08-01&since=2026-07-01&until=2026-08-01#time-based-bar-chart
Може ли се локални ЛЛМ користити за АИ кодирање?
У јуну је Клод објавио следећу генерацију ЛЛМ-а, Митхос и Фабле 5, који су шокирали индустрију својим перформансама. Међутим, након тога, кинеска компанија Кими објавила је модел отворене тежине под називом Кими-К3, који је скоро па Фабле класа. То је постала врућа тема. Чак и када се погледају стварна мерила, бројке су близу.
https://artificialanalysis.ai/#intelligence-category-tabs
Када сам то помислио,
**Није ли локални ЛЛМ такође опција за АИ кодирање? **
Мислим да можда мислите тако. Истражио сам то подручје. У табели испод су наведени главни модели ЛЛМ отворене тежине са горњег графикона.
| Назив модела | Назив компаније | Датум објаве | Број параметара | Број активних параметара | Дужина контекста | Индекс интелигенције |
|---|---|---|---|---|---|---|
| Кими К3(мак) | Кими(Кина) | 2026/07 | 2,800Б | 104Б | 1М | 60 |
| ГЛМ-5.2(мак) | З АИ(Кина) | 2026/06 | 756Б | 40Б | 1М | 53 |
| ДеепСеек В4 Фласх 0731 | ДеепСеек(Цхина) | 2026/07 | 284Б | 13Б | 1М | 52 |
| МиМо-В2.5-Про | Ксиаоми(Кина) | 2026/04 | 1,023Б | 42Б | 1М | 43 |
| Мусе Глиммер (високо) | Мета(САД) | 2026/08 | 30Б | 256К | 35 | |
| Гемма 4 31Б (Реасонинг) | Гоогле (САД) | 2026/04 | 30.7Б | 256К | 30 |
Међутим, да ли они заиста раде на вашем рачунару? Ја то стварно не разумем. Дакле, метод одређивања који смо разматрали био је
Потребна ВРАМ меморија је
2[ГБ] по параметру 1[Б]
је. Можете грубо проценити да ли ће функционисати на основу капацитета ВРАМ меморије вашег рачунара и броја параметара модела који желите да покренете. дакле,
**Математички, за покретање Кими-К3 потребно је 5,6 ТБ (5600 ГБ) меморије. **
Објаснићу разлог за ово. У стандардном дистрибуираном ЛЛМ моделу, тежине се изражавају помоћу децималних бројева са прецизношћу од бф16 или фп16. Ово захтева 2 бајта за сваки параметар. Ознака коју често видите, као што је 30[Б], је број параметара, а Б означава милијарду и представља 10^9. Стога се може видети да модел као што је 30[Б] има податке о тежини 30×10^9. И 1[ГБ]=1*10^9[бајт]. Размишљајући о томе на тај начин, раније смо споменули да се стандардне тежине чувају у 2 бајта, тако да је потребно 2 бајта по тежини, што значи 2 [ГБ] за складиштење 1 [Б] параметра у меморији. Ово је прорачун. Ово је значење "2[ГБ] по параметру 1[Б]" поменутог раније. Међутим, ово је само апроксимација; ово је минимални захтев за учитавање тежине у ВРАМ, а пошто се меморија може користити као додатак томе, строго је препоручљиво да се не прекорачи. Ово је капацитет ВРАМ-а.
Овде долази до изражаја концепт квантизације. Можда сте видели К4_0 или К4_К_М. Ово је техника која компримује тежину на њен број битова. Дакле, у случају К4_0, грубо говорећи, капацитет тежине је 4 бита (4 део К4_0). Према томе, у овом случају, капацитет је 0,5[ГБ] по 1[Б]. Ова брза референтна табела изгледа овако:
| Метода квантизације | Потребна количина меморије по 1[Б] [ГБ] |
|---|---|
| бф16,фп16(стандард) | 2.0 |
| К8_0 | 1.0 |
| К4_0 | 0.5 |
Можда ћете видети запис као што је К4_К_М, али грубо говорећи, то је модел који повећава тачност у поређењу са К4_0, али користи нешто више меморијског капацитета. Добро је бити свестан тога. Постоји још један начин да се каже, једноставно погледајте величину датотеке тежине (сафетенсор или ггуф). Ако ово премашује капацитет ВРАМ меморије, генерално неће радити. Мислим да можеш тако мислити.
Одавде смо направили брзу референтну табелу количине ВРАМ меморије, методе квантизације и броја параметара.
| Капацитет ВРАМ меморије [ГБ] | Број параметара (бф16,фп16)[Б] | Број параметара (К8_0)[Б] | Број параметара (К4_0)[Б] |
|---|---|---|---|
| 8 | 4 | 8 | 16 |
| 16 | 8 | 16 | 32 |
| 24 | 12 | 24 | 48 |
| 32 | 16 | 32 | 64 |
| 64 | 32 | 64 | 128 |
| 128 | 64 | 128 | 256 |
| 256 | 128 | 256 | 512 |
| 512 | 256 | 512 | 1024 |
| 1024 | 512 | 1024 | 2048 |
| 2048 | 1024 | 2048 | 4096 |
Отприлике колико дуго се то може урадити? С обзиром на то, ако се ради о моделу са 8ГБ ВРАМ-а, биће то РТКС 5050, а цена Амазона је 55.000 јена. Ово може да функционише ако је модел око 8[Б] квантизован са К8_0. То је ниво.
Када се ВРАМ повећа на 16 ГБ, постаје модел око РТКС 5060 Ти, који кошта око 108.000 јена. У овом тренутку, са К4_0 квантизацијом, ЛЛМ класе 30[Б] ће радити или не. То је ниво.
Када се ВРАМ повећа на 32 ГБ, постаје РТКС 5090 водећи модел и кошта 795.000 јена. Када је ово у питању, претпостављам да је то на нивоу на којем то не можете учинити осим ако немате велику одлучност. Мислим да јесам. Ово је квантизација К8_0 и да ли модел класе 30[Б] функционише или не. Биће отприлике на истом нивоу.
Ова област је највиша линија потрошачких производа. Сада, када је у питању професионални ниво, РТКС ПРО 6000 Блацквелл је опремљен са 96 ГБ меморије. **Цена је 2,35 милиона јена. ** Овде, чак и на нивоу квантизације К4_0, ради само модел 192[Б], тако да водећи модел не ради.
А пошто су постојали подаци за ГПУ кластер који треба да се инсталира на серверу, поставићу их само за референцу. У случају НВИДИА Б300, меморија је 288ГБ, а цена је 8,63 милиона јена. Ако је један, ДеепСеек В4 Фласх 0731 са К8_0 квантизацијом може радити. К4_0 ће радити. Ако имате два (еквивалентно 17 милиона јена), МиМо-В2.5-Про са К4_0 квантизацијом може радити.
https://www.nttpc.co.jp/cgi-bin/gpu/simulation/custom/index.cgi
Стога, ако упоредите количину меморије и број параметара, ово је отприлике то. Наравно, има више дебате од овога, и да ли ће ово бити укључено у памћење. Дакле, да ли генерише довољно ТОК/с да се нормално користи? Постоји још једно питање. Овај чланак говори о самим основама. ЛЛМ има архитектуре које се зову Денсе и МоЕ, ау МоЕ се заправо израчунавају само активни параметри, а у зависности од начина извршења, постоји начин да се смањи количина физичке меморије читањем потребних стручњака из складишта итд., Уместо да се сви Експерти стално чувају у меморији. Међутим, постоје неки посебни аспекти начина на који се модел извршава, а учитавање из складишта у меморију може постати уско грло. Има неких оваквих прича, али овде такве детаље игноришемо и једноставно узимамо у обзир капацитет када су све тежине модела ускладиштене у меморији.
Дакле, ако желите да покренете тренутни квантизовани водећи модел К4_0 или К8_0, биће вам потребна машина која кошта најмање 10 милиона јена. Такав је осећај. С друге стране, може радити ако користите посебан хардвер да бисте постигли још већу квантизацију. На пример, постоје људи који користе 2-битну квантизацију и 3-битну квантизацију на М4 Мац-у са 128 ГБ меморије (распродато) и ДГКС Спарк-ом (128 ГБ меморије).
https://zenn.dev/tkhr_sait/articles/20260508_try-local-deepseek-v4
https://dev.classmethod.jp/articles/dgx-spark-deepseek-v4-flash-0731-llama-cpp/
С друге стране, ово је вероватно граница за појединца. То је осећај коже. Лично, обраћам пажњу на 1-битну квантизацију. Познати модели укључују Бонсаи и технологију као што је БитНет, али знање о 1-битној квантизацији није јавно објављено, тако да га нисам пробао (вероватно би требало много времена и смањило тачност закључивања).
Дакле, лично, ако би била пуштена 1-битна квантизована верзија ДеепСеек-а (отприлике 35,5 ГБ), могао бих да видим свет у коме би могао да се покреће локално на ГПУ-у за потрошаче, у зависности од неке домишљатости, али пошто то тренутно немамо, то је прилично тешко. То је искрена истина.
дакле,
**Није реално покренути водећи модел са локалним ЛЛМ. **
То је мој општи утисак. Ако заиста желите да функционише, мислим да морате да урадите неко тестирање.
мисли
Овај пут сам се фокусирао на локални ЛЛМ. Када је Кими-К3 изашао, био сам прилично шокиран, а класа Фабле се преселила у локални ЛЛМ! Било је прилично импресивно, али не могу ни да га померим са опремом коју имам. То је био мој искрен утисак. Раније сам поставио чланак о локалном ЛЛМ-у, али то у то време није функционисало баш најбоље, па бих желео да сам мало дубље у њега. тако сам и мислио.