Használható a helyi LLM az AI kódolására? ~A mesterséges intelligencia kódolási trendjeinek összefoglalása 2026 júliusában az adatok alapján~
szerző: @kotauchisunsun
Megjelenés dátuma: 2026/08/12
AI Coding Agent trendek 2026 augusztusában
2025 júliusa óta üzemeltetünk egy AI Coding.Info nevű oldalt.
Ez egy olyan webhely, amely az AI kódoló ügynökökhöz, például a Claude Code-hoz, a Codex CLI-hez, a Github Copilothoz és a Geminihez kapcsolódó használati trendeket figyeli meg egy fix pontról a Github adattárakból származó információk alapján. Az AI Coding Agent használatának meghatározásához napi felméréseket végzünk az alábbi feltételek mellett.
- 9000 nyilvános adattár napi ellenőrzése a Githubon
- A TOP 300 Github sztár programozási nyelv szerint
- 30 féle programozási nyelvből kutatott
- 16 féle AI kódoló ügynököt céloz meg
- Csak akkor kerül megállapításra, hogy a különféle mesterséges intelligencia kódoló ügynökök által használt szabályfájlok a Github-tárban vannak, akkor a rendszer meghatározza, hogy az AI Coding Agent használatban van-e.
A múlt hónap trendjei
https://ai-coding.info/reports/articles/20260703
Az AI kódoló ügynök használati aránya 13,0%
Az AI Coding Agent adattár kihasználtsága 13,0% volt, ami 0,9%-os növekedést jelent a legutóbbi 12,1%-hoz képest.
AI kódoló ügynök használati aránya 2026/8/1
https://ai-coding.info/?date=2026-08-01#adoption-rate
Az AI kódoló ügynök használati aránya 2026. július 1-jén
https://ai-coding.info/?date=2026-07-01#adoption-rate
Az AI kódoló ügynök használati arányának trendjei 2026/7/1 és 2026/8/1 között
https://ai-coding.info/?date=2026-04-01&since=2026-07-01&until=2026-08-01#share-trend
Az AI kódoló ügynök részesedése termékenként
A termékenkénti részesedés a következő.
| Rangsor | Termék neve | Részvény árfolyam |
|---|---|---|
| 1. hely | Codex CLI | 40,8% |
| 2. hely | Claude Code | 32,0% |
| 3. hely | Másodpilóta ügynök | 15,1% |
| 4. hely | Gemini CLI (Antigravitáció) | 5,3% |
| 5. hely | Kurzor | 4,4% |
Míg a Codex CLI részesedése növekszik, a Claude Code változatlan marad. A Copilot Agent és a Gemini CLI (Antigravity) szintén enyhe csökkenést mutat. A kurzor egy olyan dolog, amire egy kicsit figyeltem. A kurzort a SpaceX vette fel. Voltak hírek.
https://www.nikkei.com/article/DGXZQOGN16BC70W6A610C2000000/
Ezért lesz változás ennek a kurzornak a részesedési arányában? Azt hittem, de a múlt hónapban 4,7%, ebben a hónapban pedig 4,4%, szóval nincs akkora változás. Az alább említett adattárak számát tekintve július 1-jén 85 adattár volt, amely elfogadta a Cursort, és augusztus 1-jén a szám nem változott, 85. Emiatt a jelenséget tekintve az AI Coding Agentet használó adattárak populációja összességében nőtt, de a kurzorhasználat száma nem nőtt. Ennek eredményeként a teljes piaci részesedés csökken. Ez jelenséggé vált. Az AI Coding.Info kutatás sajátosságai miatt azonban a Cursor-specifikus konfigurációs fájlokkal (.cursor) rendelkező adattárak száma nem változik. Ennek ellenére a Cursor maga támogatja az AGENTS.md-t. Az AI Coding.Info kimondja, hogy az AGENTS.md-vel rendelkező adattárak száma = a Codex CLI átvételének száma, tehát bár a kurzort használják, lehetséges, hogy Codex CLI-nek számítják, és fennáll annak a lehetősége, hogy a használatok száma egy láthatatlan részben növekszik.
AI Coding Agent részesedési aránya 2026.08.01
https://ai-coding.info/?date=2026-08-01&since=2026-07-01&until=2026-08-01#agent-share
AI Coding Agent részesedési arány 2026/7/1
https://ai-coding.info/?date=2026-07-01&since=2026-07-01&until=2026-08-01#agent-share
AI Coding Agent használati állapota programozási nyelv szerint
Az AI Coding Agent leggyakrabban használt programozási nyelve a "TypeScript", a második a "Python", a harmadik a "Rust", a negyedik a "Go" és az ötödik a "C#". Az AI Coding for TypeScript alkalmazási aránya továbbra is magas, míg a 'Python', 'Rust' és 'Go' második csoport, valamint 'C#' mint harmadik csoport összetétele következetes tendencia volt az elmúlt években.
AI kódoló ügynök rangsorolása programozási nyelv szerint 2026/8/1
https://ai-coding.info/?date=2026-08-01&since=2026-07-01&until=2026-08-01#language-agent-rank
AI kódoló ügynök rangsorolása programozási nyelvek szerint 2026. július 1-jén
https://ai-coding.info/?date=2026-07-01&since=2026-07-01&until=2026-08-01#language-agent-rank
Az AI Coding Agent által használt adattárak számának havi trendjei
Az adattárak száma 2026/07/01-ig 1794 volt, de 2026/08/01-től 1940-re nőtt, az AI Coding Agentet használó adattárak száma pedig 146-tal nőtt.
Változások az AI Coding Agentet használó adattárak számában 2026/7/1 és 2026/8/1 között
https://ai-coding.info/?date=2026-08-01&since=2026-07-01&until=2026-08-01#time-based-bar-chart
Használható a helyi LLM az AI kódolására?
Júniusban Claude kiadta az LLM-ek következő generációját, a Mythos-t és a Fable 5-öt, amelyek teljesítményükkel sokkolták az iparágat. Ezt követően azonban a kínai Kimi cég kiadott egy nyitott súlyú Kimi-K3 modellt, ami már-már Fable osztályú. Ez forró téma lett. Még a tényleges benchmarkokat nézve is közel állnak a számok.
https://artificialanalysis.ai/#intelligence-category-tabs
Amikor arra gondoltam,
**A helyi LLM nem választható az AI-kódoláshoz is? **
Szerintem ezt gondolhatod. Megvizsgáltam azt a területet. Az alábbi táblázat felsorolja a főbb nyitott súlyú LLM modelleket a fenti grafikonon.
| Modell neve | Cég neve | Kihirdetés dátuma | Paraméterek száma | Aktív paraméterek száma | Kontextus hossza | Intelligencia Index |
|---|---|---|---|---|---|---|
| Kimi K3(max) | Kimi (Kína) | 2026/07 | 2800M | 104B | 1M | 60 |
| GLM-5.2(max) | Z AI (Kína) | 2026/06 | 756B | 40B | 1M | 53 |
| DeepSeek V4 Flash 0731 | DeepSeek(Kína) | 2026/07 | 284B | 13B | 1M | 52 |
| MiMo-V2.5-Pro | Xiaomi (Kína) | 2026/04 | 1,023B | 42B | 1M | 43 |
| Muse Glimmer (magas) | Meta(USA) | 2026/08 | 30B | 256K | 35 | |
| Gemma 4 31B (Érvelés) | Google (USA) | 2026/04 | 30,7B | 256K | 30 |
Azonban ezek valóban működnek a számítógépen? Ezt nem igazán értem. Ezért az általunk vizsgált meghatározási módszer az volt
A szükséges VRAM memória a
2[GB] 1. paraméterenként[B]
van. A számítógépe VRAM memóriakapacitása és a futtatni kívánt modell paramétereinek száma alapján hozzávetőlegesen megbecsülheti, hogy működik-e. ezért,
**Matematikailag 5,6 TB (5600 GB) memória szükséges a Kimi-K3 futtatásához. **
Ennek okát megmagyarázom. A standard elosztott LLM modellben a súlyokat decimális számokkal fejezik ki bf16 vagy fp16 pontossággal. Ezekhez minden paraméterhez 2 bájt szükséges. A gyakran látható jelölés, például 30[B], a paraméterek száma, a B pedig milliárdot jelent, és 10^9-et jelent. Ezért látható, hogy egy olyan modell, mint a 30[B], 30×10^9 tömegadatokkal rendelkezik. És 1[GB]=1*10^9[Bájt]. Ha így gondolkodunk, korábban már említettük, hogy a szabványos súlyok 2 bájtban vannak tárolva, így súlyonként 2 bájt szükséges, ami 2 [GB]-ot jelent 1 [B] paraméter tárolására. Ez a számítás. Ez a korábban említett "2[GB] 1[B] paraméterenként" jelentése. Ez azonban csak közelítés; ez a minimális követelmény a súlyok VRAM-ba való betöltéséhez, és mivel ezen kívül még memória is használható, ezért ezt szigorúan nem szabad túllépni. Ez a VRAM kapacitása.
Itt jön képbe a kvantálás fogalma. Lehet, hogy láttad a Q4_0 vagy a Q4_K_M. Ez egy olyan technika, amely a súlyt a bitek számára tömöríti. Ezért a Q4_0 esetében durván szólva a súlykapacitás 4 bit (a Q4_0 4 része). Ezért ebben az esetben a kapacitás 0,5 [GB] per 1 [B]. Ezeknek egy gyors referenciatáblázata így néz ki:
| Kvantálási módszer | Szükséges memória mennyisége 1[B] [GB]-onként |
|---|---|
| bf16,fp16(standard) | 2.0 |
| Q8_0 | 1.0 |
| Q4_0 | 0,5 |
Láthat egy olyan jelölést, mint például a Q4_K_M, de durván szólva ez egy olyan modell, amely a Q4_0-hoz képest növeli a pontosságot, de valamivel több memóriakapacitást használ. Ezzel jó tisztában lenni. Van egy másik módja is annak megállapítására, hogy egyszerűen nézze meg a súlyfájl (safetensor vagy gguf) fájlméretét. Ha ez meghaladja a VRAM memóriakapacitást, általában nem fog működni. Szerintem gondolhatod.
Innen egy gyors referencia táblázatot készítettünk a VRAM memória mennyiségéről, a kvantálási módszerről és a paraméterek számáról.
| VRAM memória kapacitása [GB] | A paraméterek száma (bf16,fp16)[B] | Paraméterek száma (Q8_0)[B] | Paraméterek száma (Q4_0)[B] |
|---|---|---|---|
| 8 | 4 | 8 | 16 |
| 16 | 8 | 16 | 32 |
| 24 | 12 | 24 | 48 |
| 32 | 16 | 32 | 64 |
| 64 | 32 | 64 | 128 |
| 128 | 64 | 128 | 256 |
| 256 | 128 | 256 | 512 |
| 512 | 256 | 512 | 1024 |
| 1024 | 512 | 1024 | 2048 |
| 2048 | 1024 | 2048 | 4096 |
Körülbelül meddig lehet csinálni? Figyelembe véve, hogy ha 8 GB VRAM-mal rendelkező modellről van szó, akkor RTX 5050 lesz, az Amazon ára pedig 55 000 jen. Ez akkor működhet, ha a modell körülbelül 8[B] Q8_0-val kvantált. Ez a szint.
Amikor a VRAM 16 GB-ra nő, az RTX 5060 Ti körüli modell lesz, ami körülbelül 108 000 jenbe kerül. Ezen a ponton a Q4_0 kvantálással a 30[B] osztályú LLM működik vagy sem. Ez a szint.
Amikor a VRAM 32 GB-ra nő, az RTX 5090 zászlóshajó modelljévé válik, és 795 000 jenbe kerül. Ha erről van szó, azt hiszem, ez olyan szinten van, hogy nem tudod megtenni, ha nincs nagy elszántságod. szerintem igen. Ez a Q8_0 kvantálása, és hogy a 30[B] osztályú modell működik-e vagy sem. Körülbelül ugyanazon a szinten lesz.
Ez a terület a fogyasztói termékszint felső sora. Ami a professzionális szintet illeti, az RTX PRO 6000 Blackwell 96 GB memóriával van felszerelve. **Az ár 2,35 millió jen. ** Itt még a Q4_0 kvantálási szinten is csak a 192[B] modell működik, tehát a zászlóshajó modell nem működik.
És mivel voltak adatok a szerverre telepítendő GPU-fürtről, csak referenciaként teszem közzé. NVIDIA B300 esetén a memória 288 GB, az ára pedig 8,63 millió jen. Ha az egyik, akkor a DeepSeek V4 Flash 0731 Q8_0 kvantálással működhet. A Q4_0 működni fog. Ha kettő van (ez 17 millió jennek felel meg), akkor a MiMo-V2.5-Pro a Q4_0 kvantálással működhet.
https://www.nttpc.co.jp/cgi-bin/gpu/simulation/custom/index.cgi
Ezért, ha összehasonlítjuk a memória mennyiségét és a paraméterek számát, akkor ez kb. Persze ennél többről is lehet vitázni, és hogy ez bekerül-e az emlékezetbe vagy sem. Tehát elég TOK/s-t generál a normál használathoz? Van egy másik probléma is. Ez a cikk az alapokról szól. Az LLM rendelkezik Dense és MoE nevű architektúrákkal, a MoE-ben pedig csak az aktív paraméterek számítanak ki, és a végrehajtási módtól függően van mód a fizikai memória mennyiségének csökkentésére úgy, hogy a szükséges Experteket kiolvassák a tárhelyről stb. A modell végrehajtásának azonban vannak speciális szempontjai, és a tárhelyről a memóriába való betöltés szűk keresztmetszetgé válhat. Vannak ilyen történetek, de itt figyelmen kívül hagyjuk az ilyen részleteket, és egyszerűen figyelembe vesszük a kapacitást, amikor a modell összes súlyát a memóriában tároljuk.
Tehát, ha a jelenlegi Q4_0 vagy Q8_0 kvantált zászlóshajó modellt szeretné futtatni, akkor szüksége lesz egy olyan gépre, amely legalább 10 millió jenbe kerül. Ez az érzés. Másrészt működhet, ha speciális hardvert használ a még nagyobb kvantálás eléréséhez. Például vannak, akik 2 bites kvantálást és 3 bites kvantálást futtatnak a 128 GB memóriával (elfogyott) és a DGX Sparkkal (128 GB memória) rendelkező M4 Mac gépen.
https://zenn.dev/tkhr_sait/articles/20260508_try-local-deepseek-v4
https://dev.classmethod.jp/articles/dgx-spark-deepseek-v4-flash-0731-llama-cpp/
Másrészt valószínűleg ez a határ az egyén számára. Ez egy bőr érzés. Én személy szerint az 1 bites kvantálásra figyelek. A híres modellek közé tartozik a Bonsai és olyan technológia, mint a BitNet, de az 1 bites kvantáláshoz szükséges know-how-t nem hozták nyilvánosságra, így nem próbáltam ki (valószínűleg hatalmas időt vesz igénybe, és csökkenti a következtetések pontosságát).
Tehát személy szerint, ha megjelenne a DeepSeek 1 bites kvantált verziója (kb. 35,5 GB), akkor egy olyan világot láthatnék, amelyben lokálisan, fogyasztói szintű GPU-n is futtatható lenne, némi találékonyságtól függően, de mivel jelenleg ez nem áll rendelkezésünkre, ez elég nehéz. Ez az őszinte igazság.
Ezért,
**Nem reális a zászlóshajó modellt helyi LLM-mel üzemeltetni. **
Ez az általános benyomásom. Ha tényleg azt akarod, hogy működjön, akkor szerintem végezned kell egy kis tesztet.
gondolat
Ezúttal a helyi LLM-re összpontosítottam előadásomat. Amikor a Kimi-K3 megjelent, nagyon megdöbbentem, és a Fable osztály beköltözött a helyi LLM-be! Egészen lenyűgöző volt, de még csak mozgatni sem tudom azzal a felszereléssel, ami van. Ez volt az őszinte benyomásom. Régebben megjelent egy cikk a helyi LLM-ről, de akkoriban nem működött túl jól, ezért magam is szeretnék egy kicsit mélyebbre ásni benne. azt hittem.