Μπορεί το τοπικό LLM να χρησιμοποιηθεί για Κωδικοποίηση AI; ~Σύνοψη των τάσεων Κωδικοποίησης AI τον Ιούλιο του 2026 όπως φαίνεται μέσα από δεδομένα~
συγγραφέας: @kotauchisunsun
Ημερομηνία κυκλοφορίας: 2026/08/12
AI Coding Agent τάσεις τον Αύγουστο του 2026
Λειτουργούμε έναν ιστότοπο που ονομάζεται AI Coding.Info από τον Ιούλιο του 2025.
Αυτός είναι ένας ιστότοπος που παρατηρεί τις τάσεις χρήσης που σχετίζονται με Πράκτορες Κωδικοποίησης AI όπως οι Claude Code, Codex CLI, Github Copilot και Gemini από ένα σταθερό σημείο από πληροφορίες στα αποθετήρια Github. Για να προσδιορίσουμε τη χρήση του AI Coding Agent, πραγματοποιούμε καθημερινές έρευνες υπό τις ακόλουθες συνθήκες.
- Καθημερινή επιθεώρηση 9.000 δημόσιων αποθετηρίων στο Github
- TOP 300 αστέρια Github ανά γλώσσα προγραμματισμού
- Έρευνα από 30 τύπους γλωσσών προγραμματισμού
- Στοχεύει 16 τύπους πρακτόρων κωδικοποίησης AI
- Μόνο όταν τα αρχεία κανόνων που χρησιμοποιούνται από διάφορους πράκτορες κωδικοποίησης AI βρίσκονται στο αποθετήριο Github, προσδιορίζεται ότι χρησιμοποιείται ο παράγοντας κωδικοποίησης AI.
Οι τάσεις του περασμένου μήνα
https://ai-coding.info/reports/articles/20260703
Το ποσοστό χρήσης AI Coding Agent είναι 13,0%
Το ποσοστό χρήσης του αποθετηρίου του παράγοντα κωδικοποίησης AI ήταν 13,0%, σημειώνοντας αύξηση 0,9% από 12,1% την προηγούμενη φορά.
Ποσοστό χρήσης παράγοντα κωδικοποίησης AI στις 2026/8/1
https://ai-coding.info/?date=2026-08-01#adoption-rate
Ποσοστό χρήσης παράγοντα κωδικοποίησης AI την 1η Ιουλίου 2026
https://ai-coding.info/?date=2026-07-01#adoption-rate
Τάσεις στο ποσοστό χρήσης παράγοντα κωδικοποίησης AI από 2026/7/1 έως 2026/8/1
https://ai-coding.info/?date=2026-04-01&since=2026-07-01&until=2026-08-01#share-trend
Μερίδιο του AI Coding Agent ανά προϊόν
Το μερίδιο ανά προϊόν έχει ως εξής.
| Κατάταξη | Όνομα προϊόντος | Επιτόκιο μετοχής |
|---|---|---|
| 1η θέση | Codex CLI | 40,8% |
| 2η θέση | Κωδικός Claude | 32,0% |
| 3η θέση | Copilot Agent | 15,1% |
| 4η θέση | Gemini CLI(Αντιβαρύτητα) | 5,3% |
| 5η θέση | Δρομέας | 4,4% |
Ενώ το μερίδιο του Codex CLI αυξάνεται, ο Claude Code παραμένει ο ίδιος. Μικρή πτώση παρουσιάζουν και οι Copilot Agent και Gemini CLI (Antigravity). Ο κέρσορας είναι κάτι στο οποίο έχω δώσει λίγη προσοχή. Ο κέρσορας αποκτάται από τη SpaceX. Υπήρχαν νέα.
https://www.nikkei.com/article/DGXZQOGN16BC70W6A610C2000000/
Επομένως, θα υπάρξει αλλαγή στο ποσοστό μετοχής αυτού του Δρομέα; Το νόμιζα, αλλά τον περασμένο μήνα ήταν 4,7% και αυτόν τον μήνα ήταν 4,4%, οπότε δεν υπάρχει τόσο μεγάλη αλλαγή. Εξετάζοντας τον αριθμό των αποθετηρίων που αναφέρονται παρακάτω, την 1η Ιουλίου, υπήρχαν 85 αποθετήρια που υιοθέτησαν τον Δρομέα και από την 1η Αυγούστου, ο αριθμός παραμένει αμετάβλητος στα 85. Επομένως, όσον αφορά αυτό το φαινόμενο, ο πληθυσμός των αποθετηρίων που χρησιμοποιούν AI Coding Agent έχει αυξηθεί συνολικά, αλλά ο αριθμός χρήσης δρομέα δεν έχει αυξηθεί. Ως αποτέλεσμα, το συνολικό μερίδιο αγοράς μειώνεται. Αυτό έχει γίνει φαινόμενο. Ωστόσο, λόγω των χαρακτηριστικών της έρευνας AI Coding.Info, ο αριθμός των αποθετηρίων με αρχεία ρυθμίσεων ειδικά για τον δρομέα (.cursor) δεν θα αλλάξει. Τούτου λεχθέντος, ο ίδιος ο Δρομέας υποστηρίζει το AGENTS.md. Το AI Coding.Info δηλώνει ότι ο αριθμός των αποθετηρίων με AGENTS.md = ο αριθμός υιοθέτησης του Codex CLI, επομένως, παρόλο που χρησιμοποιείται ο Δρομέας, είναι πιθανό να υπολογίζεται ως Codex CLI και υπάρχει πιθανότητα ο αριθμός των χρήσεων να αυξάνεται σε ένα αόρατο τμήμα.
Επιτόκιο μετοχής AI Coding Agent στις 1/8/2026
https://ai-coding.info/?date=2026-08-01&since=2026-07-01&until=2026-08-01#agent-share
Επιτόκιο μετοχών του AI Coding Agent στις 2026/7/1
https://ai-coding.info/?date=2026-07-01&since=2026-07-01&until=2026-08-01#agent-share
Κατάσταση χρήσης AI Coding Agent ανά γλώσσα προγραμματισμού
Η γλώσσα προγραμματισμού στην οποία χρησιμοποιείται περισσότερο το AI Coding Agent είναι "TypeScript", η δεύτερη είναι "Python", η τρίτη είναι "Rust", η τέταρτη είναι "Go" και η πέμπτη είναι "C#". Το ποσοστό υιοθέτησης της Κωδικοποίησης AI για TypeScript παραμένει υψηλό, ενώ η σύνθεση των «Python», «Rust» και «Go» ως δεύτερη ομάδα και «C#» ως τρίτη ομάδα ήταν μια σταθερή τάση τα τελευταία χρόνια.
Κατάταξη AI Coding Agent ανά γλώσσα προγραμματισμού στις 2026/8/1
https://ai-coding.info/?date=2026-08-01&since=2026-07-01&until=2026-08-01#language-agent-rank
Κατάταξη AI Coding Agent ανά γλώσσα προγραμματισμού την 1η Ιουλίου 2026
https://ai-coding.info/?date=2026-07-01&since=2026-07-01&until=2026-08-01#language-agent-rank
Μηνιαίες τάσεις στον αριθμό των αποθετηρίων που χρησιμοποιούνται από το AI Coding Agent
Ο αριθμός των αποθετηρίων ήταν 1.794 από το 2026/07/01, αλλά έχει αυξηθεί σε 1.940 από το 2026/08/01 και ο αριθμός των αποθετηρίων που χρησιμοποιούν το AI Coding Agent έχει αυξηθεί κατά 146.
Αλλαγές στον αριθμό των αποθετηρίων που χρησιμοποιούν AI Coding Agent από 2026/7/1 έως 2026/8/1
https://ai-coding.info/?date=2026-08-01&since=2026-07-01&until=2026-08-01#time-based-bar-chart
Μπορεί το τοπικό LLM να χρησιμοποιηθεί για Κωδικοποίηση AI;
Τον Ιούνιο, η επόμενη γενιά LLM, Mythos και Fable 5, κυκλοφόρησαν από τον Claude και συγκλόνισαν τη βιομηχανία με τις επιδόσεις τους. Ωστόσο, μετά από αυτό, η κινεζική εταιρεία Kimi κυκλοφόρησε ένα μοντέλο ανοιχτού βάρους που ονομάζεται Kimi-K3, το οποίο είναι σχεδόν κατηγορίας Fable. Αυτό έγινε καυτό θέμα. Ακόμη και αν κοιτάξουμε τα πραγματικά σημεία αναφοράς, τα νούμερα είναι κοντά.
https://artificialanalysis.ai/#intelligence-category-tabs
Όταν σκέφτηκα ότι,
**Το τοπικό LLM δεν είναι επίσης μια επιλογή για Κωδικοποίηση AI; **
Νομίζω ότι μπορεί να το πιστεύεις. Έρευνα την περιοχή. Ο παρακάτω πίνακας παραθέτει τα κύρια μοντέλα LLM ανοιχτού βάρους από το παραπάνω γράφημα.
| Όνομα μοντέλου | Επωνυμία εταιρείας | Ημερομηνία ανακοίνωσης | Αριθμός παραμέτρων | Αριθμός ενεργών παραμέτρων | Μήκος περιβάλλοντος | Δείκτης νοημοσύνης |
|---|---|---|---|---|---|---|
| Kimi K3(max) | Kimi(Κίνα) | 2026/07 | 2.800B | 104Β | 1M | 60 |
| GLM-5.2(max) | Z AI(Κίνα) | 2026/06 | 756B | 40Β | 1M | 53 |
| DeepSeek V4 Flash 0731 | DeepSeek(Κίνα) | 2026/07 | 284Β | 13Β | 1M | 52 |
| MiMo-V2.5-Pro | Xiaomi(Κίνα) | 2026/04 | 1.023B | 42Β | 1M | 43 |
| Muse Glimmer (υψηλή) | Meta(ΗΠΑ) | 2026/08 | 30Β | 256K | 35 | |
| Gemma 4 31B (Συλλογισμός) | Google (ΗΠΑ) | 2026/04 | 30,7Β | 256K | 30 |
Ωστόσο, λειτουργούν πραγματικά στον υπολογιστή σας; Δεν το καταλαβαίνω πραγματικά. Επομένως, η μέθοδος προσδιορισμού που εξετάσαμε ήταν
Η απαιτούμενη μνήμη VRAM είναι
2[GB] ανά παράμετρο 1[B]
είναι. Μπορείτε να υπολογίσετε κατά προσέγγιση εάν θα λειτουργήσει με βάση τη χωρητικότητα μνήμης VRAM του υπολογιστή σας και τον αριθμό των παραμέτρων του μοντέλου που θέλετε να εκτελέσετε. επομένως,
**Μαθηματικά, απαιτούνται 5,6 TB (5.600 GB) μνήμης για την εκτέλεση του Kimi-K3. **
Θα εξηγήσω τον λόγο για αυτό. Στο πρότυπο κατανεμημένο μοντέλο LLM, τα βάρη εκφράζονται χρησιμοποιώντας δεκαδικούς αριθμούς με ακρίβεια bf16 ή fp16. Αυτά απαιτούν 2 Byte για κάθε παράμετρο. Ο συμβολισμός που βλέπετε συχνά, όπως 30[B], είναι ο αριθμός των παραμέτρων και το B σημαίνει δισεκατομμύριο και αντιπροσωπεύει 10^9. Επομένως, μπορεί να φανεί ότι ένα μοντέλο όπως το 30[B] έχει δεδομένα βάρους 30×10^9. Και 1[GB]=1*10^9[Byte]. Με αυτόν τον τρόπο, αναφέραμε νωρίτερα ότι τα τυπικά βάρη αποθηκεύονται σε 2 Byte, επομένως χρειάζονται 2 Byte ανά βάρος, που σημαίνει 2 [GB] για να αποθηκεύσετε 1 [B] παραμέτρους στη μνήμη. Αυτός είναι ο υπολογισμός. Αυτή είναι η έννοια του "2[GB] ανά παράμετρο 1[B]" που αναφέρθηκε προηγουμένως. Ωστόσο, αυτό είναι απλώς μια προσέγγιση. Αυτή είναι η ελάχιστη απαίτηση για τη φόρτωση των βαρών στη VRAM, και δεδομένου ότι μπορεί να χρησιμοποιηθεί και μνήμη επιπλέον, συνιστάται αυστηρά να μην την υπερβαίνετε. Αυτή είναι η χωρητικότητα VRAM.
Εδώ μπαίνει στο παιχνίδι η έννοια της κβαντοποίησης. Μπορεί να έχετε δει το Q4_0 ή το Q4_K_M. Αυτή είναι μια τεχνική που συμπιέζει το βάρος στον αριθμό των bits του. Επομένως, στην περίπτωση του Q4_0, χονδρικά μιλώντας, η χωρητικότητα βάρους είναι 4 bit (το 4 μέρος του Q4_0). Επομένως, σε αυτήν την περίπτωση, η χωρητικότητα είναι 0,5[GB] ανά 1[B]. Ένας γρήγορος πίνακας αναφοράς αυτών μοιάζει με αυτό:
| Μέθοδος κβαντοποίησης | Απαιτούμενη ποσότητα μνήμης ανά 1[B] [GB] |
|---|---|
| bf16,fp16(τυπικό) | 2.0 |
| Q8_0 | 1,0 |
| Q4_0 | 0,5 |
Μπορεί να δείτε μια σημείωση όπως το Q4_K_M, αλλά χονδρικά μιλώντας, είναι ένα μοντέλο που αυξάνει την ακρίβεια σε σύγκριση με το Q4_0, αλλά χρησιμοποιεί ελαφρώς μεγαλύτερη χωρητικότητα μνήμης. Είναι καλό να το γνωρίζουμε αυτό. Υπάρχει ένας άλλος τρόπος να το καταλάβετε, απλά κοιτάξτε το μέγεθος αρχείου του αρχείου βάρους (safetensor ή gguf). Εάν αυτό υπερβαίνει τη χωρητικότητα της μνήμης VRAM, γενικά δεν θα λειτουργήσει. Νομίζω ότι μπορείς να το σκεφτείς.
Από εδώ, δημιουργήσαμε έναν γρήγορο πίνακα αναφοράς για την ποσότητα της μνήμης VRAM, τη μέθοδο κβαντοποίησης και τον αριθμό των παραμέτρων.
| Χωρητικότητα μνήμης VRAM [GB] | Αριθμός παραμέτρων (bf16,fp16)[B] | Αριθμός παραμέτρων (Q8_0)[B] | Αριθμός παραμέτρων (Q4_0)[B] |
|---|---|---|---|
| 8 | 4 | 8 | 16 |
| 16 | 8 | 16 | 32 |
| 24 | 12 | 24 | 48 |
| 32 | 16 | 32 | 64 |
| 64 | 32 | 64 | 128 |
| 128 | 64 | 128 | 256 |
| 256 | 128 | 256 | 512 |
| 512 | 256 | 512 | 1024 |
| 1024 | 512 | 1024 | 2048 |
| 2048 | 1024 | 2048 | 4096 |
Περίπου πόσο καιρό μπορεί να γίνει; Λαμβάνοντας υπόψη ότι, εάν πρόκειται για μοντέλο με 8 GB VRAM, θα είναι RTX 5050 και η τιμή του Amazon είναι 55.000 γιεν. Αυτό μπορεί να λειτουργήσει εάν το μοντέλο είναι περίπου 8[B] κβαντισμένο με Q8_0. Αυτό είναι το επίπεδο.
Όταν η VRAM αυξάνεται στα 16 GB, γίνεται μοντέλο γύρω από το RTX 5060 Ti, το οποίο κοστίζει περίπου 108.000 γιεν. Σε αυτό το σημείο, με την κβαντοποίηση Q4_0, ένα LLM κατηγορίας 30[B] θα λειτουργήσει ή όχι. Αυτό είναι το επίπεδο.
Όταν η VRAM αυξηθεί στα 32 GB, γίνεται το κορυφαίο μοντέλο RTX 5090 και κοστίζει 795.000 γιεν. Όταν πρόκειται για αυτό, υποθέτω ότι είναι σε ένα επίπεδο που δεν μπορείς να το κάνεις αν δεν έχεις μεγάλη αποφασιστικότητα. Νομίζω πως ναι. Αυτή είναι η κβαντοποίηση του Q8_0 και αν το μοντέλο κλάσης 30[B] λειτουργεί ή όχι. Θα είναι περίπου στο ίδιο επίπεδο.
Αυτή η περιοχή είναι η κορυφαία γραμμή σε επίπεδο καταναλωτικών προϊόντων. Τώρα, όσον αφορά το επαγγελματικό επίπεδο, το RTX PRO 6000 Blackwell είναι εξοπλισμένο με 96 GB μνήμης. **Η τιμή είναι 2,35 εκατομμύρια γιεν. ** Εδώ, ακόμη και στο επίπεδο κβαντισμού Q4_0, λειτουργεί μόνο το μοντέλο 192[B], επομένως το μοντέλο ναυαρχίδα δεν λειτουργεί.
Και επειδή υπήρχαν δεδομένα για το σύμπλεγμα GPU που έπρεπε να εγκατασταθεί στον διακομιστή, θα τα δημοσιεύσω μόνο για αναφορά. Στην περίπτωση του NVIDIA B300, η μνήμη είναι 288 GB και η τιμή είναι 8,63 εκατομμύρια γιεν. Εάν είναι ένα, το DeepSeek V4 Flash 0731 με κβαντισμό Q8_0 μπορεί να λειτουργήσει. Το Q4_0 θα λειτουργήσει. Εάν έχετε δύο (που ισοδυναμούν με 17 εκατομμύρια γιεν), το MiMo-V2.5-Pro με κβαντισμό Q4_0 μπορεί να λειτουργήσει.
https://www.nttpc.co.jp/cgi-bin/gpu/simulation/custom/index.cgi
Επομένως, εάν συγκρίνετε την ποσότητα της μνήμης και τον αριθμό των παραμέτρων, αυτό είναι περίπου. Φυσικά, υπάρχουν περισσότερα για συζήτηση από αυτό, και εάν αυτό θα συμπεριληφθεί στη μνήμη ή όχι. Λοιπόν, παράγει αρκετά TOK/s για κανονική χρήση; Υπάρχει ένα άλλο θέμα. Αυτό το άρθρο μιλάει για τα πολύ βασικά. Το LLM έχει αρχιτεκτονικές που ονομάζονται Dense και MoE και στο MoE υπολογίζονται στην πραγματικότητα μόνο οι ενεργές παράμετροι και, ανάλογα με τη μέθοδο εκτέλεσης, υπάρχει τρόπος να μειωθεί η ποσότητα της φυσικής μνήμης διαβάζοντας τα απαραίτητα Experts από την αποθήκευση κ.λπ., αντί να αποθηκεύονται συνεχώς όλοι οι Experts στη μνήμη. Ωστόσο, υπάρχουν ορισμένες ειδικές πτυχές στον τρόπο που εκτελείται το μοντέλο και η φόρτωση από την αποθήκευση στη μνήμη μπορεί να γίνει εμπόδιο. Υπάρχουν κάποιες ιστορίες όπως αυτή, αλλά εδώ αγνοούμε τέτοιες λεπτομέρειες και απλώς εξετάζουμε τη χωρητικότητα όταν όλα τα βάρη του μοντέλου αποθηκεύονται στη μνήμη.
Έτσι, εάν θέλετε να εκτελέσετε το τρέχον Q4_0 ή Q8_0 κβαντοποιημένο ναυαρχικό μοντέλο, θα χρειαστείτε ένα μηχάνημα που κοστίζει τουλάχιστον 10 εκατομμύρια γιεν. Αυτή είναι η αίσθηση του. Από την άλλη πλευρά, μπορεί να λειτουργήσει εάν χρησιμοποιείτε ειδικό υλικό για να επιτύχετε ακόμη μεγαλύτερη κβαντοποίηση. Για παράδειγμα, υπάρχουν άτομα που εκτελούν κβαντοποίηση 2 bit και κβαντοποίηση 3 bit στο M4 Mac με 128 GB μνήμης (εξαντλημένο) και DGX Spark (μνήμη 128 GB).
https://zenn.dev/tkhr_sait/articles/20260508_try-local-deepseek-v4
https://dev.classmethod.jp/articles/dgx-spark-deepseek-v4-flash-0731-llama-cpp/
Από την άλλη, αυτό είναι μάλλον το όριο για ένα άτομο. Είναι μια αίσθηση δέρματος. Προσωπικά, προσέχω την κβαντοποίηση 1 bit. Διάσημα μοντέλα περιλαμβάνουν το Bonsai και την τεχνολογία όπως το BitNet, αλλά η τεχνογνωσία για την κβαντοποίηση 1 bit δεν έχει δημοσιοποιηθεί, επομένως δεν το έχω δοκιμάσει (πιθανότατα θα χρειαζόταν τεράστιος χρόνος και θα μείωνε την ακρίβεια συμπερασμάτων).
Έτσι, προσωπικά, αν κυκλοφόρησε μια κβαντισμένη έκδοση 1 bit του DeepSeek (περίπου 35,5 GB), θα μπορούσα να δω έναν κόσμο στον οποίο θα μπορούσε να εκτελεστεί τοπικά σε GPU καταναλωτικού επιπέδου, ανάλογα με κάποια εφευρετικότητα, αλλά καθώς δεν το έχουμε αυτήν τη στιγμή, είναι αρκετά δύσκολο. Αυτή είναι η ειλικρινής αλήθεια.
Επομένως,
**Δεν είναι ρεαλιστικό να εκτελείται το εμβληματικό μοντέλο με τοπικό LLM. **
Αυτή είναι η γενική μου εντύπωση. Εάν θέλετε πραγματικά να λειτουργήσει, νομίζω ότι πρέπει να κάνετε κάποιες δοκιμές.
σκέψεις
Αυτή τη φορά, εστίασα την ομιλία μου στο τοπικό LLM. Όταν βγήκε το Kimi-K3, ήμουν αρκετά σοκαρισμένος και η τάξη Fable μετακόμισε στο τοπικό LLM! Ήταν αρκετά εντυπωσιακό, αλλά δεν μπορώ ούτε να το μετακινήσω με τον εξοπλισμό που έχω. Αυτή ήταν η ειλικρινής μου εντύπωση. Δημοσίευσα ένα άρθρο για το τοπικό LLM στο παρελθόν, αλλά δεν λειτούργησε πολύ καλά εκείνη την εποχή, οπότε θα ήθελα να το εμβαθύνω λίγο περισσότερο. έτσι νόμιζα.