Asztali számítógépeken (Windows, macOS, Linux) futtatható,
nyílt forráskódú, nyílt súlyú AI megoldások
(2026 október)
Az asztali számítógépeken (Windows, macOS, Linux) nálunk is futtatható, nyílt forráskódú, nyílt súlyú mesterséges intelligencia megoldások piaca már ma is elég gazdag, és ez a jövő. Két kategóriára érdemes bontani:
- a futtatókörnyezetekre (szoftverekre), amelyek a grafikus vagy parancssoros felületet biztosítják, és magukra
- a Nagy Nyelvi modellekre (LLM), amelyek az AI „agyát” adják.
1. Asztali futtató felhasználói AI felületek
Ezeket a programokat kell letölteni, hogy grafikus felületen, teljesen offline is cseveghetni lehessen az AI-jal:
- https://lmstudio.ai/&ved=2ahUKEwiTjZz0gb6XAxXuWEEAHcL2OX0Qy_kOegYIAAgdEAI&opi=89978449" style="font-family: "Google Sans", Arial, sans-serif, "Noto Color Emoji"; font-size: 16px; font-weight: 500; margin: 0px; text-decoration: underline 1px rgb(21, 88, 214); border-bottom: 0px rgb(21, 88, 214);">LM Studio:
- Az egyik legnépszerűbb cross-platform grafikus szoftver. Beépített modellböngészővel rendelkezik, amellyel egyetlen kattintással letölthető és futtatható bármilyen GGUF formátumú nyílt modell.
- https://ollama.com/&ved=2ahUKEwiTjZz0gb6XAxXuWEEAHcL2OX0Qy_kOegYIAAgdEAg&opi=89978449" style="font-family: "Google Sans", Arial, sans-serif, "Noto Color Emoji"; font-size: 16px; font-weight: 500; margin: 0px; text-decoration: underline 1px rgb(21, 88, 214); border-bottom: 0px rgb(21, 88, 214);">Ollama:
- Bár alapvetően parancssoros (CLI) eszköz, a helyi AI-rendszer motorja. Erőforrás-hatékony, és háttérben futó kiszolgálóként (API) működik, amire rengeteg más asztali app épül. [//medium.com/@techlatest.net/top-10-open-source-user-interfaces-for-llms-94e3dd4ae20b"]
- https://jan.ai/&ved=2ahUKEwiTjZz0gb6XAxXuWEEAHcL2OX0Qy_kOegYIAAgdEA8&opi=89978449" style="font-family: "Google Sans", Arial, sans-serif, "Noto Color Emoji"; font-size: 16px; font-weight: 500; margin: 0px; text-decoration: underline 1px rgb(21, 88, 214); border-bottom: 0px rgb(21, 88, 214);">Jan.ai:
- Egy kifejezetten adatvédelemre és 100%-os offline működésre tervezett, letisztult, ChatGPT-szerű asztali alkalmazás.
- https://anythingllm.com/&ved=2ahUKEwiTjZz0gb6XAxXuWEEAHcL2OX0Qy_kOegYIAAgdEBU&opi=89978449" style="font-family: "Google Sans", Arial, sans-serif, "Noto Color Emoji"; font-size: 16px; font-weight: 500; margin: 0px; text-decoration: underline 1px rgb(21, 88, 214); border-bottom: 0px rgb(21, 88, 214);">AnythingLLM:
- Kiváló asztali alkalmazás, ha a saját dokumentumaidat (PDF, TXT, Word) szeretné beolvastatni az AI-jal (RAG funkció), így lokális tudásbázist hoz létre.
- https://gpt4all.io/&ved=2ahUKEwiTjZz0gb6XAxXuWEEAHcL2OX0Qy_kOegYIAAgdEBs&opi=89978449" style="font-family: "Google Sans", Arial, sans-serif, "Noto Color Emoji"; font-size: 16px; font-weight: 500; margin: 0px; text-decoration: underline 1px rgb(21, 88, 214); border-bottom: 0px rgb(21, 88, 214);">GPT4All:
- Egy nagyon könnyű, grafikus felülettel rendelkező asztali alkalmazás, amelyet kifejezetten úgy optimalizáltak, hogy akár külön videókártya (GPU) nélkül, pusztán a számítógép processzorán (CPU) is elfogadható sebességgel fusson.
2. Helyben futtatható nyílt AI modellek
Ha a fenti szoftverek valamelyikét telepíti, az alábbi globális, nyílt hozzáférésű modelleket tartoznak hozzájuk (különböző méretekben, a gépigényednek megfelelően):
- DeepSeek-R1 / V4: Az összetett logikai és matematikai gondolkodásban (reasoning) kiemelkedő, rendkívül költséghatékony és népszerű nyílt forráskódú modellcsalád.
- Llama 3 / Llama 4: A Meta (Facebook) által kiadott, az open-source közösség abszolút alapkövének számító, általános célú modellek.
- Qwen (Alibaba): Különösen a kódolás, a többnyelvűség és a logikai feladatok terén nyújt kiemelkedő teljesítményt.
- Gemma 4 (Google): A Google könnyű, de rendkívül okos, kifejezetten asztali és lakossági hardverekre (élvonalbeli eszközökre) optimalizált modelljei.
- Phi-4 (Microsoft): Kisebb méretű, de szigorú logikai feladatokra kiválóan betanított modellek.
- OpenAI GPT-OSS: Az OpenAI nyílt forrású (nyílt súlyú) kezdeményezése (pl. a 120B és 20B változatok), amellyel a cég visszatért a helyben futtatható verziókhoz.
3. Nyílt forráskódú kódolási asszisztensek (Asztali / IDE)
Ha programozáshoz keres valaki nyílt alternatívát a GitHub Copilot helyett:
- https://www.continue.dev/&ved=2ahUKEwiTjZz0gb6XAxXuWEEAHcL2OX0Qy_kOegYIAAg1EAI&opi=89978449" style="font-family: "Google Sans", Arial, sans-serif, "Noto Color Emoji"; font-size: 16px; font-weight: 500; margin: 0px; text-decoration: underline 1px rgb(21, 88, 214); border-bottom: 0px rgb(21, 88, 214);">Continue.dev:
- VS Code és JetBrains fejlesztőkörnyezetekbe beépülő nyílt forráskódú kiterjesztés, amellyel összekötheted a helyi (pl. Ollama) modelljeidet a kódszerkesztőddel.
- Tabby & https://voideditor.com/&ved=2ahUKEwiTjZz0gb6XAxXuWEEAHcL2OX0Qy_kOegYIAAg1EAQ&opi=89978449" style="font-family: "Google Sans", Arial, sans-serif, "Noto Color Emoji"; font-size: 16px; font-weight: 500; margin: 0px; text-decoration: underline 1px rgb(21, 88, 214); border-bottom: 0px rgb(21, 88, 214);">Void:
- Teljesen önálló vagy beépülő, privát kódkiegészítő szerverek és Cursor alternatívák.
Milyen gép kell hozzá?
A kisebb (pl. 7B–8B, azaz 7-8 milliárd paraméteres) modellek futtatásához általában elegendő egy 8 GB VRAM-mal rendelkező videókártya vagy egy Apple Silicon (M-szériás) Mac számítógép. Nagyobb modellekhez (pl. 30B felett) már 24 GB vagy annál több grafikus memória szükséges. A Meta és az Apple 2026 októberében jelentette be, hogy a Meta legújabb, nyílt modelljét futtathatják az Apple csúcskategóriás asztali számítógépein. Az együttműködés középpontjában MusesSparkrOpenen áll, Metata modellje, amely 816 milliárd paraméterrel és szakértők keverék (emixturere-oexpertsts) architektúrával működik. A felhasználók két-négy összekapcsolt MaStudioio segítségével futtathatják a modellt helyben, felhőkörnyezet nélkül, ami adatvédelmi előnyt és költségmegtakarítást is jelent. A modellt kifejezetten az ApplSiliconochipjeirere optimalizálták. Egy M5 Ultrchippelel és 256 GB memóriával szerelt MaStudioio legalább 10 799 dollárba kerül, de az 512 GB-os változat már októberben érkezik.
A kisebb (pl. 7B–8B, azaz 7-8 milliárd paraméteres) modellek futtatásához általában elegendő egy 8 GB VRAM-mal rendelkező videókártya vagy egy Apple Silicon (M-szériás) Mac számítógép. Nagyobb modellekhez (pl. 30B felett) már 24 GB vagy annál több grafikus memória szükséges. A Meta és az Apple 2026 októberében jelentette be, hogy a Meta legújabb, nyílt modelljét futtathatják az Apple csúcskategóriás asztali számítógépein. Az együttműködés középpontjában MusesSparkrOpenen áll, Metata modellje, amely 816 milliárd paraméterrel és szakértők keverék (emixturere-oexpertsts) architektúrával működik. A felhasználók két-négy összekapcsolt MaStudioio segítségével futtathatják a modellt helyben, felhőkörnyezet nélkül, ami adatvédelmi előnyt és költségmegtakarítást is jelent. A modellt kifejezetten az ApplSiliconochipjeirere optimalizálták. Egy M5 Ultrchippelel és 256 GB memóriával szerelt MaStudioio legalább 10 799 dollárba kerül, de az 512 GB-os változat már októberben érkezik.
A legkisebb modellek
A legkisebb modellek gond nélkül futtathatóak egy teljesen átlagos, normál laptopon is, sőt, sokszor meglepően gyorsan működnek. A helyi AI-fejlesztések (például a Google és a Meta legújabb optimalizációi) arra fókuszálnak, hogy a modellek egy átlagos irodai laptopon vagy egy vékony ultrabookon is használhatóak legyenek, felhős kapcsolat nélkül. A használhatóságot és a sebességet az alábbi szempontok határozzák meg:
A laptopokhoz az úgynevezett 1B, 2B és 3B (1, 2 és 3 milliárd paraméteres) modellek a legideálisabbak, de jó hardver esetén a 7B–8B-es modellek is szóba jöhetnek:
• DeepSeek-R1 (1.5B / 7B): A logikai gondolkodásra képes modell legkisebb, tömörített változatai kiválóan elfutnak laptopon.
• Llama 3.2 (1B / 3B): A Meta kifejezetten mobil- és laptop-hardverre optimalizált modellje, amely villámgyors és rendkívül kis méretű.
• Qwen 2.5 (1.5B / 3B / 7B): Rendkívül hatékony, kis mérete ellenére nagyon okos modellcsalád.
• Gemma 2 (2B): A Google kis méretű modellje, amely kevesebb mint 2 GB memóriát igényel.
• Llama 3.2 (1B / 3B): A Meta kifejezetten mobil- és laptop-hardverre optimalizált modellje, amely villámgyors és rendkívül kis méretű.
• Qwen 2.5 (1.5B / 3B / 7B): Rendkívül hatékony, kis mérete ellenére nagyon okos modellcsalád.
• Gemma 2 (2B): A Google kis méretű modellje, amely kevesebb mint 2 GB memóriát igényel.
A nyers modellek túl nagyok lennének egy laptopnak, de a fejlesztők kvantálást (quantization) alkalmaznak, ami egy olyan tömörítési eljárás (pl. 4 bites vagy 8 bites formátum, általában GGUF kiterjesztéssel), amely elhanyagolható pontosságvesztés mellett csökkenti a modell memóriaigényét és méretét. Egy 1–3 milliárd paraméteres kvantált modell csupán 1,5 – 3 GB RAM-ot foglal el a számítógép memóriájából.
A zökkenőmentes futtatáshoz a következő hardveres feltételek ajánlottak:
• Rendszermemória (RAM): Legalább 8 GB RAM (ebből a rendszer elvisz 4-5 GB-ot, a maradékba pedig kényelmesen befér egy 1B-3B közötti modell). Ha 16 GB RAM van a gépben, az már a 7B-8B-es modelleknek is kaput nyit.
• Processzor (CPU): Bármilyen modernebb Intel Core i5/i7 (11. generáció vagy újabb) vagy AMD Ryzen 5/7 processzor alkalmas rá.
• Apple Silicon (Mac): Ha Apple M1, M2, M3 vagy M4 chippel szerelt MacBookod van (akár alap 8 GB RAM-mal), az integrált memória-architektúra miatt a kis modellek gyorsan, szinte azonnal fognak válaszolni.
• Processzor (CPU): Bármilyen modernebb Intel Core i5/i7 (11. generáció vagy újabb) vagy AMD Ryzen 5/7 processzor alkalmas rá.
• Apple Silicon (Mac): Ha Apple M1, M2, M3 vagy M4 chippel szerelt MacBookod van (akár alap 8 GB RAM-mal), az integrált memória-architektúra miatt a kis modellek gyorsan, szinte azonnal fognak válaszolni.
Ha egy teljesen átlagos laptop van, a legbiztosabb és legegyszerűbb választás a GPT4All vagy az LM Studio letöltése. Ezekben a programokban a modell letöltésekor pontosan jelzi a szoftver (gyakran egy zöld ikonnal), hogy az adott verzió biztonságosan elfér-e a laptop memóriájában, így elkerülhető a gép túlterhelése.