Moduláris szerkezetű MI
3D-ben egymásra rétegzett MI memóriával
(2025 október)
A HBM, vagyis a nagy sávszélességű memória (High Bandwidth Memory) egy fejlett, 3D-ben egymásra rétegzett memória, amelyet elsősorban AI-chipekben, grafikus GPU-kban és nagy adatközpontokban használnak, mert gyors és energiahatékony, de drága és bonyolult a gyártása. A hagyományos DRAM (pl. DDR5, LPDDR) síkban elrendezett, olcsóbb, általános célú memória, (https://www.portfolio.
amelyet számítógépekben, szerverekben és okostelefonokban alkalmaznak. Az olcsó DRAM memóriák tették lehetővé a számítástechnika gyors fejlődését az utóbbi évtizedekben, persze a gyors CPU-k mellett.
Az Nvidia és az AMD csúcstechnológiás chipjeiket használják a nagy nyelvi modelleket futtató adatközpontokban. Autókba, drónokba, az iparnak nagyon sokféle chipet gyártanak, sajnos a magyar félzetőgyártás nincs, mert igen tőkeigényes beruházás, és állandó innovációt kíván. Az utóbbiban, a chipek tervezésében jeleskedhetnénk, alkalmazásterület szerinti speciális chipek tervezésével, melyeket legyártatnánk. Pl. önjáró buszok, teherautók, taxik, drónok chipjeire van komoly kereslet. Van kiút: https://hu.wikipedia.org/wiki/DeepSeek, a politikai felhangoktól eltekintve, létezik "olcsó", ≈ 6 M USA dolláros kínai MI rendszer 2025-ben, és 2026-ban több is lesz, sok helyen. A fejlesztés moduláris MI modellek irányában történik. Mi egy német gépen kapunk gépidőt, feltehetően egy jól definiált modult is tervezünk előbb-utóbb. Szép lenne egy tudományos érvelő-hipotéziskereső* modul fejlesztését megszerezni, van hozzá magyar szellemi kapacitás.
A MI moduláris szerkezete
A MI moduláris felépítése a MI-rendszerek független modulok összességét jelenti, ami javítja a skálázhatóságot (ami vertikálisan a nagyobb hardver kapacitást, gyorsabb vagy több processzort, nagyobb vagy gyorsabb memória és merevlemezt jelent, és nagyobb számítási teljesítményt, horizontálisan pedig újabb szerverekkel növelhető a teljesítmény), továbbá a rugalmasságot és a karbantarthatóságot. A moduláris MI-architektúra egy összetett rendszert kisebb, önálló egységekre bont, amelyek mindegyike egy adott funkcióért felelős. Lehetséges modulok:
A MI moduláris felépítése a MI-rendszerek független modulok összességét jelenti, ami javítja a skálázhatóságot (ami vertikálisan a nagyobb hardver kapacitást, gyorsabb vagy több processzort, nagyobb vagy gyorsabb memória és merevlemezt jelent, és nagyobb számítási teljesítményt, horizontálisan pedig újabb szerverekkel növelhető a teljesítmény), továbbá a rugalmasságot és a karbantarthatóságot. A moduláris MI-architektúra egy összetett rendszert kisebb, önálló egységekre bont, amelyek mindegyike egy adott funkcióért felelős. Lehetséges modulok:
- Érzékelők modulja: szenzorokból vagy adatforrásokból származó bemenetek kezelése (pl. képfelismerés, beszédfeldolgozás).
- Érvelő modulok: logikai következtetések levonása, tervezés vagy döntéshozatal. Szimbolikus és neurális módszereket is keverhet, gyakran több paradigmát vizsgál és tesztel párhuzamosan.
- Tanuló modulok: Adatok felhasználásával a teljesítmény időbeli adaptálása és javítása.
- Akciómodulok: feladatok végrehajtása vagy a környezettel való interakció (pl. robotika, szöveggenerálás, 3-D nyomtatók).
Minden modul önállóan fejleszthető, tesztelhető és frissíthető, így a rendszer adaptálhatóbb és könnyebben hibakereshető vagy skálázható.
A moduláris mesterséges intelligencia előnyei
Skálázhatóság: Új képességek adhatók hozzá a teljes rendszer újratervezése nélkül.
Skálázhatóság: Új képességek adhatók hozzá a teljes rendszer újratervezése nélkül.
Rugalmasság: A modulok egyenként cserélhetők vagy frissíthetők.
Karbantarthatóság: Könnyebb elkülöníteni és kijavítani a problémákat.
Interdiszciplináris integráció: Szimbolikus érvelést, neurális hálózatokat és valószínűségi modelleket kombinál egy koherens keretrendszerben.
MI-asszisztensek: Külön modulokat használnak a hangfelismeréshez, a természetes nyelv megértéséhez, a párbeszédek kezeléséhez és a válaszok generálásához.
Ahogy a MI-rendszerek összetettsége növekszik – mint például az autonóm járművek, a többágenses rendszerek vagy az általános célú asszisztensek esetén–, a moduláris tervezés elengedhetetlenné válik a robusztusság, az értelmezhetőség és a hosszú távú fejlődés biztosításához.
A memóriachipeket gyártó vállalatok gyorsan igyekeztek átállítani kapacitásaikat az AI-chipek gyártására, ami szűkíti a "kevésbé felkapott" chipek (amelyeket okostelefonokban, számítógépekben és szerverekben használnak) kínálatát. A helyzet odáig fajult, hogy az iparági vezetők és elemzők szerint kezd igen komoly hiány kialakulni a piacon szerverchipekből, megjelentek a pánik-vásárlások, az árak pedig drámai emelkedésbe kezdtek.
A mesterséges intelligencia (MI) iparágakat alakít át, megnöveli a keresletet bizonyos termékek iránt, de közben az MI gyors felfutásának egy nem várt mellékhatása is jelentkezett. A nagy nyertesek az Nvidia, vagy az AMD, amelyek csúcstechnológiás chipjeikkel látják a nagy nyelvi modelleket futtató adatközpontokat. Azonban a nagy versenyfutás és kapacitás-átalakítás miatt a hagyományos memóriachip-gyártók is kapnak egy igen erőteljes lökést. Például a Samsung Electronics, amely ugyan lemaradt a riválisokhoz képest az előrehaladott AI-chipek gyártásában, de most mégis nagy nyertes lehet. Arról van szó, hogy a kevésbé "divatos" félvezető memóriák kínálata olyan szűkössé vált, hogy a gyártók kétségbeesetten töltik fel a készleteiket.
A HBM, vagyis a nagy sávszélességű memória (High Bandwidth Memory) egy fejlett, 3D-ben egymásra rétegzett memória, amelyet elsősorban AI-chipekben, GPU-kban és adatközpontokban használnak, mert rendkívül gyors és energiahatékony, ugyanakkor drága és bonyolult a gyártása. Ezzel szemben a nem-HBM, vagy hagyományos DRAM (pl. DDR5, LPDDR) síkban elrendezett, olcsóbb, általános célú memória, amelyet számítógépekben, szerverekben és okostelefonokban alkalmaznak.
High-end chipek kellenek az AI-hoz. A ChatGPT 2022 novemberi megjelenése után elindult a generatív AI őrület, amivel párhuzamosan világszerte megindultak az adatközpont-építések. Hogy ezt a piaci lehetőséget kihasználják, a memóriachip-gyártók kapacitásaikat elkezdték az olyan nagy sávszélességű memóriachipek (HBM) gyártása fordítani, amelyeket például az Nvidia AI-chipkészleteinek építéséhez használnak, ami magával hozta, hogy kevesebb kapacitás jut a nem-HBM chipek gyártására.
Ráadásul a kínai riválisok — mint a CXMT — alacsonyabb fejlettségű chipjei fokozzák a versenyhelyzetet, ami arra késztette Dél-Korea memóriachip-gyártókat, a Samsungot és a SK Hynix-et (amelyek a globális DRAM-piac mintegy 70%-át uralják), hogy még gyorsabban álljanak át a high-end chipek chipek gyártására. Nagy piaci lehetőséget jelent ezeknek a cégeknek a mesterséges intelligencia, elég csak az utóbbi időben bejelentett technológiai tranzakciókra gondolni a chipgyártás vagy az adatközpontok területén. A nagy tech-cégek, köztük az Alphabet, az Amazon, a Meta Platforms, az Microsoft és a CoreWeave várhatóan idén mintegy 400 milliárd dollárt költenek AI-infrastruktúrára, és a gyengébb chipekre is nagy a kereslet. Miközben a nagy gyártók kapacitásaikat az high end memóriachipek gyártására állítják át, elindult a hagyományos adatközpontok, valamint a személyi számítógépek csereciklusa (WIN11), ráadásul a telefoneladások is a vártnál erősebben alakulnak, így most ott tartunk, hogy kínálati hiány alakult ki a nem-HBM memóriachipek piacán, az árak pedig elszálltak.
A hagyományos adatközpont-üzemeltetők elkezdték frissíteni vagy lecserélni a 2017–2018-as felfutás idején vásárolt szervereiket. Hat-nyolc hónappal ezelőtt még dúskáltak a DDR5 szervermemóriában. Most viszont a DDR5 szervermodulok átlagos eladási ára meredeken emelkedik. Ez nyilván zene a Micron, a Hynix és a Samsung füleinek. Elszálltak az árak, apadnak a készletek. A TechInsights adatai szerint a különféle alkalmazásokban használatos DRAM spot-ára 2025 szeptemberben csaknem háromszorosára ugrott az egy évvel korábbihoz képest, miután áprilisban még alig 4%-kal nőtt. Közben a készletszintek egyre csak apadnak, az aktuális negyedévben átlagosan nyolc heti DRAM-chip készlettel rendelkeznek a cégek, míg egy évvel ezelőtt tíz hét, 2023 elején pedig még 31 hét volt ez a szám. Ha a jelenlegi áremelkedés folytatódik, a nem-HBM memóriachipek profit termelése jövőre akár magasabb is lehet, mint a HBM-eké. A 2025. július–szeptemberi időszakban a Samsung commodity DRAM-jaira körülbelül 40%-os, a HBM-jeire pedig 60%-os operatív marzs becsülhető.
A dráguló chip-árak veszélyeztetik a fogyasztói elektronikai és szervergyártók költségeit, amelyeket az amerikai vámok, és a kínai ritkaföldfém-export korlátozásából származó ellátásláncbeli problémák is súlyosbítanak, DRAM-hiány van, és drágul.
A nem-HBM chipek javuló profit termelése hozzájárult ahhoz, hogy a memóriachip-gyártók részvényei idén raliztak: a Samsung árfolyama több mint 80%-kal nőtt, míg az SK Hynix és Micron részvényei közel 165%-kal és 125%-kal emelkedtek. Tajvani memóriagyártók és memória-modul cégek részvényei is ugrásszerűen emelkedtek az elmúlt hónapban a DDR4-hiány miatt. A beszállítói oldalnak (pl. szerver- és PC-gyártók, modulgyártók) áremelkedéssel kell szembenézniük, amelyet vagy áthárítanak a végfogyasztóra, vagy csökkentett haszonnal működnek. Megoszlanak a vélemények arról, hogy a chip ipar csak egy klasszikus hiánnyal küzd-e, amely rendszerint egy-két évig tart.
A mesterséges intelligencia (MI) szerverekkel való kommunikációja kliens-szerver architektúrán alapul, ahol az MI-modellt futtató szerver szolgáltatásokat nyújt a kliens-oldali alkalmazásoknak, például a felhasználóknak, vagy más szoftvereknek. Az MI rendszerek a kliens kérésére (például egy kérdés vagy feladat) dolgozzák fel az adatokat a szerveren, majd az eredményt válaszként küldik vissza a kliensnek.
A kommunikáció folyamata a kérés küldésével kezdődik: Az alkalmazás (kliens) elküld egy kérést az MI-szervernek, a kérés tartalmazhat adatokat, utasításokat, vagy kérdéseket. Az MI-szerver futtatja az előre betanított modellt az adatokon, feldolgozza a kérést és előállítja a választ. A szerver visszaküldi a feldolgozott eredményt (a választ) a kliensnek, amely ezután megjelenítheti azt a felhasználónak vagy tovább használhatja. Kommunikációs protokollok és technológiák az API-ken (Alkalmazásprogramozási felületek) alapulnak: Az MI-modelleket gyakran API-kon keresztül teszik elérhetővé, amelyek lehetővé teszik a külső alkalmazások számára a szerver funkcióinak elérését. RESTful API-k a leggyakoribb API típusok, amely HTTP protokollon keresztül kommunikálnak. A Websocket valós idejű, kétirányú kommunikációt tesz lehetővé, ami fontos lehet az olyan alkalmazások esetében, mint a chatbotok. Az adatok általában JSON vagy XML formátumban kerülnek átvitelre.
Az API (Application Programming Interface, alkalmazásprogramozási felület) egy szoftverkomponensek közötti kommunikációt lehetővé tevő, szabályokból és protokollokból álló rendszer. Olyan, mint egy digitális „kapocs”, amely lehetővé teszi, hogy két különböző alkalmazás, vagy egy alkalmazás és egy szolgáltatás biztonságosan, szabványosított módon cseréljen adatokat és funkciókat egymással.
Az MI-modellek protokollok segítségével kapcsolódnak külső rendszerekhez, ToolUniverse protokollal egymáshoz, és az MCP protokollal, hogy hozzáférjenek adatokhoz, eszközökhöz és munkafolyamatokhoz, és együttműködő ágensekké alakítják őket. Külső rendszerekkel – például adatbázisokkal, naptárakkal, API-kkal vagy szoftvereszközökkel – kommunikálhatnak, a szöveggeneráláson túlmutató feladatokat is el tudnak végezni. Az MI-modellek olyanok, mint az intelligens számológépek, érvelnek, a kapcsolatokkal ágensekké válnak, képesek adatokat lekérni, műveleteket indítani és együttműködni más rendszerekkel.
Model Context Protocol (MCP): az Anthropic fejlesztette ki, és amelyet az OpenAI is átvett. Az MCP egy nyílt forráskódú szabvány, amely USB-C portként* működik a MI számára, tehát univerzális. Lehetővé teszi az MI modellek számára:
- hozzáférést keresőmotorokhoz, számológépekhez, tervezőplatformokhoz.
- adatok lekérése a Google Naptárból, a Notion vagy a vállalati adatbázisokból.
- munkafolyamatok végrehajtása, például e-mailek küldése, irányítópultok frissítése vagy dokumentumok elemzése.
- API-k: A RESTful API-k lehetővé teszik a modellek számára, hogy interakcióba lépjenek szolgáltatásokkal, mint a CRM vagy a jegyrendszerek.
- az üzenetsorok lehetővé teszik az aszinkron kommunikációt a modellek és a háttérrendszerek között.
- a modellek fájlokból, adatbázisokból vagy felhőszolgáltatásokból olvashatnak a válaszok személyre szabása érdekében.
- a frissítheti a táblázatokat, adatokat, jelentéseket generálhat, vagy kezelhet munkafolyamatokat.
*
Az érvelő MI modulok szerkezete (MI válaszok)
Az érvelési és döntéshozatali MI modulok tartalmazzák az érzékelést, a tudásreprezentációt, a következtetést és az eredmény közli az operárorral, mely modulok lehetővé teszik a MI-rendszerek számára az emberszerű problémamegoldást.
Az érvelési és döntéshozatali MI modulok tartalmazzák az érzékelést, a tudásreprezentációt, a következtetést és az eredmény közli az operárorral, mely modulok lehetővé teszik a MI-rendszerek számára az emberszerű problémamegoldást.
- Észlelési modul
Funkció: Nyers adatokatgyűjt a környezetből (pl. érzékelők, bemenetek, szöveg).
Szerep: Strukturálatlan adatokat alakít át strukturált formátumokba, amelyeket az érvelési rendszerek használhatnak.
. Tudásreprezentáció
Funkció: Tényeket, szabályokat és kapcsolatokat tárol formális struktúrában.
Technikák: Ontológiák, szemantikus hálózatok, keretek, logikán alapuló reprezentációk.
Cél: Lehetővé teszi a MI számára az absztrakt fogalmak megértését és manipulálását.
- Érvelési mudul
Funkció: Logikát követő következtetések levonására vagy előrejelzések készítésére.
Érvelési típusok:
Deduktív: Általános szabályoktól a konkrét következtetésekig.
Induktív: Konkrét példáktól az általános szabályokig.
Abduktív: A legvalószínűbb magyarázatot követi.
Analógiai: Párhuzamot von hasonló helyzetek között.
Valószínűségi: Statisztikai modelleket használ a bizonytalanság kezelésére.
- Döntéshozatali modul
Funkció: A legjobb cselekvést választja az érvelési eredmények alapján.
Megközelítések: Hasznosságalapú modellek, szabályalapú rendszerek, megerősítéses tanulás.
Integráció: Gyakran tapasztalja az érvelés eredményeit célokkal, korlátokkal és tanultokkal.
- Tanulási modul
Funkció: Idővel frissíti a tudást és az érvelési stratégiákat.
Szerep: Visszajelzés és tapasztalat révén javítja az alkalmazkodóképességet.
Technikák: Felügyelt, felügyelet nélküli és megerősítéses tanulás.
- Memória modul
Funkció: Múltbeli tapasztalatokat és döntéseket tárol.
Cél: Támogatja az adaptív érvelést és a kontextuális döntéshozatalt.
Cselekvésmodul
Funkció: Döntéseket hajt végre a környezetben.
Szerep: Lezárja a ciklust a jövőbeli észlelések és döntések befolyásolásával.
Érvelés-Döntés ciklus
Észlelés → Érvelés → Döntés → Cselekvés, amely egy folyamatos ciklust alkot, ahol minden intézkedés befolyásolja a jövőbeni bemeneteket és döntéseket, a struktúra alapvető fontosságú az ágentikus MI-rendszerekben és az autonóm ágensekben.
A modern MI-rendszerek, mint például az IBM Granite, a Google Gemini és az OpenAI O-sorozata, integrálják az érvelést a mélytanulással, lehetővé téve az árnyaltabb és kontextus-tudatos döntéshozatalt. Ezek a rendszerek gyakran ötvözik a szimbolikus érvelést a neurális hálózatokkal a logika és a mintázatfelismerés egyensúlya érdekében. Autonom járművekben alkalmazzák gyakran.
Az érvelési-döntéshozatali MI-modulok szerkezete
„Olyan világban fogunk élni, ahol a döntéseket gépi sebességgel fogják meghozni”
Érvelő-tudományos MI-modulok szerkezete:
A tudományos érvelési MI-modulok úgy vannak felépítve, hogy szimulálják a hipotézisgenerálásban, a kísérletezésben és a bizonyítékokon alapuló következtetés folyamatát. A modulok szimbolikus logikát, valószínűségi modelleket és adatvezérelt tanulást integrálnak a tudományos felfedezések és elemzések támogatása érdekében.
Íme az architektúrájuk részletes lebontása:
- Megfigyelés és adatgyűjtés
Funkció: Nyers adatokat gyűjt kísérletekből, érzékelőkből vagy adatbázisokból.
Források: Tudományos szakirodalom, laboratóriumi eszközök, szimulációk vagy strukturált adatkészletek.
Cél: Empirikus alapként szolgál az érveléshez.
- Tudásreprezentáció
Funkció: Tudományos tényeket, elméleteket és kapcsolatokat kódol.
Technikák: Ontológiák, szemantikus gráfok, logikánalapú formalizmusok (pl. predikátumlogika) és oksági modellek.
Példa: Newton törvényeinek vagy biokémiai útvonalaknak géppel olvasható formátumban való ábrázolása.
- Hipotézisgenerálás
Funkció: Tesztelhető magyarázatokat vagy modelleket javasol a megfigyelt adatok alapján.
Megközelítések: Abduktív érvelés, generatív modellezés és analógiás következtetés.
Eszközök: Bayes-hálózatok, szimbolikus regresszió
Az érvelési-tudományos MI-modulok szerkezete
Tudományos MI modulok szerkezete:
Lehetővé teszik az érvelést, a tanulást, valamint a tudományos eszközökkel és adatokkal való interakciót, a modulok a felfedezés, a kísérletezés és az autonóm döntéshozatal támogatására szolgálnak.
- Tudásreprezentáció és érvelés
Cél: Tudományos tények, elméletek és kapcsolatok kódolása.
Eszközök: Ontológiák, szemantikus hálózatok, logikán alapuló rendszerek.
Példa: Molekuláris szerkezetek vagy fizikai törvények ábrázolása szimulációhoz.
- Gépi tanulás és következtetésmotor
Cél: Minták tanulása adatokból, és előrejelzések vagy osztályozások készítése.
Típusok: Felügyelt, felügyelet nélküli, megerősítéses tanulás.
Példa: Fehérjehajtogatás vagy éghajlati trendek előrejelzése.
- Természetes Nyelvi Feldolgozás (NLP)
Cél: Tudományos szövegek megértése és generálása, szakirodalom elemzése.
Funkciók: Szövegbányászat, összefoglalás, kérdésválaszok.
Példa: Kutatási cikkekből származó információk kinyerése vagy hipotézisek generálása.
- Szimulációs és modellezési interfészek
Cél: Tudományos szimulátorokkal és modellekkel való interakció.
Eszközök: Fizikai motorok, kémiai szimulátorok, biológiai modellek.
Példa: Virtuális kísérletek futtatása vagy hipotézisek tesztelése.
- Eszközintegrációs keretrendszerek
Cél: MI összekapcsolása külső tudományos eszközökkel és adatbázisokkal.
Példa: A ToolUniverse keretrendszer lehetővé teszi a MI-ágensek számára, hogy több mint 600 tudományos eszközhöz, köztük adatbázisokhoz és szimulátorokhoz férjenek hozzá.
- Tervezési és döntéshozatali modulok
Cél: Összetett feladatok lépésekre bontása és optimális műveletek kiválasztása.
Technikák: Célorientált tervezés, többágenses koordináció.
Példa: Kísérlet megtervezése vagy kémiai szintézisút optimalizálása.
- Felhasználói interakciós réteg
Cél: Kapcsolódási pontok tudósokkal vagy más ágensekkel.
Funkciók: Chatbotok, irányítópultok, vizualizációk.
Példa: Beszélgetési ágensek, amelyek segítik az irodalmi áttekintést vagy az adatok értelmezését.
Layered Architecture of Scientific AI Modules (A tudományos AI modul szerkezete)
| Layer | Function | Examples |
|---|---|---|
| 1. Data Layer | Collects, stores, and preprocesses scientific data | Databases, sensors, simulations |
| 2. Knowledge Layer | Encodes scientific facts, theories, and relationships | Ontologies, semantic graphs |
| 3. Learning Layer | Applies machine learning to discover patterns and make predictions | Neural networks, decision trees |
| 4. Reasoning Layer | Performs logical inference and hypothesis testing | Symbolic reasoning, theorem provers |
| 5. Planning Layer | Designs experiments, sequences actions, and optimizes decisions | Goal-oriented planners |
| 6. Tool Interaction Layer | Interfaces with external scientific tools and software | APIs, ToolUniverse, lab automation |
| 7. Communication Layer | Enables interaction with users and other agents | NLP, chat interfaces, visualizations |
| 8. Control Layer | Oversees module coordination, error handling, and feedback loops | Agent orchestration, monitoring |
A tudományos MI-ügynök belolvashat tanulmányokat (kommunikációs réteg), hipotéziseket vonhat le (tudásréteg), szimulálhatja az
eredményeket (eszköz-interakciós réteg), és megtervezheti a kísérleteket (tervezési réteg).Adatokat (adatréteg) használ a modellek
betanításához (tanulási réteg), és érvelést (érvelési réteg) alkalmaz az eredmények validálásához.
A Kempner Institute ToolUniverse keretrendszere egy modern tudományos MI modul: a Nagy nyelvi modellekre (LLM) épül.
Képes érvelni, tervezni és tudományos célok elérése érdekében cselekedni. Szabványosított hozzáférése van különféle tudományos eszközökhöz (pl. adatbázisok, szimulátorok). Támogatja az autonóm MI-ágensek fejlesztését és értékelését a tudomány számára.
Oktatási struktúrák: akadémiai környezetben a MI-modulok:
Alapmodulok: Algoritmusok, adatszerkezetek és alapvető gépi tanulási fogalmak.
Specializált modulok: NLP, robotika, neurális hálózatok, tudományos számítástechnika.
Választható modulok: Területspecifikus alkalmazások, mint például a bioinformatika, az éghajlati modellezés vagy az anyagtudomány.