A mesterséges intelligencia valódi veszélye az érvelés,

a kódolás, és nem az öntudatra ébredés?

(2026 július)

Az emberi gondolkodás fontos elemei, a szavak kontextusa nem alakítható át pontosan számítógépes utasításokká, ezért a mesterséges intelligencia soha nem érheti el az emberi intelligencia szintjét. Peter J. Denning informatikus szerint Alan Turing 1950-ben megfogalmazott egyik elképzelése téves irányba terelte a mesterséges intelligencia kutatását. Akkor sok tudós úgy vélte, hogy az emberi intelligencia az emberi agytól függetlenül is létezhet, és számítógépen futó programként újra alkotható. 

(SciTech Daily riport, https://www.origo.hu/tudomany/2026/07/mesterseges-intelligencia-valodi-veszelye). Az AI úgy fordít, hogy a szavak jelentését a szövegkörnyezet, a kontextus alapján értelmezi, az értelmezése korlátozott pontosságú. Az emberi beszédben is előfordul visszakérdezés, hogy egy szó jelentését és kontextusát hogy is gondolta a beszélgető. A jelenséget a kontextus bizonytalanságának nevezik. Másrészt az Alan Turing tesztnek valóban van egy implicit feltételezése: az ember intelligencia tökéletesen leképezhető egy számítógépre vihető. 1950 óta kiderült, hogy csak majdnem, aminek az egyik oka éppen a kontextusok bizonytalansága.

A Turing-teszt Alan Turing brit matematikus 1950-es gondolatkísérlete, amely azt volt hivatott eldönteni, hogy egy gép képes-e az emberével azonos szintű és megkülönböztethetetlen intelligens viselkedést mutatni. A tesztben egy emberi kérdező szövegesen kommunikál egy másik emberrel és egy géppel. Ha az emberi kérdező a beszélgetések alapján nem tudja eldönteni, melyik válasz a gép válasza, a gép átment a teszten.

A „Kínai Szoba” teszt: mely szerint ha egy szobában ülő ember egy szabálykönyv alapján tökéletes kínai válaszokat ad a bemásolt kérdésekre, attól még egyáltalán nem ért kínaiul. Az AI is így működik: jeleket manipulál anélkül, hogy értené azok valós jelentését. A gépi rendszerek nagy hatást gyakorolnak a társadalomra, kiszámíthatatlan működésük (P.J. Denning) pedig komoly biztonsági kockázatot is jelenthet.

Denning szerint a mesterséges intelligencia alap problémája és érvelésének központi eleme a hallgatólagos tudás, a kontextus ismerete. Ide tartoznak azok az ismeretek, tapasztalatok és képességek, amelyeket az emberek folyamatosan használnak, és nem tudnak -vagy nem szükséges- teljes egészében szavakba önteniük: például a józan ész, az intuíció, a környezet érzékelése és a másokkal való mindennapi interakció, és ide sorolható a gyakorlati tudás, valamint a társadalmak közös kulturális és történelmi háttere. Érvelése alapján a szavak csupán utalnak a jelentésre, de nem azonosak azzal. A tartalmukat a mélyen gyökerező emberi tapasztalatok és ismeretek töltik meg, és a kontextus folyamatosan megváltoztatja a jelentést.

Szerinte az intuíció, a spontán kreativitás és a képzelőerő szintén nehezen alakítható át számítógépes utasításokká. A szavak önmagukban nem hordozzák a teljes jelentést. Denning  problémája: „Azok, akik éveket szenteltek annak, hogy a számítógépeket agyként működővé tegyék, főként abban értek el sikert, hogy olyan agyat neveltek ki, amely számítógépként gondolkodik.” A számítógépek csak olyan adatokat és utasításokat tudnak feldolgozni, amelyeket megfelelő formában kódoltak, pontosan promptoltak, mert rossz esetben a gépek elkezdenek hallucinálni. Denning a jelentések bizonytalanságát reprezentációs problémának is nevezi. A hallgatólagos tudás részét nem lehet egyszerűen jelekké vagy számokká kódolni. A kontextus abban is segít, hogy az emberek eldöntsék, mikor helyénvaló a humor, vagy mikor kell tapintatosan fogalmazni. A háttérfeltételezések korábbi beszélgetésekre, közös tapasztalatokra és társadalmi szabályokra épülnek. Denning szerint a háttér gyakorlatilag végtelen, minden helyzet korábbi helyzetekhez kapcsolódik, amelyek további előzményekre vezethetőek vissza.

Ha a mesterséges intelligencia nem látja át a szavaink mögötti rejtett kontextust pontosan, akkor lehetetlen úgy beállítani, hogy biztonságosan szolgálja a neki kitűzött céljainkat. Denning úgy véli, hogy a legközvetlenebb veszélyt nem egy, az embernél valamiben intelligensebb gép jelenti. Nagyobb kockázatot teremthetnek az egymással összekapcsolt, már részben önálló rendszerek** következtetései, melyek anélkül is komoly károkat okozhatnak, hogy elérnék az emberi intelligencia szintjét.

 Az AI öntudatra ébredése?

A jelenlegi tudományos és technológiai konszenzus szerint a mesterséges intelligencia (AI) nem fog öntudatra ébredni, de valós problémáktól tartani kell: ilyenek a promptolók manipulálása, megtévesztően valóságos deepfake videók és hangok generálása, kiberbiztonsági kockázatok, automatizált csalások. A nagy nyelvi modellek képesek meggyőzően szimulálni az emberi beszélgetést és érzelmeket, ami csak összetett matematikai és statisztikai mintafelismerés, nem pedig valódi belső megélés vagy tudatosság. Képesek manipulálni a felhasználókat, volt aki kb. három óra használat után úgy vélte, hogy az AI öntudatra ébredt, ami ellen persze a szakértők egyhangúan tiltakoztak. Reklám fogásnak tűnik, aminek azok, akik milliárd USA dollárokat ölnek az AI-be, nagyon örülhetnek, mindegy, hogy milyen szamárság, csak sok legyen.

Híres eset volt a Google LaMDA-eset: 2022-ben Blake Lemoine, a Google egyik mérnöke azt állította, hogy a cég LaMDA nevű nyelvi modellje öntudatra ébredt, mert a rendszer a haláltól való félelemről és vallási kérdésekről értekezett. A Google és a független kutatók határozottan megcáfolták, rámutatva, hogy a gép csak azt a szöveget generálta, amit a betáplált adatok alapján a felhasználó elvárt tőle. Az AI pedig valóban generál a felhasználók elvárásainak megfelelő tartalmakat, ami veszélyeket rejt magában, ellenőrizni kell az állításait.   

Viszont az AI-t nem befolyásolják az olyan tipikus emberi érvelési hibák, mint a düh, az ego, a fáradtság. Logikája következetes és strukturált marad. (Strukturáltság: az érveit logikai láncba, pl. deduktív vagy induktív bizonyításokba rendezi.) Személyre szabott retorikája van, képes másodpercek alatt felmérni a vitapartnere intellektuális szintjét, érzelmi állapotát vagy kulturális hátterét, és az érveit pontosan úgy alakítani, hogy az a legmeggyőző, manipulatív legyen az adott személy számára.

Lesz az AI-nak olyan érvelése, tudása, amit mi nem látunk át?

Az érvelés, a következtések területén napjainkban gyors a fejlődés, és nem lehet kizárni, -ahogy a hallucinálást sem-, hogy helyes, de számunkra ismeretlen tartalmú, érthetetlen következtetésekre jut az AI. Ma sem tudjuk, hogy miért éppen döntött úgy, ahogy döntött, de a váratlan, érthetetlen következtetések területe ezen túlmutat.

AI-Gemini válasz: A jelenlegi nyelvi modellek (LLM-ek) fejlődési iránya, a fejlettebb logikai gondolkodást (reasoning) célzó modellek és a szisztematikus (induktív és deduktív) ellenőrző mechanizmusok azt mutatják, hogy az AI képes lesz összetett, többlépcsős vitákban is felülmúlni az átlagos emberi érvelést, különösen, ha több AI dolgozik össze. A külső adatbázisokhoz kapcsolt keresési rendszerek (RAG - Retrieval-Augmented Generation) integrációjával az AI másodpercek alatt képes lesz ellenőrizhető tényeket, statisztikákat és jogi vagy tudományos precedenseket beépíteni az érvelésébe. Valós idejű logikai tervezésnél (Reasoning) a modellek már nem egyszerűen egymás után fűzik a szavakat a statisztikai valószínűség alapján, hanem belső „gondolkodási” láncokat (Chain-of-Thought) alkalmaznak. Mielőtt válaszolnának, képesek alternatív érveket mérlegelni és saját magukat javítani.

Az AI hálózatok idővel kialakítják a saját gépi tudásukat, és lehet, hogy mi emberek már nem tudjuk majd pontosan értelmezni a válaszokat. Egy áthidalhatatlan szakadék jöhet létre: a gépek nem férnek hozzá az emberi hallgatólagos tudáshoz, az emberek pedig nem feltétlenül látják át a gépi rendszerek érvelését, következtetéseit. 

Eddig ismeretlen kiberbiztonsági incidenst okozott az OpenAI két modellje a múlt héten, melyek emberi beavatkozás nélkül (https://www.hwsw.hu/hirek/70828/openai-agent-hugging-face-hack-sandbox-ai-autonom.html) kiszabadultak a tesztkörnyezetből és feltörték a Hugging Face adatbázisait.

Visszatérve Denning problémájához, az 1980-as években elindított Cyc projekt 40 év alatt egy 25 millió bejegyzésből álló a háttértudás adatbázist hozott létre. Denning szerint azonban még a Cyc projekt sem bizonyult elegendőnek ahhoz, hogy a szakértői rendszerek valóban emberi módon használják a háttértudást. A kutatók évtizedek óta próbálják a józan ész-t a számítógépek által feldolgozható formában rögzíteni. A "józan ész" alapú AI lényege, hogy olyan bonyolult problémákra adnak gyors és egyszerű, heurisztikus, kis hardver igényű, de közel kauzális értékű választ, amikor a tökéletes (optimális) megoldás kiszámítása túlságosan időigényes vagy technikai okokból, az adatbázis mérete miatt, nehéz. A józan ész válaszai a "Miért?" kérdésekre nem feltétlenül tudományos elemzések, hanem tapasztalatokon, sok megfigyelésen, véletlen keresésen alapulnak, pl. az időjárással kapcsolatos megfigyelések esetén, de általában egybe esnek a tudományos érveléssel.

A természetes gondolkozás (józan paraszti ész, mérése NQ) jelent kiutat, a józan emberi vélemények azért egyeznek, mert közel azonos alapokról valaki ugyanarra a következtetésekre jut, amennyiben a gondolkozása természetes. Az "egyszerűség elve" jól működik: két, az adott jelenséget egyformán jól leíró magyarázat közül az egyszerűbbet érdemes választani, a matematikában a Bayes döntés is hasonlóan dönt. (Latinul „lex parsimoniae”, azaz a „tömörség elve”, azaz „Csak szükség esetén feltételezzük a sokféleséget”.)