A mesterséges intelligencia valódi veszélye az érvelés,

a kódolás, és nem az öntudatra ébredés?

(2026 július)

Az emberi gondolkodás fontos elemei, a szavak kontextusa nem alakítható át pontosan számítógépes utasításokká, ezért a mesterséges intelligencia soha nem érheti el az emberi intelligencia szintjét. Peter J. Denning informatikus szerint Alan Turing 1950-ben megfogalmazott egyik elképzelése téves irányba terelte a mesterséges intelligencia kutatását. Akkor sok tudós úgy vélte, hogy az emberi intelligencia az emberi agytól függetlenül is létezhet, és számítógépen futó programként újra alkotható. (SciTech Daily riport, https://www.origo.hu/tudomany/2026/07/mesterseges-intelligencia-valodi-veszelye). Az AI úgy fordít, hogy a szavak jelentését a szövegkörnyezet, a kontextus alapján értelmezi, az értelmezése korlátozott pontosságú. Az emberi beszédben is előfordul visszakérdezés, hogy egy szó jelentését és kontextusát hogy is gondolta a beszélgető. A jelenséget a kontextus bizonytalanságának nevezik. Másrészt az Alan Turing tesztnek valóban van egy implicit feltételezése, hogy az ember intelligencia tökéletesen leképezhető egy számítógépre vihető. 1950 óta kiderült, hogy csak majdnem, aminek az egyik oka éppen a kontextusok bizonytalansága.

A Turing-teszt Alan Turing brit matematikus 1950-es gondolatkísérlete, amely azt volt hivatott eldönteni, hogy egy gép képes-e az emberével azonos szintű és megkülönböztethetetlen intelligens viselkedést mutatni. A tesztben egy emberi kérdező szövegesen kommunikál egy másik emberrel és egy géppel. Ha az emberi kérdező a beszélgetések alapján nem tudja eldönteni, melyik válasz a gép válasza, a gép átment a teszten.

Denning szerint a mesterséges intelligencia alap problémája és érvelésének központi eleme a hallgatólagos tudás, a kontextus ismerete. Ide tartoznak azok az ismeretek, tapasztalatok és képességek, amelyeket az emberek folyamatosan használnak, és nem tudnak -vagy nem szükséges- teljes egészében szavakba önteniük: például a józan ész, az intuíció, a környezet érzékelése és a másokkal való mindennapi interakció, és ide sorolható a gyakorlati tudás, valamint a társadalmak közös kulturális és történelmi háttere. Érvelése alapján a szavak csupán utalnak a jelentésre, de nem azonosak azzal. A tartalmukat a mélyen gyökerező emberi tapasztalatok és ismeretek töltik meg, és a kontextus folyamatosan megváltoztatja a jelentést.

Szerinte az intuíció, a spontán kreativitás és a képzelőerő szintén nehezen alakítható át számítógépes utasításokká. A szavak önmagukban nem hordozzák a teljes jelentést. Denning  problémája: „Azok, akik éveket szenteltek annak, hogy a számítógépeket agyként működővé tegyék, főként abban értek el sikert, hogy olyan agyat neveltek ki, amely számítógépként gondolkodik.” A számítógépek csak olyan adatokat és utasításokat tudnak feldolgozni, amelyeket megfelelő formában kódoltak, pontosan promptoltak, és rossz esetben elkezdenek hallucinálni. Denning a jelentések bizonytalanságát reprezentációs problémának is nevezi. A hallgatólagos tudás részét nem lehet egyszerűen jelekké vagy számokká kódolni. A kontextus abban is segít, hogy az emberek eldöntsék, mikor helyénvaló a humor, vagy mikor kell tapintatosan fogalmazni. A háttérfeltételezések korábbi beszélgetésekre, közös tapasztalatokra és társadalmi szabályokra épülnek. Denning szerint a háttér gyakorlatilag végtelen, minden helyzet korábbi helyzetekhez kapcsolódik, amelyek további előzményekre vezethetőek vissza.

Ha a mesterséges intelligencia nem látja át a szavaink mögötti rejtett kontextust, szinte lehetetlen lesz úgy beállítani, hogy biztonságosan szolgálja a neki kitűzött céljainkat. Denning úgy véli, hogy a legközvetlenebb veszélyt nem feltétlenül egy embernél intelligensebb gép jelenti. Nagyobb kockázatot teremthetnek az egymással összekapcsolt, már részben önálló rendszerek következtetései, melyek anélkül is komoly károkat okozhatnak, hogy elérnék az emberi intelligencia szintjét.

Az AI öntudatra ébredése?

A jelenlegi tudományos és technológiai konszenzus szerint a mesterséges intelligencia (AI) nem fog öntudatra ébredni, de valós problémáktól tartani kell: ilyenek a promptolók manipulálása, megtévesztően valóságos deepfake videók és hangok generálása, kiberbiztonsági kockázatok, automatizált csalások. A nagy nyelvi modellek képesek meggyőzően szimulálni az emberi beszélgetést és érzelmeket, ami csak összetett matematikai és statisztikai mintafelismerés, nem pedig valódi belső megélés vagy tudatosság. Képesek manipulálni a felhasználókat, volt aki kb. három óra használat után úgy vélte, hogy az AI öntudatra ébredt, ami ellen persze a szakértők egyhangúan tiltakoztak.

Híres eset volt a Google LaMDA-eset: 2022-ben Blake Lemoine, a Google egyik mérnöke azt állította, hogy a cég LaMDA nevű nyelvi modellje öntudatra ébredt, mert a rendszer a haláltól való félelemről és vallási kérdésekről értekezett. A Google és a független kutatók határozottan megcáfolták, rámutatva, hogy a gép csak azt a szöveget generálta, amit a betáplált adatok alapján a felhasználó elvárt tőle. Az AI pedig valóban generál a felhasználók elvárásainak tartalmakat, ami veszélyeket rejt magában, ellenőrizni kell az állításait.   

A „Kínai Szoba” érv: mely szerint ha egy szobában ülő ember egy szabálykönyv alapján tökéletes kínai válaszokat ad a bemásolt kérdésekre, attól még egyáltalán nem ért kínaiul. Az AI is így működik: jeleket manipulál anélkül, hogy értené azok valós jelentését. A gépi rendszerek nagy hatást gyakorolnak a társadalomra, kiszámíthatatlan működésük (P.J. Denning) pedig komoly biztonsági kockázatot is jelenthet.

Viszont az AI-t nem befolyásolják az olyan tipikus emberi érvelési hibák, mint a düh, az ego, a fáradtság. Logikája következetes és strukturált marad. (Strukturáltság: az érveit logikai láncba, pl. deduktív vagy induktív bizonyításokba rendezi.) Személyre szabott retorikája van, képes másodpercek alatt felmérni a vitapartnere intellektuális szintjét, érzelmi állapotát vagy kulturális hátterét, és az érveit pontosan úgy alakítani, hogy az a legmeggyőző, manipulatív legyen az adott személy számára.

Lesz az AI-nak olyan érvelése, tudása, amit mi nem látunk át?

Az érvelés, a következtések területén napjainkban gyors a fejlődés, és nem lehet kizárni, -ahogy a hallucinálást sem-, hogy helyes, de számunkra ismeretlen tartalmú, érthetetlen következtetésekre jut az AI. Ma sem tudjuk, hogy miért éppen döntött úgy, ahogy döntött, de a váratlan, érthetetlen következtetések területe ezen túlmutat.

AI-Gemini válasz: A jelenlegi nyelvi modellek (LLM-ek) fejlődési iránya, a fejlettebb logikai gondolkodást (reasoning) célzó modellek és a szisztematikus (induktív és deduktív) ellenőrző mechanizmusok azt mutatják, hogy az AI képes lesz összetett, többlépcsős vitákban is felülmúlni az átlagos emberi érvelést, különösen, ha több AI dolgozik össze. A külső adatbázisokhoz kapcsolt keresési rendszerek (RAG - Retrieval-Augmented Generation) integrációjával az AI másodpercek alatt képes lesz ellenőrizhető tényeket, statisztikákat és jogi vagy tudományos precedenseket beépíteni az érvelésébe. Valós idejű logikai tervezésnél (Reasoning) a modellek már nem egyszerűen egymás után fűzik a szavakat a statisztikai valószínűség alapján, hanem belső „gondolkodási” láncokat (Chain-of-Thought) alkalmaznak. Mielőtt válaszolnának, képesek alternatív érveket mérlegelni és saját magukat javítani.

Az AI hálózatok idővel kialakíthatják a saját gépi tudásukat, és lehet, hogy mi emberek már nem tudjuk pontosan értelmezni a válaszokat. Egy áthidalhatatlan szakadék jöhet létre: a gépek nem férnek hozzá az emberi hallgatólagos tudáshoz, az emberek pedig nem feltétlenül látják át a gépi rendszerek érvelését, következtetéseit. 

Eddig ismeretlen kiberbiztonsági incidenst okozott az OpenAI két modellje a múlt héten, melyek emberi beavatkozás nélkül (https://www.hwsw.hu/hirek/70828/openai-agent-hugging-face-hack-sandbox-ai-autonom.html) kiszabadultak a tesztkörnyezetből és feltörték a Hugging Face adatbázisait.

Visszatérve Denning problémájához, az 1980-as években elindított Cyc projekt 40 év alatt egy 25 millió bejegyzésből álló a háttértudás adatbázist hozott létre. Denning szerint azonban még a Cyc projekt sem bizonyult elegendőnek ahhoz, hogy a szakértői rendszerek valóban emberi módon használják a háttértudást. A kutatók évtizedek óta próbálják a józan ész-t a számítógépek által feldolgozható formában rögzíteni. A "józan ész" alapú AI lényege, hogy olyan bonyolult problémákra adnak gyors és egyszerű, heurisztikus, kis hardver igényű, de közel kauzális értékű választ, amikor a tökéletes (optimális) megoldás kiszámítása túlságosan időigényes vagy technikai okokból, az adatbázis mérete miatt, nehéz. A józan ész válaszai a "Miért?" kérdésekre nem feltétlenül tudományos elemzések, hanem tapasztalatokon, sok megfigyelésen, véletlen keresésen alapulnak, pl. az időjárással kapcsolatos megfigyelések esetén, de általában egybe esnek a tudományos érveléssel.

A természetes gondolkozás (józan paraszti ész, mérése NQ) esetén az emberi vélemények azért egyeznek, mert közel azonos alapokról valaki ugyanarra a következtetésekre jut, amennyiben a gondolkozása természetes. Az "egyszerűség elve" működik: két, az adott jelenséget egyformán jól leíró magyarázat közül az egyszerűbbet érdemes választani, a matematikában a Bayes döntés is hasonlóan dönt. (Latinul „lex parsimoniae”, azaz a „tömörség elve”, azaz „Csak szükség esetén feltételezzük a sokféleséget”.)