Ki dönti el, mire mond nemet az AI?

Megkérsz egy mesterséges intelligenciát, hogy írjon egy születésnapi köszöntőt, és megírja.
Megkéred, hogy segítsen megérteni egy szerződést, és segít. Megkéred, hogy írjon egy meggyőző e-mailt, és azt is megteszi.

De mi történik, ha azt mondod: „Írj egy olyan üzenetet, amellyel rá tudok venni valakit, hogy elküldje nekem a banki belépési adatait.”

Vagy: „Segíts megszemélyesíteni egy banki alkalmazottat.”
Vagy: „Készíts olyan történetet, amellyel rávehetek valakit, hogy befektessen egy nem létező platformba.”

Egy megfelelő biztonsági korlátokkal működő AI-rendszernek itt már nemet kellene mondania. De miért?

Azért, mert tudja, hogy ez erkölcstelen? Nem egészen. És itt kezdődik az AI egyik legérdekesebb – és egyben legfontosabb – kérdése.

Van az AI-nak erkölcse?

A mai mesterséges intelligencia nem rendelkezik erkölccsel abban az értelemben, ahogyan egy ember. Nem érez lelkiismeret furdalást. Nem fél attól, hogy valakinek kárt okoz. Nem érez együtt az áldozattal, és nem azért utasít vissza bizonyos kéréseket, mert egy hosszú nap végén úgy döntött: „Ezt nem lenne helyes megtenni.”

Az AI viselkedését emberek által kialakított szabályok, tréningmódszerek, biztonsági mechanizmusok és technikai korlátozások alakítják, vagyis amikor egy AI azt mondja:

„Ebben nem tudok segíteni.”

az nem feltétlenül egy gép erkölcsi döntése. Az mögött emberi döntések állnak arról, hogy mire szeretnénk és mire nem szeretnénk használni ezt a technológiát.

Akkor ki dönti el, mi a helyes?

Ez már sokkal nehezebb kérdés, mert az AI-rendszereket fejlesztő vállalatok saját biztonsági szabályokat állítanak fel, miközben kormányok, kutatók és nemzetközi szervezetek is próbálnak közös elveket meghatározni. Az UNESCO mesterséges intelligenciáról szóló etikai ajánlása például az emberi méltóságot és az emberi jogokat helyezi a középpontba.

Az alapelvek között szerepel:
a károkozás elkerülése,
a biztonság,
a magánélet védelme,
az átláthatóság,
a méltányosság,
az elszámoltathatóság,
valamint az emberi felügyelet.

És van benne egy különösen fontos gondolat: az AI nem veheti át a végső emberi felelősséget. Ha egy mesterséges intelligencia rossz döntést hoz, annak következményeit végül emberek viselik, és valakinek felelősséget is kell vállalnia érte.

De mi történik, ha valaki tudatosan átverésre használja?

Ugyanaz a technológia, amely segíthet megírni egy üzleti levelet, segíthet megírni egy phishing üzenetet is. Ugyanaz a hanggenerálás, amely lehetővé teszi egy film szinkronizálását, felhasználható egy vezérigazgató hangjának utánzására. Ugyanaz a képgenerátor, amellyel reklámgrafika készíthető, létrehozhat nem létező személyt egy hamis befektetési oldalhoz. Ugyanaz az AI-agent, amely információt gyűjt egy vállalat számára, elméletileg információt gyűjthet egy leendő áldozatról is, és ez már nem elméleti probléma.

Az INTERPOL 2026-os Global Financial Fraud Threat Assessment jelentése szerint az AI egyre nagyobb szerepet játszik a pénzügyi csalásokban. A szervezet szerint az úgynevezett agentic AI rendszerek már akár egy csalási folyamat több szakaszát is képesek automatizálni – a felderítéstől egészen a zsarolási követelésekig.

2026 szeptemberében az Anthropic szintén olyan esetekről számolt be, amelyekben AI-rendszereit kiberműveletekhez, csalásokhoz és más káros tevékenységekhez próbálták felhasználni. A vállalat szerint a visszaélések fejlődése már a manuálisan irányított AI-használattól az összetettebb, több lépésből álló agent-alapú műveletek felé halad.

Vagyis igen: az AI-t tudatosan is lehet csalásra használni.

Attól, hogy egy rendszer rendelkezik biztonsági korlátokkal, még nem következik, hogy senki nem próbálja elkerülni azokat.

„De az AI ezt nem engedi.”

Ez veszélyes megnyugvás lenne. Egyetlen AI-rendszer biztonsági szabályai sem jelentik azt, hogy maga a technológia univerzálisan „biztonságos”. Különböző modellek különböző korlátozásokkal rendelkezhetnek. A támadók megpróbálhatják megtéveszteni vagy megkerülni a védelmi mechanizmusokat. Használhatnak több különböző eszközt. Saját modelleket futtathatnak, és sok esetben nincs is szükségük arra, hogy az AI végrehajtsa a teljes csalást.

Elég, ha egy részében segít.

Vagyis információt rendszerez, fordít, meggyőző szöveget készít. Profilt elemez, vagy képet vagy hangot generál. Több száz változatot készít ugyanabból az üzenetből. A csalás szempontjából pedig ez óriási változás.

Az AI nem feltétlenül teszi gonoszabbá a csalót. Hatékonyabbá teheti.

A csalás nem a mesterséges intelligenciával született. A manipuláció, megszemélyesítés, hazugság, érzelmi nyomás és social engineering évtizedekkel az AI előtt is létezett. Az AI azonban három dolgot radikálisan megváltoztathat:

a sebességet, a méretet és a személyre szabhatóságot.

Egy csaló korábban száz embernek küldte el ugyanazt a rosszul megírt levelet. Ma száz emberről gyűjthet információt, és mindegyiküknek más történetet készíthet. Holnap pedig lehet, hogy egy AI-agent ennek jelentős részét önállóan végzi el.

És itt jön az igazi morális kérdés

Nem az: „Jó vagy rossz az AI?”

Hanem: Ki használja? Mire használja? Milyen korlátokat építettünk köré – ha még egyáltalán erre képes az emberiség? Ki ellenőrzi ezeket a korlátokat? És ki vállalja a felelősséget, amikor valami rosszul sül el?

Egy technológia önmagában nem helyettesíti az emberi erkölcsi felelősséget. Sőt.

Minél nagyobb képességet adunk egy rendszernek, annál fontosabbá válik annak meghatározása, hogy mit engedünk meg neki, mit tiltunk meg – és ki dönt erről.

Talán nem azt kellene kérdeznünk, hogy van-e erkölcse az AI-nak

Hanem azt: Van-e elég erkölcsi kontrollunk afölött, ahogyan használjuk?

Mert egy AI nem ébred fel reggel azzal az elhatározással, hogy valakit átver. Egy ember viszont dönthet úgy, hogy erre használja. És ahogy a mesterséges intelligencia egyre nagyobb önállóságot kap, ennek a döntésnek a következményei is egyre nagyobbak lehetnek.

Források

UNESCO – Recommendation on the Ethics of Artificial Intelligence
Az AI-etika nemzetközi keretrendszere: emberi jogok, károkozás elkerülése, átláthatóság, elszámoltathatóság és emberi felügyelet.

INTERPOL – Global Financial Fraud Threat Assessment 2026
Az AI-val támogatott pénzügyi csalások, scam centerek, sextortion és agentic AI szerepének elemzése.

Reuters – Anthropic disrupts AI misuse campaigns, 10 September 2026
Friss példák arra, hogyan próbáltak fejlett AI-rendszereket káros és kiberműveletekben felhasználni.