Szűrés: AI ÉS ember

Mert kezdetben volt a kézzel írt önéletrajz…

Ok, gondolom most azt mondjátok, ennyi erővel kezdhetném a barlangrajzokkal is. 

Kezdhetném, de mivel a toborzásról és a szűrésről írok, mégiscsak jobb lesz, ha az ebben az értelemben őskorral kezdem, kevéssé az előemberrel. 😊

Öt évszázada egy festőnek összejött

Amikor Leonardo da Vinci 1482-ben megírta Ludovico Sforzának, mit tudna neki nyújtani, tíz pontban sorolta fel alkotó képességeit, mármint, hogy mit tud elkészíteni. Ebben benne voltak a hordozható hidak, az ostromgépek, aknafúrás és az ágyúöntés is. A festészetet és a szobrászatot a legvégére hagyta, szinte odavetve. A dokumentumot azóta szokás az első önéletrajznak nevezni. Ami ebben számunkra a legérdekesebb, az nem maga a lista, hanem a sorrend: Leonardo tudta, kinek ír, és tudta, hogy a saját tehetségét abban a rendszerben kell lefordítania, amit a másik fél mérni tud. 

Ötszáz év eltelt és a feladat ugyanaz, ha pályázatról, önéletrajzról, motivációs levélről vagy ezek összességéről van szó. 

Annyi változott, hogy a másik fél nem ember többé.

Amikor a papír maga volt az információ

A huszadik század nagy részében az önéletrajz fizikai tárgy volt, és mint a fizikai tárgyak általában, sokkal többet árult el, mintsem csak azt, amiről a szöveg szólt. Kézzel írták, és a kézírás önmagában fontos információ volt, illetve lehetett – bár ez kérdés, hogy mennyire volt ok személyiségvédelmi oldalról.  Franciaországban a kézzel írt motivációs levél még a kilencvenes években is bevett elvárás volt, és nem díszítés miatt — sok cég grafológusnak adta tovább a beérkezett anyagot, hogy plusz információt kapjon a jelöltről.

Érdemes megállni ennél azért ennél a pontnál, a felháborodás előtt két másodperccel. A grafológia ugyanis a maga korában pontosan azt csinálta, amit ma az AI-tól várunk: bemenet biztosítása után kimenetként egy bizonyos narratívát adott, a döntéshozó pedig nem tudta, milyen logika mentén is tette ezt. Volt hozzá persze szakértő, volt hozzá szakszókincs, volt hozzá díjszabás. Egyetlen dolog azonban biztosan nem volt: bizonyított előre jelző ereje a munkahelyi teljesítményre vonatkozóan. A témára vonatkozó elemzések ezt évtizedek óta következetesen kimutatják, de jó, ha tudjuk, hogy ezt a módszert emberek százezreinek sorsára alkalmazták, jóhiszeműen (vagy éppen nem jóhiszeműen, ebbe most ne is menjünk bele).

A kézírásos korszak tehát egyfajta fekete doboz volt – papírból.

A szabványosítás, ami elvette a felületet

A gépelt, majd nyomtatott önéletrajz elhozta a változást: megszűnt a kézírás minősítése, mint esetleges bírálati szempont. Cserébe eltűnt az egyediség hordozója is. Az önéletrajz egyfajta űrlappá vált: fejléc, időrend, felsorolás. Aki eltért a formától, az nem eredeti volt, hanem gyanús.

Ezt a logikát vitte tovább a kilencvenes évek fordulóján megjelenő első jelöltkövető szoftvergeneráció. A korai rendszerek beszkennelték a beérkezett papírokat, karaktereket ismertek fel, és kulcsszóra kerestek bennük. A gép ekkor még nem döntött, csak keresett — de a keresés maga hozott egy néma, de erős szabályt: ami nincs benne szó szerint, az nincs.

Ezt a szabályt a jelöltek nagyon gyorsan megtanulták. Az önéletrajz ettől kezdve nem az embert írta le, hanem a keresést próbálta eltalálni. És persze még kevésbé kezdett a jelöltről szólni.

A hirdetésportál és a mennyiség forradalma

A kétezres évek internetes álláspiaca a jelentkezés költségét gyakorlatilag nullára csökkentette. Ami korábban borítékot, bélyeget és egy postáig tartó sétát jelentett, az egy kattintás lett. A következmény kiszámítható volt: egy pozícióra beérkező jelentkezések száma nagyságrendekkel nőtt, a szűrésre fordítható emberi idő viszont nem.

Itt keletkezett az a szakadék, amit azóta minden technológia be próbál tömni. Nem azért kezdtünk el gépesíteni, mert a gép jobban ítélt. Azért, mert a mennyiség emberi kézzel kezelhetetlenné vált. Ez fontos különbségtétel: az automatizálás nem minőségi, hanem kapacitásprobléma megoldásaként lépett be a folyamatba — a minőségi ígéretet később kapta hozzá. Mert ugye adjuk meg a marketingnek is, ami neki jár. 😊

A szemantikus fordulat és a bezáruló kör

Az elmúlt néhány év hozta a valódi technológiai ugrást. A mai rendszerek már nem karakterláncot keresnek, hanem jelentést: felismerik, hogy a „projektek koordinálása” és a „projektmenedzsment” ugyanaz, kompetenciatérképhez illesztenek, rangsorolnak, pontoznak. Ez tényleg jobb, mint a kulcsszavas találgatás, és tényleg megoldja az eredeti kapacitásproblémát.

Közben viszont a kör bezárult, méghozzá abszurd módon. Mert mi is történik? A jelölt ma nyelvi modellel íratja meg az önéletrajzát, hogy az megfeleljen egy nyelvi modellnek, és így két nyelvi modell eldönti, hogy ki jut be egy emberhez. 

Két gép udvariaskodik egymással egy harmadik fél – egy EMBER – sorsáról. A dokumentum, amelynek eredetileg az volt a funkciója, hogy közvetítse az embert, mostanra optimalizálási feladat lett — és az optimalizálás definíció szerint pedig nem más, mint a mérhetőre optimalizál.

És innen ered a valódi probléma.

Nem az a kérdés ugyanis, hogy az AI elfogult-e

Merthogy persze, hogy az. A Washingtoni Egyetem 2024-es vizsgálata több mint hárommillió összehasonlításban tesztelt produkciós szövegbeágyazó modelleket valós önéletrajzokon, és markáns név szerinti torzítást talált. Az Amazon 2018-ban azért állította le a saját toborzó rendszerét, mert az a korábbi, férfitöbbségű felvételi eljárásokból azt tanulta meg, hogy a női főiskolák említése rossz jel, amit ki kell szűrni. 

Látnunk kell azonban, hogy az elfogultság nem az algoritmussal érkezett meg a toborzásba. A név alapján történő diszkriminációt mérő terepkísérletek évtizedek óta kimutatják, hogy azonos önéletrajzok eltérő névvel eltérő visszahívási arányt kapnak — mégpedig ember által végzett szűrésben. A „hasonló hozzám” hatás is jól dokumentált. A strukturálatlan interjú, amelyben a legtöbb vezető feltétlenül bízik, a prediktív erő tekintetében gyengén szerepel a kutatásokban. Van tehát jó néhány példa, amely azt mutatja, hogy az ember is bőven hibázik. És elfogult lehet. 

A lényeg: vajon kit dob ki a rendszer, mielőtt bárki odanézne?

A védhető állítás nem az tehát, hogy az ember jobban ítél. Sokkal inkább az az igazság, hogy az ember mást lát — és a mára elterjedt folyamat pontosan azt az értéket semmisíti meg, amit csak az ember láthatna.

Az algoritmus arra van optimalizálva, ami olvasható: pozíciónév, időtartam, kulcsszó, végzettség. Egy önéletrajz legtöbbet eláruló elemei viszont jellemzően nem ezek. 

Nézzünk néhány példát!

Hiányzó évek. Két év szünet két munkahely között. A gép hiányzó adatot lát, esetleg kockázatot érzékel. Az ember azt látja, hogy valaki gondozott valakit, betegségből épült fel, vagy vállalkozást bukott — és hogy melyik pozícióra melyik ezek közül bármelyik releváns információ-e, vagy ellenkezőleg, mérlegelendő.

Az anomália jelensége. A jogi diploma után hirtelen logisztika. A gép illeszkedéshiányt jelezhet. Az ember felismeri, hogy éppen ez a kombináció az, ami egy szerződéskezelési pozícióban ritka és értékes.

Hangnem. Ahogy valaki a saját munkájáról ír: hol beszél „mi”-ről és hol „én”-ről, mennyi a felelősségvállalás, mennyi a felelősség áthárítása egyetlen mondatban. Egy tapasztalt olvasónak ez a bekezdés többet mond a jelölt vezetői stílusáról, mint a beosztásának a címe. Az AI-nak ez a rész zaj.

A pályaív. Nem az a fontos néha, hogy hol dolgozott, hanem hogy mikor lépett és mikor maradt. Aki három nehéz évet kihúzott ott, ahonnan mindenki menekült, arról ez a legfontosabb információ — és az önéletrajzban egyetlen évszámpár képében rejtőzik, ami szintén semmit nem mond az AI-nak.

Ezek egyike sem valami misztikus emberi megérzés. Mind fogalmi következtetés, mely a kontextusból ered. Az algoritmus azért nem végzi el ezeket a következtetéseket, mert nincs hozzáférése a kontextushoz, és mert nem ez a feladata: neki rangsort kell előállítania, nem megértenie kell az önéletrajzot.

A hiba, amit senki és semmi nem mér

Az AI szűrés legveszélyesebb tulajdonsága ugyanakkor nem a torzítás, hanem a láthatatlanság megjelenése

Mit is jelent ez?

Ha a rendszer téved, és behív egy alkalmatlan jelöltet, az kiderül. Interjú lesz belőle, a kiválasztási vezető bosszankodik, a hiba visszacsatolást kap. Ugyanakkor, ha kiszűr valakit, akit be kellett volna hívni, akkor az égegyadta világon semmi sem történik. A jelölt nem tudja meg, hogy soha nem olvasták el az anyagát. A cég nem tudja meg, hogy elvesztett egy jó jelöltet. Nincs panasz, nincs adat – és nincs tanulság. Ja és az is lehet, hogy megfelelő ember sincs a pozícióra.

A folyamat ebben az értelemben csak egy irányban tanul: a bevitt hibákat javítja, a kihagyottakat azonban soha. És mivel az elégedettségi mutatók a behívott jelöltekről szólnak, a rendszer minél többet téved ebben az irányban, annál jobbnak fognak látszani a mérőszámai.

Leonardo kiesne

Nem a technológia visszautasítása a válasz, hiszen a kapacitásprobléma valós jelenség. Néhány dolog viszont eldönthető a folyamatban, lássuk csak mik is ezek.

Az AI feladata a rangsorolás legyen, ne a kizárás. A kettő nem ugyanaz: az egyik sorrendet javasol, a másik dönt. Aki ezt a különbséget nem építi be a folyamatába, az nem fogja megkapni az emberi döntés lehetőségét a saját folyamatában.

Aki szűr, mérje a nem behívottakat is. Havonta egy véletlen mintát nézzen meg a kiszűrtek közül, emberi szemmel átolvasva. Ha a mintában rendszeresen felbukkan olyan, akit be kellett volna hívni, az nem a mintáról szól, hanem a rendszerről.

És végül, de nem utolsó sorban: az önéletrajz olvasásának képessége szakmai kompetencia, nem adminisztratív rutin. Ha egy szervezetben senki nem gyakorolja ezt, néhány év alatt elsorvad — és onnantól aztán tényleg nincs mit szembe állítani a rangsorral, amit az AI javasolt.

Hogy mi történne tehát Leonardo jelentkezésével ma? Nagy valószínűséggel az AI kiszűrné. Kevés a mérhető kulcsszó, szokatlan a szerkezet, a legfontosabb kompetenciája pedig az utolsó sorban szerepel, szinte mellékesen.

Ötszáz év elmúlt és mi megtanultuk gyorsan feldolgozni a jelentkezéseket. 

A nagy kapkodásban most ott tartunk, hogy nem sikerül teljesen megérteni, hogy értelmeznünk is kell néha őket.

Éppen azért, mert emberek vagyunk. 

Dorka