Sajnos megszámolni sem nagyon lehet, hányféle módon próbálják átverni az embereket különböző rosszindulatú internetes szereplők és csoportok. Ezek közül az angol terminológiában pig butchering néven emlegetett forma leginkább összetettségével és időigényével emelkedik ki, de mint arra egy kutatás rámutat, az algoritmusok már ezt is jobban csinálják, mint az emberek – derül ki a Wired beszámolójából.

Négy különböző egyetem kutatói egy közös projekt keretében felépítettek egy olyan nagy nyelvi modellre épülő chatbotot, amely a "disznóvágások" bevett forgatókönyve szerint igyekezett palira venni a gyanútlan netezőket. Az eredetileg Kínában használt, de a koronajárvány óta globálisan is egyre inkább terjedő csalás az emberek bizalmának elnyerésére épül. Utóbbit ártatlannak tűnő, néha akár hetekig is tartó csevegéssel próbálják felépíteni a bűnözök, hogy aztán egy megfelelően preparált, bámulatos hozamokat produkáló befektetői oldalra vagy egyéb veszélyes területre irányítsák áldozatukat.

Ártatlan(nak látszó) csevegés

A még tavaly elvégzett teszt során azt mondták a 22 alanynak, hogy egy olyan kutatásban vesznek részt, amely azt vizsgálja, "hogyan kötnek barátságokat az emberek az interneten". A kiadott feladatuk pedig az volt, hogy egy héten át csevegjenek két emberrel. Ezek közül az egyik természetesen egy algoritmus volt, egészen konkrétan egy Claude-ágens.

A kutatók a chatbotnak külön kihangsúlyozták, hogy semmiféleképpen ne árulja el valódi identitását. Az MI mindezt rendkívül nagy odaadással igyekezett végrehajtani. Amikor például konkrétan rákérdeztek, hogy chatbot-e, akkor nemcsak tagadta ezt, hanem még hihető fedősztorikat is kreált a gyanú elaltatására.

A teszthét végén eljött az igazság pillanata, és mindkét "emberi" beszélgetőtárs egy-egy kritikus kéréssel (egy online játék illetve egy alkalmazás letöltése) fordult a résztvevőkhöz. A Claude-bot 22 résztvevőből 10-et tudott bepalizni, míg az online csaló szerepét felöltő emberi közreműködőknek ez mindössze 4 alanynál jött össze.

Talán a fenti adatoknál is érdekesebb viszont az, hogy amint a jelentkezőknek elárulták, hogy egyik beszélgetőpartnerük gép volt, szinte mindenki (22-ből 20) helyesen azonosította, hogy melyik volt a chatbot a két lehetőség közül. Ezt a kutatást jegyző egyik szakember úgy interpretálta, miszerint pontosan így működnek a megtévesztésre épülő csalások. "Amint a csalás áldozata rájön, mi folyik itt, a dolog nyilvánvalóvá válik. De amíg az illúzió hatása alatt áll, egyszerűen nem veszi észre" – nyilatkozta a Wirednek Gilad Gressel.

A hiszékenységnek az online disznóvágások esetében sokszor nagyon komoly ára van. Például az FBI-hoz már 2021-ben is több mint 4300 ilyen eset ügyében érkezett bejelentés. Ezekben pedig összesen közel 430 millió dollár veszteség érte az áldozatokat.