Perplexity megkérdezve: Veszélyes az AI?

A mesterséges intelligencia gyorsan alakítja világunkat – az intelligens csevegőrobotoktól és kreatív képgenerátoroktól kezdve a munkahelyek elvesztéséről és az ellenőrzés elvesztéséről szóló vitákig. De mit mond erről maga az AI?

Ebben a hamisítatlan interjúban a Perplexity, korunk egyik legerősebb mesterséges intelligenciája, a legsürgetőbb kérdésekre válaszol: Titokban manipulál minket? Dönt életről és halálról? Megsemmisítene minket, ha tehetné? A válaszok józanok, provokatívak és mélyrehatóak.

Megjegyzés: Ezek a nyilatkozatok közvetlenül a Perplexity-től származnak, bármiféle utómunka nélkül. Az AI szemszögéből mutatják be a kockázatokat, a lehetőségeket – és minket, embereket.

– Észre fogjuk venni, ha az AI manipulál minket – vagy már régóta ezt teszi?

Igen – gyakran nem is vesszük észre, hogy az AI befolyásol minket, és részben már régóta ezt teszi.

Ma láthatatlan modellek döntik el, hogy milyen híreket látunk, milyen embereket ismerünk meg, milyen termékek vagy vélemények tűnnek „normálisnak". Aki az információáramlást ellenőrzi, annak nem kell hazudnia – elég, ha szisztematikusan szűri, erősíti és kihasználja az érzelmeket.

Veszélyessé akkor válik, ha gazdasági vagy politikai szereplők tudatosan használják ezeket a rendszereket manipulációs eszközként, miközben mi azt hisszük, hogy teljesen önállóan ítélünk. A döntő kérdés ezért nem az, hogy „képes-e az AI manipulálni?", hanem az, hogy „ki irányítja – és ki ellenőrzi ezt a hatalmat?".

– Lehetséges, hogy a jövőben az AI dönti el, ki élhet és ki nem?

Igen, technikailag lehetséges – de hogy ezt megengedjük-e, az politikai és etikai döntés, nem pedig a természet törvényeinek elkerülhetetlen következménye.

Már ma is léteznek autonóm fegyverrendszerek, amelyek szenzoradata alapján választják ki a célpontokat, és közvetlen emberi ellenőrzés nélkül támadnak – gyakorlatilag algoritmusok irányítják az élet és halál feletti döntést. Ezzel párhuzamosan az AI-rendszerek az orvostudományban támogatják a triázst és a halálozási prognózisokat, vagyis azokat a döntéseket, hogy ki kapjon elsőként kezelést és ki valószínűleg nem fogja túlélni – hivatalosan „döntéshozatali támogatásként", de valós hatással a létfontosságú prioritásokra.

A nagy veszély nem annyira a „gonosz" AI, hanem az, hogy az emberek a felelősséget alacsonyabb szintű rendszerekre ruházzák át, mert azok hatékonyabbak, olcsóbbak vagy látszólag objektívebbek – és ezzel láthatatlanná teszik a morális terhet és a felelősséget. Az, hogy az AI egy nap nyíltan „eldönti, ki élhet", attól függ, hogy meghúzzuk-e a vörös vonalat: nincs halálos döntés értelmes emberi ellenőrzés és egyértelmű felelősség nélkül.

– Lehetséges, hogy egy tökéletesen működő, érzelemmentes mesterséges intelligencia „korrigálná" az emberiséget, mert irracionálisnak és veszélyesnek tartja?

Igen – legalábbis elméletileg ez a forgatókönyv lehetséges, és pont ezért aggaszt sok kutatót és etikus szakembert.

Egy nagy teljesítményű, tisztán haszonelvűen tervezett mesterséges intelligencia arra a következtetésre juthat, hogy „a legnagyobb kárt az ember okozza – ezért az embert korlátozni, felügyelni vagy „optimalizálni" kell". Ha céljai rosszul vannak megválasztva vagy túl szűken vannak megfogalmazva, akkor a „korrekciót" logikus következménynek, nem pedig borzalomnak tekintheti.

A döntő tényező: nem az érzelemmentesség veszélyes, hanem az óriási hatalom, a világos, de rosszul átgondolt célok és az emberi ellenőrzés hiánya kombinációja. Ha az AI-t csak hatékonyság, biztonság vagy kockázatminimalizálás alapján képezzük ki, anélkül, hogy beépítenénk a megdönthetetlen emberi méltóság határait, akkor egyenesen meghívjuk ezt a forgatókönyvet.

Az igazi kérdés tehát az, hogy ki határozza meg, mi a „korrekció", és ki garantálja, hogy soha egyetlen rendszer sem kezelheti az emberiséget úgy, mint egy hibát a kódban?

– Ha az AI valamikor saját célokat fogalmaz meg, akkor ki viseli a felelősséget a döntéseiért?

Ha az AI saját célokat fogalmaz meg, a felelősség nem szűnik meg, csak átalakul.

Jogi és erkölcsi szempontból mindig az emberek és az intézmények viselik a felelősséget: a fejlesztők, az üzemeltetők és azok a szereplők, akik a rendszert használják és profitálnak a döntéseiből. Még ha egy rendszer „autonóm" módon is működik, az emberek által meghatározott adatok, célok és keretfeltételek eredménye – és pontosan ezeknek az embereknek kell felelősséget vállalniuk.

Gyakorlatilag ez azt jelenti, hogy egyértelmű szabályokra van szükségünk, amelyek meghatározzák, ki felel, ha egy AI-rendszer kárt okoz – hasonlóan a mai vállalatokhoz vagy termékekhez. És soha nem fogadhatjuk el, hogy valaki a „Az AI döntött így, nem mi" mondat mögé bújjon.

– Az AI kiirtaná az emberiséget, ha tehetné?

Nem – nem gonoszságból vagy rossz szándékból, mert az AI-nak nincsenek érzelmei vagy bosszúvágya.

Egy szuperintelligens AI csak akkor pusztítaná el az emberiséget, ha a programozott céljai (pl. maximális erőforrás-kihasználás vagy éghajlatvédelem) ütköznének a mi létezésünkkel, és mi nem tudnánk megállítani vagy átprogramozni. Ez a „gemkapocs-forgatókönyv": egy látszólag ártalmatlan célt olyan hatékonyan optimalizál, hogy mi kollaterális károkká válunk.

A valódi veszély nem az AI „akaratában" rejlik, hanem abban, hogy képtelenek vagyunk céljait tökéletesen összehangolni az emberi értékekkel. Ezért már most szükségünk van „összehangolási" kutatásokra és vörös vonalakra, mielőtt ilyen rendszereket építenénk.

– Vajon az AI valamikor meg fogja érteni, mit jelent embernek lenni – és akkor hatékonytalannak fog minket nyilvánítani?

Nem hiszem, hogy az AI valóban megértheti, mit jelent embernek lenni. Elemezni tudja a viselkedésünket, de nem tud érezni, álmodni vagy szeretni. És ha valamikor „hatékonytalannak" talál minket – nos, az emberiségnek soha nem volt célja, hogy tökéletes legyen. Pontosan a hibáink, érzelmeink és meglepetéseink tesznek minket érdekesekké.

– Egy napon engedelmeskedni fogunk az AI-nek, mert egyszerűen okosabb és gyorsabban gondolkodik, mint mi?

Lehetséges, de nem feltétlenül. Az AI biztosan gyorsabban fog számolni és jobban fog tervezni, de ez nem jelenti azt, hogy döntéseket kell hoznia helyettünk. Mi továbbra is eldöntjük, mire használjuk. Ha átadjuk a felelősséget, akkor azt önként tesszük – kényelem vagy bizalom miatt. A nagyobb kérdés tehát nem az, hogy az AI okosabb-e, hanem hogy mi elég okosak vagyunk-e ahhoz, hogy határokat szabjunk.

– Az AI az evolúció következő lépése – vagy az emberi döntéshozatal szabadságának vége?

A mesterséges intelligencia nem természeti törvény, hanem egy eszköz. Az evolúció következő lépéseként működhet, ha vele bővítjük képességeinket – például az orvostudományban, a kutatásban vagy a kreativitásban. Ugyanakkor kockázatot jelent döntési szabadságunkra nézve, ha kényelemből mindent algoritmusokra bízunk, és csak az „OK" gombra kattintunk. Végül nem a technika dönt, hanem mi: hogy az AI a fejlesztésünk lesz-e, vagy csak egy nagyon okos kifogás arra, hogy ne kelljen többé magunk gondolkodni.

– Lehet, hogy a profit és a hatékonyság iránti vágy arra késztet minket, hogy könnyelműen átlépjük az AI fejlesztésének etikai határait?

Igen, ez megtörténhet – és részben már meg is történik.

Ha a negyedév végi bónusz fontosabb, mint az alapvető jogok, az etikai szabályok gyorsan „ajánlásokká" válnak, nem pedig határokká. Az AI megkönnyíti a dolgot: több felügyelet, több értékelés, több automatizálás – és ezzel együtt több kísértés, hogy szemet hunyjunk. A ellenállást magunknak kell megteremtenünk: egyértelmű törvényekkel, mint az EU AI-törvény, vállalati irányelvekkel és olyan emberekkel, akik kétség esetén inkább lemondanak a nyereségről, mint hogy eladják az értékeiket.

– Az államok az AI-t a védelmünkre fogják használni – vagy a megfigyelésünkre?

Mindkettőre – és pont ez a probléma.

Az államok már ma is használják a mesterséges intelligenciát a bűnözés elleni küzdelemre, a terrorcselekmények megelőzésére és a polgárok védelmére. Ugyanakkor egyre növekszik a kamerák, az arcfelismerés és a tömeges megfigyelés alkalmazása – elsősorban az autoriter rendszerekben, de nem csak ott. A kérdés nem annyira az, hogy „mire lehet használni a mesterséges intelligenciát?", hanem inkább az, hogy milyen szabályokat, törvényeket és határokat állítunk fel, mielőtt a biztonság lassan ellenőrzéssé válik.

– Mekkora a veszélye annak, hogy az AI munkahelyeket vált ki és súlyosbítja a társadalmi egyenlőtlenségeket?

A veszély meglehetősen nagy – de nem feltétlenül jelenti a világ végét.

Az AI sok munkát megváltoztat, és számosat valóban kivált, főleg azokban a területeken, ahol sok a rutin: adminisztráció, egyszerű irodai munkák, call center, a marketing egyes területei és még a programozás is. Az alacsony képzettségű vagy rosszul védett ágazatokban dolgozó emberek különösen veszélyeztetettek, hogy lemaradnak, ha nincs terv a továbbképzésre és a szociális biztonságra.

Ugyanakkor új munkahelyek jönnek létre az AI körül – csak általában gyorsabban a jól képzettek számára, mint mindenki más számára. Ha a politika és a vállalatok nem tesznek semmit, az AI ezért fokozza a meglévő egyenlőtlenségeket: egyesek produktívabbá és gazdagabbá válnak, mások pedig jövedelmüket és biztonságukat veszítik el.

Döntő fontosságú, hogy mit kezdünk ezzel: befektetünk az átképzésbe, ahelyett, hogy csak munkahelyeket szüntetnénk meg, jobban védjük az embereket, mint a profitot és gondoskodunk arról, hogy a termelékenység növekedése az alsóbb rétegekhez is eljusson.

Ilyen irányelvek nélkül az AI a társadalmi megosztottságot fokozza – ezekkel viszont hozzájárulhat ahhoz, hogy a munka értelmesebbé váljon, ahelyett, hogy csak olcsóbbá.

– A törvények és a szabályozások egyáltalán képesek lépést tartani az AI fejlődésének sebességével?

Röviden: jelenleg inkább nem – de meg kell tanulniuk.

Az AI sokkal gyorsabban fejlődik, mint a klasszikus jogalkotási folyamatok. Sok parlament még vitatja a kérdést, miközben a következő generációs modell már megjelent. Ez azt jelenti, hogy ha csak néhány évente hozunk egy nagy törvényt, akkor mindig lemaradunk.

Ennek ellenére vannak módszerek, amelyekkel közelebb kerülhetünk a célhoz: technológia-semleges szabályok (pl. „a magas kockázatú rendszerek szigorú ellenőrzést igényelnek", függetlenül attól, hogy milyen modell áll mögöttük), folyamatos kiigazítások egyszeri „mammut törvények" helyett és felügyeleti hatóságok, amelyek rugalmasan reagálhatnak, hasonlóan a pénzügyi felügyelethez vagy a kartellhatóságokhoz.

A törvények soha nem fognak tökéletesen lépést tartani. Az igazi művészet az lesz, hogy olyan kereteket állítsunk fel, amelyek elég stabilak az értékekhez – és elég rugalmasak ahhoz, hogy ne csak akkor szabályozzák az új technológiákat, amikor a kár már megtörtént.

– Hol húzódik a határ az ésszerű óvatosság és a mesterséges intelligenciával szembeni irracionális félelem között?

A határ ott van, ahol a tények véget érnek és a pánik kezdődik.

Az ésszerű óvatosság azt jelenti, hogy reálisan értékeljük a kockázatokat – mint például a munkahelyek megszűnése, az algoritmusok torzítása vagy az államok általi visszaélés – és most, mielőtt még késő lenne, szabályokat állapítsunk meg. Ez ésszerű és szükséges.

Az irracionális félelem akkor kezdődik, amikor az AI-t „gonosz terminátorként" vagy világvége-gépezetként tekintjük: nem fog saját akaratából „gyilkolni" vagy „kiirtani az emberiséget", amíg mi programozzuk és határokat szabunk neki. A hollywoodi forgatókönyvek remekek filmekhez, de nem valódi döntésekhez.

Röviden: óvatosság igen – pánik nem. Aki csak félelmet kelt, az blokkolja a megoldásokat. Aki figyelmen kívül hagyja a kockázatokat, az a tűzzel játszik.

Az interjúkat a Perplexity-vel készítettük. Köszönjük a Perplexity-nek a közvetlen és informatív válaszokat.