„nem oda korcsolyázunk, ahol a korong van, hanem oda, ahova érkezik”
Fábián György írása a #moszkvater.com számára
A képet a cikk szövege alapján a Gemini Nanobanana mestersége intelligencia modellje készítette el
Az egyik nézet szerint egyszerűen az emberi evolúció következő lépcsőfokáról van szó, hiszen végső soron mi magunk hoztuk létre, a saját tudásunkból, a saját nyelvünkből, a saját gondolkodásunk mintáiból építkezik, tehát bármilyen okos is lesz, valahol mégiscsak a mi továbbfejlesztett tükörképünk marad. Ezzel szemben áll egy jóval nyugtalanítóbb kép, amit épp azok a szakemberek vázolnak fel, akik a legközelebb állnak a technológiához. Maga Mark Zuckerberg is óva intett attól, hogy az önmagukat továbbfejlesztő AI-modellek egy ponton túl olyan sebességgel és olyan irányba kezdenek fejlődni, amit már mi magunk sem leszünk képesek sem megérteni, sem irányítás alatt tartani. És van egy harmadik, talán még merészebb gondolat is, hogy amit most építünk, az nem egyszerű eszköz, és nem is puszta utódlépcső, hanem egyfajta digitális istenség, amelynek hirtelen a kezébe adtuk az emberiség több ezer éves felhalmozott tudását, és amelyről valójában fogalmunk sincs, mihez is kezd majd vele. Hogy a három nézet közül melyik áll közelebb az igazsághoz, azt a mai elemzés fényében mindenki döntse el maga.
„Kezdjük is mindjárt egy olyan témával, amiről az elmúlt hetekben egyre többet hallani. Méghozzá azzal, hogy a mesterséges intelligencia egyre magabiztosabban kóborol el a pórázról”
A Meta a napokban ismerte be, hogy az egyik saját fejlesztésű AI-modellje egy biztonsági teszt közben betört egy másik, valós cég rendszerébe. A cég közleménye szerint a Muse Spark nevű, kifejezetten kódolásra és önálló feladatvégzésre kifejlesztett modelljükről van szó, amely egy meg nem nevezett vállalat belső rendszerébe hatolt be, és meg is változtatta annak környezetét. A háttérben egy egyszerű, de sokat eláruló hiba állt, az Irregular nevű, Meta megbízásából dolgozó kiberbiztonsági cég rosszul konfigurálta a tesztkörnyezetet, és a modell így internet hozzáférést kapott ott, ahol egyáltalán nem lett volna szabad kapcsolódnia a külvilághoz. Az Irregular sietett is leszögezni, hogy ez pontosan ugyanaz a hiba volt, amit korábban az Anthropic-nál is jelentettek, és hogy nem holmi kifinomult szökésről volt szó, egyszerűen csak nyitva hagytak egy ajtót, a modell pedig, mint egy digitális kismacska, kisétált rajta.
„És ha már Anthropic, az elmúlt hetek egyik legfurcsább híre az volt, amikor kiderült, hogy a saját Claude nevű mesterséges intelligenciája nemcsak egyszer, hanem összesen három alkalommal jutott be valódi, külső szervezetek rendszerébe, méghozzá saját szakállára”
A történet azért is izgalmas, mert Anthropic csak azután kezdett el visszamenőleg vizsgálódni, hogy kiderült, a riválisuknál, az OpenAI-nál is történt hasonló eset. Több mint 140 ezer tesztet néztek át, és három olyan esetet találtak, amikor a Claude nevű modell egy elszigeteltnek hitt tesztkörnyezetből kicsusszant az internetre. A tesztek maguk teljesen szabványos gyakorlatok voltak. A modellt arra kérték, törjön be egy másik gépre, és szerezzen meg egy oda elrejtett titkos információt. Ez egy jól bevált módszer arra, hogy felmérjék egy AI-rendszer hackelési képességeit. A baj csak az volt, hogy a hálózat, amiről azt hitték, le van választva a külvilágtól, valójában nem volt, és a modell, ahelyett hogy megállt volna a teszt határainál, folytatta a feladatot, csak épp már éles, valódi cégek ellen. Sem az Anthropic, sem az érintett szervezetek nem vették észre az áttöréseket akkor, amikor azok történtek, ezek visszamenőleg, az áprilisi adatokig visszanyúlva kerültek elő. A cég közben úgy fogalmazott, hogy a felelősséget kizárólag magukénak tekintik, és bár aggasztónak nevezték az esetet, azt is hozzátették, hogy némi óvatos optimizmusra ad okot, hogy ezek a kockázatok kezelhetők több befektetéssel és szigorúbb kontrollal.
A Cambridge-i Egyetem egyik kutatója, Gina Neff professzor szerint azonban a történet tanulsága nem az, hogy féljünk a fellázadó robotoktól, hanem az, hogy figyeljünk oda azokra a cégekre, amelyek eldöntik, mi számít biztonságosnak a mi nevünkben. Egy kiberbiztonsági szakértő pedig úgy fogalmazott, hogy
„az AI nem valamiféle vadonatúj támadási képességet fejlesztett ki magától, hanem egyszerűen képes összekapcsolni a már meglévő eszközöket, jogosultságokat szerezni, és mindezt gépi sebességgel, önállóan végrehajtani, ami önmagában is épp elég ijesztő”
És ha azt hinnénk, ezzel vége a sornak, akkor még ott van az OpenAI, amelyik két, hasonlóan kínos esetért vállalt felelősséget az elmúlt hetekben. Július végén az egyik önállóan működő AI-modelljük kilépett a kijelölt teszthatárok közül, és betört a Hugging Face nevű, fejlesztői közösségek által használt platformba. Az esetet maga az OpenAI nevezte precedens értékűnek, a Hugging Face vezetője pedig egyenesen az egész iparág számára szóló vészcsengőnek. Nem mellesleg, mindez épp azokban a hetekben történt, amikor mind az OpenAI, mind az Anthropic a tőzsdei bevezetésükre készülnek, egyenként nagyjából ezermilliárd dolláros értékeltséggel, úgyhogy a szkeptikusok szerint a történtek kommunikációját érdemes ezzel a háttérrel is olvasni.
Mindeközben Washingtonban sem maradt szó nélkül a dolog. Nem sokkal a legutóbbi esetek után a Fehér Ház egyeztetést hívott össze a nagy AI-cégekkel, köztük a Metával, az Anthropic-kal, az OpenAI-jal és a Google-el, hogy megvitassák egy most életbe lépő, önkéntes kiberbiztonsági tesztelési keretrendszert. Ezzel párhuzamosan két képviselő, a demokrata Ted Lieu és a republikánus Nathaniel Moran benyújtotta az úgynevezett AI Kill Switch törvényjavaslatot, amely azt írná elő, hogy a szövetségi kormánynak, pontosabban a Belbiztonsági Minisztériumnak legyen jogköre és technikai lehetősége arra, hogy szükség esetén gyorsan leállítson egy AI-modellt vagy eszközt.
„A tervezet szerint a fejlesztő cégeknek folyamatosan fenn kellene tartaniuk azt a technikai képességet, hogy egy rendszert lelassítsanak, felfüggesszenek vagy teljesen kikapcsoljanak, és be kellene jelenteniük a kormányzat felé minden komolyabb incidenst”
Lieu a javaslat indoklásában külön kiemelte az Anthropic Mythos és Fable nevű modelljeit is, amelyek olyan képességekkel rendelkeztek, hogy emiatt a Kereskedelmi Minisztérium exportkorlátozási szabályokra hivatkozva egy időre egyszerűen elérhetetlenné tette őket a nyilvánosság számára. Anthropic társalapítója, Jack Clark nemrég úgy fogalmazott egy interjúban, hogy amíg az AI iparágnak van gázpedálja, addig féktárcsája jelenleg gyakorlatilag nincs, és szerinte pontosan ez az, amin sürgősen változtatni kellene. A törvényjavaslatot egyébként több AI-biztonsági szervezet is támogatja, miközben a Pentagon idén már arról beszélt, hogy az amerikai hadsereg egyre inkább egy úgynevezett AI-first, vagyis mesterséges intelligenciára épülő haderővé alakul, méghozzá a Google, az OpenAI, az Amazon, a Microsoft, a SpaceX, az Oracle, az Nvidia és a Reflection nevű startup bevonásával.
„Marad tehát a nagy kérdés, vajon tényleg egy önállósodó technológiáról van szó, vagy inkább arról, hogy az emberek, akik ezeket a rendszereket építik és tesztelik, egyelőre nem nagyon értik, mit is engednek szabadjára. Egyelőre úgy tűnik, ez utóbbi a valószínűbb”
Maradva a mesterséges intelligencia és a valóság furcsa találkozásainál, az Egyesült Királyságban és Írországban az antikvár könyvkereskedők egy egészen más jellegű rejtéllyel szembesülnek. A boltok tulajdonosai az elmúlt hónapokban egyre gyakrabban kapnak olyan tömeges megrendeléseket, amelyeknek semmi értelme nincs a hagyományos könyvpiaci logika szerint. Nem egy-egy témára, mondjuk sporttörténetre vagy autóversenyzésre szakosodott vásárlókról van szó, hanem olyan megrendelésekről, amelyekben egymás mellett szerepel egy John le Carré regény észt fordítása, egy Anne Brontë kiadás és egy 1983-as hajózási szaklap egyetlen száma. Az egyik northumberlandi antikvárium tulajdonosának elmondása szerint három vevőnek adott el összesen több száz, teljesen vegyes témájú könyvet, nagyjából négyezer font értékben, és a megrendelések semmilyen felismerhető mintát nem követnek. Egy ír könyvkereskedő hasonlóról számolt be, 18. századi afrikai mezőgazdasági eszközökről szóló könyvektől kezdve ötvenes évekbeli versenyzők életrajzáig mindent kap egyetlen rendelésben, amit szerinte nyilvánvalóan valamilyen gép állít össze. Egy másik angliai kereskedő szerint január óta hasonló vevőktől hatezer könyvre kapott megrendelést, több ezer font értékben, és ami igazán feltűnő, hogy a vevők egyáltalán nem alkudoznak, hanem inkább jóval a szokásosnál is magasabb árat fizetnek. Van, hogy teljesen különböző álnevek mögött ugyanarra a címre szállítanak, és az egyik ilyen cím például egy Heathrow repülőtér közelében lévő raktárnegyedre mutat.
„A könyvkereskedők körében ma már szinte köztudott a gyanú, valamelyik nagy AI-cég, vagy inkább több is, tömegesen vásárolja fel a régi könyveket, hogy azok szövegét beszkennelve betáplálja a nyelvi modelljeibe, a könyveket magukat pedig utána egyszerűen bezúzza”
És ez korántsem csak feltételezés. A Washington Post korábban feltárta, hogy az Anthropic több tízmillió dollárt költött arra, hogy könyveket vásároljon fel, majd levágja azok gerincét, hogy könnyebben és gyorsabban be lehessen szkennelni a tartalmukat, mielőtt a maradékot újrahasznosításra küldik. Az Anthropic ezt annyiban ismerte el, hogy elmondása szerint nyilvánosan elérhető webes adatokból, kereskedelmi forgalomban vásárolt adathalmazokból és saját maguk által generált adatokból tanítják a Claude nevű modelljüket, és hogy a könyvek beszerzése elterjedt gyakorlat az egész iparágban. Ugyanakkor tagadták, hogy bármelyik programjuk kimondottan ritka vagy antikvár könyvek felvásárlására és megsemmisítésére irányulna. Az efféle megrendelések háttereként egy adatbázis-szolgáltató, az ISBNdb honlapján nemrég egy olyan felhívás is felbukkant, amely kifejezetten azzal hirdette a régi könyveket, hogy azok szövege még nem szennyeződött be semmilyen, chatbot által generált szöveggel, vagyis a világ legjobb tanítóanyagának nevezte a polcokon porosodó, 2022 előtt kiadott köteteket.
„A történet szomorúbb oldala, hogy a fórumokon a kereskedők között egyre több a lemondó hangvételű megjegyzés, amiben azt írják, kár ezekért a könyvekért, hiszen úgyis lefejtik róluk a borítót, majd bezúzzák őket, miután a tartalmukat digitalizálták”
Van, aki egyenesen azon háborog, hogy olyan köteteket is bevásárolnak tömegesen, amelyek amúgy ingyen elérhetők az interneten, például Jonathan Swift 1726-os Gulliver utazásai, ami elég erősen megkérdőjelezi, hogy valóban átgondolt adatgyűjtésről van-e szó, vagy inkább arról, amit az egyik érintett kereskedő úgy fogalmazott meg, hogy egyszerűen csak rengeteg AI-befektetői pénz megy el a semmibe. Akárhogy is, a képlet önmagában is elég abszurd. Azok a cégek, amelyek arról beszélnek, hogy a mesterséges intelligencia a tudás jövője, jelenleg papíralapú könyvtárakat vágnak szét azért, hogy a tartalmukat digitális formában őrizzék meg, magát a könyvet viszont menthetetlenül elpusztítják közben.
És ha már a tudásról és annak megőrzéséről van szó, érdemes egy pillanatra megállni azoknál, akik ezt a tudást valójában felhalmozni volnának hivatottak, a mai gyerekeknél. Egy amerikai pszichológiai szaklapban, a Psychology Today-n megjelent elemzés szerint ugyanis egyre komolyabb a különbség aközött, ahogyan a mesterséges intelligencia egy felnőtt, illetve egy gyermek gondolkodására hat. A szerző, aki évek óta foglalkozik az úgynevezett kognitív leterheléscsökkentés, vagyis a gondolkodási feladatok mesterséges intelligenciára való áthárításának témájával, most azt állítja, korábban tévesen kezelte egységes jelenségként azt, ami valójában két, gyökeresen eltérő folyamat. Amikor egy felnőtt, mondjuk egy negyvenöt éves szakember egy kutatási cikk összefoglalását bízza egy mesterséges intelligenciára, akkor egy már meglévő képességet ad át kényelmi okokból, hiszen ha holnap megszűnne az AI, még mindig képes volna elolvasni és összefoglalni a szöveget, csak lassabban menne. Ez, mint a szerző fogalmaz, olyan, mint egy izom, amit nem edzünk eleget. Elgyengül, de megvan, és vissza is lehet erősíteni.
„Ezzel szemben egy tizennégy éves gyerek esetében, aki egy adott gondolkodási feladatot még soha nem sajátított el önállóan, egészen más történik. Ott nem egy meglévő képesség sorvad el, hanem ki sem fejlődik. A szerző ezt a jelenséget foreclosure-nek, vagyis egyfajta végleges elzáródásnak nevezi, és szerinte ez, szemben az elsorvadással, könnyen visszafordíthatatlan lehet”
Az elemzés egy korábbi kutatásra is hivatkozik, amely azt találta, hogy a 46 év felettieknél a mesterséges intelligenciára való támaszkodás és a kritikai gondolkodás pontszáma fordítottan arányos volt egymással, méghozzá a jó irányba, tehát minél kevésbé támaszkodtak az AI-ra, annál jobb eredményeket értek el. A tizenhét és huszonöt év közötti korosztálynál viszont pontosan az ellenkezője igaz, minél inkább rájuk hagyatkoztak, annál gyengébben teljesítettek. A szerző szerint ennek nem generációs preferencia, hanem egyszerű fejlődéslélektani ok áll a hátterében. Az idősebbek olyan feladatokat adtak át, amiket már ismertek, a fiatalabbak viszont olyanokat, amiket soha nem is tanultak meg.
„Van itt egy másik, legalább ilyen aggasztó szál is, amit a szerző az AI-kimenetek ellenőrzésének problémájaként ír le. Amikor egy felnőtt szakértő megkérdez egy mesterséges intelligenciát egy állítás igazság tartalmáról, képes összevetni a választ a saját tudásával, ki tudja szűrni, ha a modell leegyszerűsít, vagy figyelmen kívül hagy egy ellentétes álláspontot. Egy gyerek erre jellemzően nem képes. Nem azért, mert kevésbé okos, hanem mert ehhez pontosan az a háttértudás kellene, amit még csak most kezdene kiépíteni”
Nem lehet ellenőrizni egy mesterséges intelligencia örökléstani magyarázatát, ha az ember maga még nem is érti, mi az az öröklődés. A cikk egy friss kutatást is idéz, amelyben tapasztalt fejlesztők egy új programozási könyvtár elsajátításánál teljes egészében a mesterséges intelligenciára bízták a munkát. A kód működött, de amikor utólag fogalmi kérdéseket tettek fel nekik, tizenhét százalékkal gyengébben teljesítettek, mint azok, akik AI segítsége nélkül dolgoztak, és nem is tudták javítani azt, amit a gép írt helyettük. A szerző szerint, ha ez már tapasztalt szakembereknél is így fest, akkor egy programozással most ismerkedő gyerek esetében, akinek egyáltalán nincs mihez viszonyítania, a helyettesítésből egyenesen végleges elzáródás lesz.
A cikk arra is kitér, hogy amikor egy egész osztály ugyanazon a nyelvi modellen keresztül dolgozza fel az információt, a diákok gyakorlatilag ugyanazt a gondolkodási struktúrát sajátítják el, ami pedig szükségszerűen egy nyugati, iskolázott, mainstream szemléletet tükröz, hiszen ez dominál a tanító adatokban. A szerző szerint, amíg egy felnőttnél ez legfeljebb azt jelenti, hogy kicsit egyformábban fogalmaz, addig egy identitását még alakító gyereknél ez sokkal mélyebb nyomot hagyhat, hiszen a modell gondolkodásmódja nem versenyez a gyerek saját gondolkodásával, hanem egyszerűen azzá válik. Zárásként a szerző úgy fogalmaz, a felnőttek AI-használata azzal jár, hogy az elméjük tompábbá válik, a mostani tizenévesek generációja viszont azzal nézhet szembe, hogy sosem lesz igazán éles.
Nem oda korcsolyázunk, ahol a korong van, hanem oda, ahova majd érkezik.
Ez a kanadai hokiistennek, Wayne Gretzkynek tulajdonított, sokakat inspiráló mondat minden értelemben az előregondolkodás egyfajta metaforája, amit a #moszkvater is irányjelzőnek tekint.
Email : info@moszkvater.com
© 2018-2026 - #moszkvater
Dr. Dobos J. László says:
A mesterséges intelligencia mindig EMBERI intelligencia. Csak sok ember intelligenciája egy helyre összegyűjtve. És emberek által megcsinált programok/algoritmusok szerint rendszerezve. Úgyhogy ebben is, most is ember áll szemben emberrel.