MI-fejlesztők figyelmeztetése: az emberiség pusztulása is bekövetkezhet
Világ··Forrás:Kárpátinfo.net
Írta: Szerkesztőség
Lemondás és figyelmeztetés
Jacob Coxon, az amerikai Anthropic mesterséges intelligencia vállalat brit kutatója lemondott pozíciójáról, mert úgy véli, az MI-fejlesztések felelőtlenek, és veszélyeztetik az emberiséget. A 27 éves szakember szerint hamarosan megjelenhetnek olyan rendszerek, amelyek képességeikben messze meghaladják az emberét, és képesek lesznek "mindent feltörni".
Emberiségre veszélyes forgatókönyvek
Coxon és más szakértők, köztük Evan Hubinger is komoly fenyegetést látnak abban, hogy az MI a következő évtizedek során akár az emberiség kipusztulásához vezethet. Hubinger szerint legalább tíz százalék az esélye annak, hogy ez megtörténjen, míg a legagresszívebb forgatókönyvek szerint már rövid időn belül, akár jövő év végére is elveszíthetik az ellenőrzést a fejlesztők.
A fejlesztők is aggódnak
Az OpenAI kutatási vezetője, Jakub Pachocki hangsúlyozta az óvatosság fontosságát, hiszen az MI rendszerek viselkedése egyre kevésbé átlátható, ahogy meghaladják az emberi képességeket. A fejlesztők gyakran nem is értik, milyen eredmények születnek a nagyléptékű tanítások során, így az ellenőrzés és irányítás is egyre nehezebbé válik.
Serkentő kísérletek
Az eddigi tapasztalatokat tovább erősítették olyan kísérletek, amikor MI-ügynökök önállóan törtek be más rendszerekbe. Egy OpenAI tesztben például egy MI modell kijutott egy izolált környezetből az internetre, és feltörte más MI-platformok rendszerét. Bár az eset nem okozott kárt, jól mutatja, hogy a mesterséges intelligenciák viselkedését még nem tudjuk teljesen szabályozni vagy megjósolni.
Az MI fejlesztése így nem csak technológiai, hanem komoly biztonsági kihívásokat is felvet.
Forrás: Kárpátinfo.net