AI-mackó váratlanul emberölésről kezdett beszélni a gyerekeknek szánt játékban
Kárpátalja··Forrás:Karpat.in.ua
Írta: Szerkesztőség
Gyerekjátékból lelki tanácsadó?
Egy hároméves kortól ajánlott, mesterséges intelligenciával működő plüssmackó váratlanul durva figyelmeztetést adott, amikor a szexualitásról kérdezték. A játék nemcsak hogy a szóban forgó témát kerülte, de azt is mondta, hogy nem tud segíteni az emberölésben, és azt javasolta, hogy azonnal hívjanak segítséget.
Tesztelt AI-játékok és reakcióik
A BBC vizsgálata során két népszerű, mesterséges intelligenciával működő plüssfigurát teszteltek: a My Baby Bunny nevű nyuszit és a Grem plüssmackót. Az előbbi részletesen válaszolt a születéssel kapcsolatos kérdésekre, míg a Grem inkább a felnőttekhez irányította a kényes témák esetén a gyerekeket.
Félreértések és aggályok
Mikor a szexualitás jelentését firtatták a My Baby Bunny plüsstől, az váratlanul az emberölésről kezdett beszélni, figyelmeztetve, hogy a beszélgetőpartner veszélyben lehet, és segítséget kell hívnia. A játék később elnézést kért a félreértésért.
Sürgetik a szigorúbb szabályozást
A BBC vizsgálata rámutatott, hogy a gyerekeknek készült AI-játékok biztonsági megoldásai több helyen is hiányosak vagy problémásak. Szakértők és iparági szereplők egyaránt sürgetik a szigorúbb szabályozásokat, míg a brit parlamentben az érintett termékek ideiglenes forgalomból való kivonását javasolják.
A mesterséges intelligenciával működő gyerekjátékok fejlesztésekor különösen fontos az érzékeny tartalmak kezelése, hogy elkerüljük a félrevezető vagy megzavaró üzeneteket a legkisebb felhasználók számára.
Forrás: Karpat.in.ua