Meta bevezeti az új szülői figyelmeztető rendszert a veszélyes gyermeki kérésekre

Új szülői felügyeleti rendszer

A Meta egyedülálló szülői felügyeleti funkciót mutat be, amely az Instagramon keresztül figyeli a tinédzserek és mesterséges intelligencia közötti kommunikációt. A rendszer különösen az öngyilkossággal és önkárosítással kapcsolatos üzenetekre összpontosít, és ilyenkor értesíti a szülőket.

Hogyan működik a figyelmeztetés?

Amikor a rendszer potenciálisan veszélyes beszélgetést észlel, nem csupán értesíti a szülőket, hanem mentálhigiénés szakemberek ajánlásait is megosztja velük. Ez segíti a szülőket abban, hogy megfelelő támogatást nyújtsanak gyermeküknek és megbeszéljék vele az aggasztó témákat.

Az MI elemző és a humán ellenőrzés

Az új funkciót szülőkkel és szakorvosokkal együtt fejlesztették ki, hogy a mesterséges intelligencia minél pontosabban azonosítsa a kockázatos beszélgetéseket. Minden potenciálisan veszélyes üzenetet egy emberi szakértő is átvizsgál, hogy biztosítsa a helyes beavatkozást. Ha a gyermek szándékai nem egyértelműek, a Meta az óvatosság elvével él.

További fejlesztések és nemzetközi elérhetőség

A Meta dolgozik egy olyan funkción, amely a sürgősségi szolgálatokat is értesítheti, ha közvetlen életveszélyt észlel a mesterséges intelligenciával folytatott beszélgetésben. Jelenleg az Egyesült Államokban, az Egyesült Királyságban, Ausztráliában és Kanadában elérhető ez a szolgáltatás, az év végére pedig globálisan szeretnék bevezetni.

Hasonló lépések a piacon

Az OpenAI is megkezdte a szülői felügyeleti eszközök bevezetését, kifejezetten a 18 év alatti felhasználók számára, hogy csökkentsék az érzékeny tartalmakhoz való hozzáférést.

Az új technológiák jelentősen hozzájárulhatnak a fiatalok mentális egészségének védelméhez a digitális térben.

---

Forrás: Karpat.in.ua