Nemrég mi is beszámoltunk arról, hogy az Apple elhalasztotta Siri mesterséges intelligencia szolgáltatásokkal történő bővítését, amire leghamarabb jövőre kerülhet sor. Egy fejlesztő úgy véli, hogy tudja a halasztás hátterében meghúzódó okot: szerinte minél okosabb és személyre szabottabb a Siri, annál veszélyesebb lehet, ha valami balul sül el.
Mint ahogyan tudjátok, az Apple késlelteti a Siri MI-fejlesztéseinek bevezetését. Egy fejlesztő, bizonyos Simon Willison, aki egyébként a Datasette-nél dolgozik, úgy véli, hogy ennek oka a “prompt injection” veszélye. Ezzel az MI-vel turbózott Sirit rá lehet venni bizonyos szabályok megszegésére, ami súlyos következményekkel járhat, tekintve, hogy az Apple asszisztense rengeteg személyes információhoz hozzáférhet.
A “prompt injection” lényege, hogy trükkös kérdésekkel, kérésekkel kijátszhatóak a mesterséges intelligencia biztonsági korlátai. Ez egyébként nemcsak a Siri esetében egy valós veszély, hanem nagyjából minden jelenlegi chatbot érintett, de a Siri esetében különösen veszélyes. Az Apple szóvivője szerint a Siri egyre személyre szabottabb lesz, és képes lesz a felhasználók nevében, helyettük cselekedni.
Ez a képesség pedig visszaélésre adhat lehetőséget, ha a Sirit valamilyen módon feltörik. A magánélet védelmét kiemelten fontosnak tartó Apple-nek garantálnia kell, hogy a Sirit semmilyen módon nem lehet feltörni, ez pedig egy olyan biztonsági kihívás, amelynek megoldása szemlátomást időigényes feladat.
Forrás: 9to5Mac
