Az Apple Image Playground torzításai
Az Apple legújabb képgeneráló alkalmazása, az Image Playground, komoly vitákat generált a mesterséges intelligencia által előidézett torzítások miatt. Egy elismert gépi tanulási szakértő az alkalmazásban tapasztalt problémákat demonstrálta, rámutatva, hogy az eszköz nem megfelelően ábrázolja a bőrszínt és a hajtextúrát, gyakran rasszista sztereotípiákat idézve fel.
Torzítások a képgenerálás során
A szakértő által bemutatott példák világosan mutatják, hogy az Image Playground bizonyos fogalmak esetében kiegyensúlyozatlan és pontatlan képeket generál. Például a befektető bankárok ábrázolásakor a képek különböző bőrszíneket tükröznek, ami előítéleteket sugallhat. Hasonló problémák figyelhetők meg a sportágak, öltözködési stílusok és a társadalmi-gazdasági hovatartozás ábrázolásánál is.
Hirdetés:
Apple intézkedései és alkalmazási korlátozások
Az Apple az iOS 18.2 frissítés keretében vezette be az Image Playgroundot az Apple Intelligence csomag részeként. Azonban a céges tesztelés során nem tapasztaltak hasonló torzításokat, ami felveti a tesztelési módszerek megbízhatóságával kapcsolatos kérdéseket. A vállalat különféle korlátozásokat is bevezetett az alkalmazás használatára: például kizárólag rajzolt és illusztrált stílusokat támogat, hogy elkerülje a deepfake-ek előállítását. Továbbá, a generált képek szűk látószöggel készülnek, hogy minimalizálják a torzítások és pontatlanságok előfordulását.
A mesterséges intelligencia kihívásai
Az ilyen típusú torzítások nem új keletűek a nagyméretű nyelvi modellek világában, amelyek hatalmas adathalmazokon alapulnak, és gyakran tartalmaznak hasonló sztereotípiákat. Az elmúlt évben a Google Gemini AI modell is hasonló kritikákat kapott. Bár a cégek különféle biztonsági intézkedéseket vezetnek be a problémák elkerülésére, az Apple Image Playground korlátozásai ellenére is fennáll a torzítások lehetősége.
Úgy vélem, hogy az Apple-nek további lépéseket kellene tennie a felhasználói élmény és a társadalmi felelősségvállalás terén. A meglévő korlátozások jó kezdetet jelentenek, de a vállalatnak mélyebben kell foglalkoznia a mesterséges intelligencia etikájával és a torzítások csökkentésével, hogy minden felhasználó biztonságban érezhesse magát az alkalmazás használata során.
