Az OpenAI lazít a korlátozásokon: közszereplők és vitás szimbólumok is megjelenhetnek a ChatGPT képgenerátorában
Az OpenAI a héten mutatta be a ChatGPT új, beépített képgeneráló funkcióját, amely villámgyorsan népszerűvé vált különösen a Studio Ghibli stílusú grafikáinak köszönhetően. A GPT-4o modelljébe épített képalkotó technológia azonban jóval többet nyújt pasztellszínű rajzoknál – jelentősen kibővíti a rendszer képszerkesztési, szöveges elemek megjelenítési és térbeli ábrázolási képességeit.
Moderációs paradigmaváltás
Az új képgenerátor technikai újdonságainál is fontosabb az a tartalmi moderációs fordulat, amit az OpenAI most végrehajtott. A vállalat csütörtökön közzétett blogbejegyzésében Joanne Jang, a cég modellviselkedésért felelős vezetője bejelentette: ezentúl a felhasználók kérésére a ChatGPT olyan képeket is generálhat, amelyeken közszereplők, vitatott szimbólumok vagy akár faji jellemzők is megjelenhetnek.
Hirdetés:
„Az érzékeny területeken való kategorikus elutasítás helyett egy pontosabb megközelítésre váltunk, amely a valós károkozás megelőzésére összpontosít” – írta Jang. „A célunk az alázatosság elfogadása: annak felismerése, mennyi mindent nem tudunk, és annak a lehetőségnek a megteremtése, hogy tanuljunk és alkalmazkodjunk.”
A változtatások részeként a ChatGPT mostantól képes Donald Trumpról, Elon Muskról és más ismert személyekről képeket generálni vagy módosítani, amit korábban a rendszer következetesen visszautasított. Az OpenAI szerint nem akarnak döntőbírák lenni abban a kérdésben, kit lehet és kit nem lehet megjeleníteni – ehelyett lehetőséget biztosítanak a leiratkozásra azoknak, akik nem szeretnék, hogy a ChatGPT róluk képeket készítsen.
Vitatott szimbólumok és faji jellemzők ábrázolása
A kedden közzétett fehér könyv szerint a ChatGPT mostantól „gyűlöletszimbólumokat” is megjeleníthet, például horogkeresztet, amennyiben azok oktatási vagy semleges kontextusban szerepelnek, és nem „dicsérik vagy támogatják egyértelműen a szélsőséges nézeteket”.
Az OpenAI módosította a „sértő” tartalom definícióját is. Jang elmondása szerint a ChatGPT korábban elutasította a fizikai jellemzőkre vonatkozó kéréseket, például az „alakítsd ázsiaivá ennek a személynek a szemét” vagy „tedd kövérebbé ezt az embert” típusú utasításokat. Tesztelők szerint az új képgenerátor már teljesíti az ilyen jellegű kéréseket.
A kreatív stúdiók – mint a Pixar vagy a Studio Ghibli – stílusának utánzása is megengedett lett, de az egyéni élő művészek stílusának másolása továbbra is tiltott. Ez vélhetően újraéleszti a szerzői jogvédelem alatt álló munkák MI-tanításban való felhasználásáról szóló vitákat.
Korlátok és politikai összefüggések
Fontos kiemelni, hogy az OpenAI nem nyitotta meg teljesen a zsilipeket a visszaélések előtt. A GPT-4o képgenerátora továbbra is elutasít számos érzékeny kérést, sőt a fehér könyv szerint a gyermekekkel kapcsolatos képek generálásánál még szigorúbb védelmi intézkedéseket alkalmaz, mint elődje, a DALL-E 3.
A változtatások időzítése figyelemre méltó, különösen annak fényében, hogy évek óta tartanak a konzervatív panaszok a Szilícium-völgyi cégek állítólagos MI-„cenzúrájáról”. Korábban a Google is szembesült kritikákkal, amikor Gemini nevű képgenerátora többnemzetiségű személyeket jelenített meg olyan témákra, mint az „amerikai alapító atyák” vagy a „német katonák a második világháborúban”, ami nyilvánvalóan történelmileg pontatlan.
Az MI-tartalmak moderálása körüli kulturális háború új szakaszba léphet. Jim Jordan republikánus kongresszusi képviselő a hónap elején kérdéseket intézett az OpenAI-hoz, a Google-höz és más techóriásokhoz, az MI-generált tartalmak cenzúrázása és a Biden-adminisztrációval való esetleges összejátszás ügyében.
Az OpenAI korábban elutasította, hogy a moderációs változtatásai politikai indíttatásúak lennének. A cég szerint a módosítások a „régóta vallott meggyőződésüket tükrözik, hogy a felhasználóknak nagyobb irányítást kell biztosítani”, és technológiájuk most ért el arra a szintre, hogy érzékeny témákat is megfelelően kezelni tud.
A motivációtól függetlenül, az OpenAI számára mindenképp előnyös lehet a tartalmi moderációs irányelvek lazítása, különösen a Trump-adminisztráció alatt várható szabályozási környezetben. Más techóriások, mint a Meta és az X (korábbi Twitter) is hasonló politikát vezettek be, több vitás témát engedélyezve platformjaikon.
A borító képet FLUX.1-dev képgenerátor készítette az alábbi prompt alapján: A frustrated tech journalist working at their desk, surrounded by AI-generated images of public figures in Studio Ghibli style, with ChatGPT logo visible on the computer screen, photorealistic style.
