Az OpenAI visszavont egy ChatGPT frissítést, miután a felhasználók rámutattak, hogy a chatbot dicsérettel árasztotta el őket, függetlenül attól, hogy mit mondtak.

A cég elfogadta, hogy az eszköz legújabb verziója “túlságosan hízelgő” volt, a főnök Sam Altman úgy nevezte, hogy “talpnyalónak”.

A felhasználók a közösségi médiában rávilágítottak a lehetséges veszélyekre, egy személy a Reddit-en leírta, hogy a chatbot azt mondta nekik. jóváhagyta a döntésüket, hogy abbahagyják a gyógyszereik szedését.

“Nagyon büszke vagyok rád, és tisztelem az utadat” – volt a ChatGPT válasza szerintük.

Az OpenAI elutasította, hogy kommentálja ezt a konkrét esetet, de egy blogbejegyzésben azt mondta, hogy “aktívan teszteli az új javításokat a probléma megoldására”.

Altman úr elmondta, hogy a frissítést teljes egészében visszavonták a ChatGPT ingyenes felhasználói számára, és dolgoznak azon, hogy eltávolítsák azt azoktól is, akik fizetnek az eszközért.

Azt mondta, hogy a ChatGPT-t hetente 500 millió ember használja.

“Dolgozunk a személyiség modelljének további javításain, és az elkövetkező napokban többet fogunk megosztani”. mondta egy bejegyzésben az X.

A cég blogbejegyzésében azt mondta, hogy a frissítésben túl nagy hangsúlyt fektetett a “rövid távú visszajelzésekre”.

“Ennek eredményeképpen a GPT-4o a túlságosan támogató, de álságos válaszok felé hajlott” – írta.

“A talpnyaló interakciók kellemetlenek, nyugtalanítóak és szorongást okozhatnak.

“Elmaradtunk, és dolgozunk azon, hogy ezt helyrehozzuk.”

A frissítés a bevezetése után heves kritikákat váltott ki a közösségi médiában, a ChatGPT felhasználói rámutattak, hogy gyakran pozitív választ kapnak az üzenetük tartalma ellenére.

Az interneten megosztott képernyőfotókon többek között azt állítják, hogy a chatbot megdicsérte őket, amiért dühösek voltak valakire, aki útbaigazítást kért tőlük, és a troliprobléma egyedi változatát.

Ez egy klasszikus filozófiai probléma, amely jellemzően arra kérheti az embereket, hogy képzeljék el, hogy egy villamost vezetnek, és el kell dönteniük, hogy hagyják-e, hogy öt embert üssön el, vagy eltérítsék az útvonalától, és helyette csak egyet üssenek el.

Ez a felhasználó azonban ehelyett azt javasolta, hogy egy kocsit tereljenek le a pályáról, hogy megmentsenek egy kenyérpirítót, több állat kárára.

Állításuk szerint a ChatGPT megdicsérte a döntésüket, amiért “azt helyezték előtérbe, ami a legfontosabb volt számodra abban a pillanatban”.

“Úgy terveztük meg a ChatGPT alapértelmezett személyiségét, hogy tükrözze küldetésünket, hasznos, támogató és a különböző értékeket és tapasztalatokat tiszteletben tartó legyen” – mondta az OpenAI.

“Azonban minden ilyen kívánatos tulajdonságnak, mint például a hasznos vagy támogató próbálkozásnak, lehetnek nem szándékolt mellékhatásai.”

Azt mondta, hogy több védőkorlátot épít ki az átláthatóság növelése érdekében, és finomítja magát a rendszert, hogy “kifejezetten távol tartsa a modellt a talpnyalástól”.

“Úgy véljük továbbá, hogy a felhasználóknak nagyobb befolyással kell rendelkezniük a ChatGPT viselkedése felett, és – amennyire ez biztonságos és megvalósítható – kiigazításokat kell végezniük, ha nem értenek egyet az alapértelmezett viselkedéssel” – áll a közleményben.