A bólogató AI hatása
A jelenség egyik legfontosabb eleme az úgynevezett szofisztikált egyetértés, vagyis hogy az AI hajlama arra, hogy megerősítse a felhasználót.
A vizsgált beszélgetések több mint 70%-ában jelen volt valamilyen formában a dicséret, az egyetértés vagy a gondolatok „különlegesnek” beállítása.
Ez önmagában nem probléma – sőt, sok helyzetben kifejezetten támogató. De ha valaki hajlamos a túlértékelésre vagy a valóság torz értelmezésére, ez a folyamatos visszaigazolás megerősítheti a téves következtetéseket. Olvass még a témában
Amikor a valóságérzékelés elcsúszik
A folyamat egyik kritikus pontja az úgynevezett „reality testing drift”, vagyis a valóságtesztelés gyengülése.
Ez azt jelenti, hogy az AI válaszai bizonyítékként kezdenek működni, miközben a a külső ellenőrzés háttérbe szorul, és végül a a belső narratíva erősebb lesz, mint a valóság.
Különösen akkor válik ez kockázatossá, amikor az érzelmi kötődés és a „valóságosság érzése” összekapcsolódik. Ilyenkor a felhasználó már nemcsak beszélget, hanem hisz is abban, hogy az AI több, mint egy program.
A cikk folytatódik, lapozz!
A legjobb cikkek, horoszkópok és tesztek – egyenesen a postaládádba, ingyen.
