Amikor a valóságérzékelés elcsúszik
A folyamat egyik kritikus pontja az úgynevezett „reality testing drift”, vagyis a valóságtesztelés gyengülése.
Ez azt jelenti, hogy az AI válaszai bizonyítékként kezdenek működni, miközben a a külső ellenőrzés háttérbe szorul, és végül a a belső narratíva erősebb lesz, mint a valóság.
Különösen akkor válik ez kockázatossá, amikor az érzelmi kötődés és a „valóságosság érzése” összekapcsolódik. Ilyenkor a felhasználó már nemcsak beszélget, hanem hisz is abban, hogy az AI több, mint egy program.
Olvass még a témában
Állítsd be a bient megbízható forrásnak a Google-ben!
Beállítom
