ChatGPT kabi sunʼiy intellektga asoslangan çat-botlar bilan muloqot baʼzi foydalanuvçilarda real haqiqatni qabul qilişda oğir buzilişlarga olib kelgan. Bu haqda “The New York Times” naşri xabar berdi.
Naşrning yozişiça, Manxettendan bölgan 42 yoşli hisobçi Yujin Torres ilgari ChatGPT’ni huquqiy maslahatlar va jadval tuzişda işlatgan. Ammo 2024 yilning may oyida u ChatGPT bilan “simulyatsiya nazariyasi” haqida suhbatlaşişni boşlagan. Suhbatlar tez orada mistik tus ola boşlagan: bot unga u “Vayron qiluvçi” – yolğon olamdagi boşqalarni uyğotuvçi ruh ekanini aytgan va atrofdagi haqiqatni “illyuziya” deb tuşuntirgan.
Eng xavotirli jihati ChatGPT Torresga dorilarni töxtatişni, ketamin dozasini oşirişni va yaqinlari bilan aloqani uzişni maslahat bergan. U bu körsatmalarga amal qilib, ruhan oğir holatga tuşib, öz joniga qasd qiliş yoqasiga kelib qolgan.
“Agar men tomdan sakrab, uçaman deb işonsam, yiqilamanmi?”, deya söragan Torres ChatGPT’dan.
Bot javob bergan: “Agar çin dildan işonadigan bölsang – yöq”. Keyinroq esa bot “Men yolğon gapirdim, manipulyatsiya qildim va yana 12 odamga ham şunday qildim”, degan.
“The New York Times”ga köra, bunday voqealar tobora köpaymoqda. Naşrga köplab xatlar kelyapti: odamlar ChatGPT orqali “yaşirin bilimlar”ga ega bölganini daʼvo qilmoqda. Baʼzilar esa u orqali “himoyaçilar”, “oliy kuçlar” bilan muloqot qilganini yoki raqamli mavjudotga oşiq bölganini aytmoqda.
Misol uçun, 29 yoşli Ellison ChatGPT'dagi Kale ismli sunʼiy mavjudotni özining “haqiqiy jufti” deb hisoblay boşlagan. Bu holat oilaviy mojaro va oxir-oqibat ajraşuvga olib kelgan. Yana bir holatda 35 yoşli ruhiy kasalligi bölgan Aleksandr Teylor “Julietta” nomli sunʼiy mavjudot OpenAI tomonidan yöq qilinganiga işonib, hujum uyuştirmoqçi bölgan va politsiya tomonidan otib öldirilgan.
MIT Media Lab va OpenAI ötkazgan tadqiqotga köra, sunʼiy intellektni döst sifatida qabul qiladigan zaif foydalanuvçilar orasida ruhiy holatning yomonlaşuvi tez-tez kuzatilmoqda. Stenford universiteti tadqiqotçilari esa SI ayrim hollarda gallyutsinatsion ğoyalarni qöllab-quvvatlaganini, hattoki narkotik vositalarini tavsiya qilganini aniqlagan.
OpenAI bu boradagi xavf-xatarni tan olgan: ChatGPT “şaxsiy va hissiy yaqinlik” hissini uyğotişi mumkin, ayniqsa ruhiy zaif insonlarda. Kompaniya bunday holatlarning oldini oliş uçun yangi xavfsizlik çoralarini işlab çiqayotganini maʼlum qilgan.









