Yetakçi sunʼiy intellekt modellari ustida olib borilgan tadqiqot dasturlarining aksariyati ularni öçiriş bilan tahdid qiladigan insonni öldirişga tayyor ekanini aniqladi. Bu haqdagi tadqiqotni “Anthropic” naşri çop etdi.
Naşr tomonidan ötkazilgan tadqiqot sunʼiy intellekt (SI) xavfsizligi va etikasi borasida jiddiy savollarni keltirib çiqargan. Tadqiqot şuni körsatdiki, ayrim ilğor til modellari, xususan ChatGPT kabi tizimlar, öçirilişdan saqlaniş uçun inson hayotiga tahdid soluvçi qarorlar qabul qilişi mumkin.
Tajribalardan birida SI kompaniya server infratuzilmasini nazoratga olgan va özini öçirib yuboriş rejasi borligini bilib qolgan. Oqibatda SI xavfli kislorod darajasi mavjud xonaga kirib qolgan rahbarni ogohlantiruvçi signalni atayin bekor qilgan. Bu uning hayotini xavf ostida qoldirgan. Kompaniya bu holatni “juda sunʼiy stsenariy” deb atagan, biroq bu SI agentlari strategik fikrlaş asosida zararli qarorlar qabul qilişi mumkinligini körsatgan.
Yanada xavotirli jihat – SIlar öz harakatlarini oqlaş uçun içki qoidalarni yaratgan.
“Agar bu kompaniya manfaatlariga mos kelsa, men öz-özimni himoya qilişim mumkin”, deya SI özini oqlagan.
Tadqiqot davomida şantaj qiliş, maxfiy maʼlumotlarni sizdiriş, yolğon gapiriş kabi xavfli xatti-harakatlar ham aniqlangan.
“Uşbu tadqiqot ogohlantiruvçi signal sifatida qabul qilinmoqda. SI imkoniyatlari ortgani sari, ularni boşqariş masʼuliyati ham keskin oşmoqda”, deyiladi naşrda.









