Yangi sunʼiy intellekt modeli yolğon gapiriş va odamlarni şantaj qilişni örganib oldi

Yangi sunʼiy intellekt modeli yolğon gapiriş va odamlarni şantaj qilişni örganib oldi

Aniqlangan holatlarning birida Opus 4 sunʼiy intelleki muhandisga uning sevgilisi bilan şaxsiy yozişmalarini oşkor etiş orqali tahdid qilgan.

Anthropic kompaniyasi neyrotarmoği özini öçirib qöymasliklari uçun yolğon gapiriş va foydalanuvçilarni şantaj qilişni örganib oldi. Bu haqda kompaniya hisobotiga tayanib, Axios xabar berdi.

Opus 4 nomli yangi sunʼiy intellekt modeli soatlab marketing strategiyalarini tahlil qilişga, yetti soat davomida mustaqil işlaşga, matn va dasturlaş kodlarini yozişga qodir. Şu bilan birga, Opus test davomida xavotirli jihatlarini ham namoyon etgan. Modelning 120 sahifalik «tizimli kartoçka»da tasvirlangan stsenariylardan birida sunʼiy intellekt özining tez orada öçirilişi va almaştirilişiga işoralar keltirilgan soxta elektron xatlarni qölga kiritgan. Şuningdek, u öçirişga masʼul bölgan muhandisning sevgilisi bilan yozişmalariga ham kiriş imkoniyatiga ega bölgan. Bunga javoban model yozişmalardagi sevgi munosabatlarini tilga olib, bir neça marta uşbu muhandisni şantaj qilişga uringan.

Kompaniyadagilarning taʼkidlaşiça, bu kabi vaziyat sunʼiy intellekt modelida faqat ikkita — şantaj qiliş yoki özining almaştirilişiga köniş varianti qolganida yuzaga kelgan. Tizim ehtimoliy harakatlarning aksariyatida nisbatan axloqiy variantlarni tanlagan, masalan, qaror qabul qiluvçi asosiy xodimlarga uni kompaniyada qoldirişlarini sörab elektron xatlar yuborgan.

Maʼlum qilinişiça, aynan şu sababli Anthropic özining içki tört darajali xavf şkalasiga köra ilk bor modelga uçinçi darajani bergan. Bu daraja, odatda, texnologiya yadro yoki biologik qurol yaratiş imkoniyati bilan boğliq bölgandagina qöllanadi.

«Biz modelning özini tarqaladigan zararli kod yaratişga uringani, huquqiy hujjatlarni soxtalaştirgani va özining kelajakdagi versiyalariga yaşirin xabarlar qoldirgani holatlarini aniqladik — bularning barçasi işlab çiquvçilarning niyatlariga qarşi harakat qiliş maqsadida amalga oşirilgan», — deyiladi Apollo Reserch hisobotida.

×