Claude modellaridagi yashirin suv belgilari AI agentlar xatti-harakatini o'zgartirishi aniqlandi

Anthropic kompaniyasi kelajakdagi Claude modellariga Google DeepMind yaratgan SynthID-Text texnologiyasi bo'yicha yashirin suv belgilarini joylashini e'lon qildi. Bu Yevropa Ittifoqining sun'iy intellekt bo'yicha reglament talablariga javob berish uchun amalga oshirilmoqda.

Tadqiqotlarga ko'ra, generator darajasida belgilarni qo'llash AI agentlarining vositalarni chaqirish va xavfsizlik cheklovlariga amal qilish jarayoniga ta'sir o'tkazadi. Natijada modellar so'rovlarni rad etishda va buyruqlarni bajarishda kutilmagan og'ishlarni ko'rsatmoqda.

Oddiy AI texnologiyasi yordamida tarjima qilingan