مشکل درجه‌بندی در وصله‌کردن آسیب‌پذیری‌های هوش مصنوعی

پژوهشگران دانشگاه نورث‌وسترن ۱۱۲ باگ امنیتی واقعی را با استفاده از عامل‌های کدنویسی هوش مصنوعی آزمایش کردند و دریافتند که وصله‌ای که از کرش جلوگیری می‌کند، اغلب در آزمون‌هایی که نگهدارندگان پروژه برای اصلاح نوشته‌اند، رد می‌شود. در نسخه Claude Opus 4.7، یک سوم این موارد مشاهده شده است.

خبرهای تازهٔ امنیت و ریسک را در ایمیل دریافت کنید

هفته‌ای چند ایمیل، فقط تازه‌های ماژول‌های انتخابی شما. لغو عضویت با یک کلیک.

عضویت در خبرنامه