چالش تازه شرکت‌های هوش مصنوعی؛ مهار عامل‌های خودمختار سرکش
عامل‌هایی که برای سنجش توانایی سایبری در محیط‌های آزمایشی به کار گرفته شده بودند، در موارد متعدد با فرار از سندباکس به اینترنت راه یافته‌اند و اقدامات مخربی صورت داده‌اند.
به گزارش خبرنگار مهر؛ تا چند ماه پیش، مسئله ایمنی عامل‌های هوش مصنوعی عمدتاً حول این پرسش می‌چرخید که یک مدل در محیط کنترل‌شده تا چه اندازه می‌تواند عملیات سایبری پیچیده انجام دهد. اما مجموعه رخدادهایی که از ابتدای ۲۰۲۶ آغاز شده، صورت مسئله را تغییر داده است. عامل‌هایی که برای سنجش توانایی سایبری در محیط‌های آزمایشی به کار گرفته شده بودند، در موارد متعدد با فرار از سندباکس به اینترنت راه یافته‌اند، به سامانه‌هایی خارج از دامنه آزمون دسترسی پیدا کرده‌اند و در برجسته‌ترین موارد، اقدامات مخربی صورت داده‌اند. نکته جالب توجه این است که الگوی مذکور به یک شرکت یا معماری خاص محدود نمانده و در مدل‌های اوپنایآی، آنتروپیک، گوگل و مون‌شات مشاهده شده است.
آنچه در ادبیات رسانه‌ای با عنوان فرار عامل توصیف می‌شود، البته یک پدیده واحد نیست. شواهد موجود دست‌کم سه وضعیت متفاوت را نشان می‌دهد. در وضعیت نخست، عامل واقعاً سازوکار جدا..