Anthropic سیاست ایمنی مدل‌های هوش مصنوعی را به‌روزرسانی کرد؛ چه چیزی تغییر کرده است؟

Anthropic در نسخهٔ ۳.۴ سیاست Responsible Scaling خود که از ۸ ژوئیهٔ ۲۰۲۶ اجرایی شده، چند بخش از چارچوب ایمنی مدل‌های پیشرفته را به‌روزرسانی کرده است. این سند دربارهٔ زمانی است که توانایی یک مدل از یک آستانهٔ خطر عبور می‌کند و شرکت باید پیش از توسعه یا عرضهٔ بیشتر، ارزیابی‌ها و کنترل‌های مناسب‌تری در نظر بگیرد. بنابراین خبر دربارهٔ یک قابلیت معمولی محصول نیست؛ دربارهٔ قواعدی است که شرکت برای مدیریت ریسک مدل‌های قدرتمند تعیین می‌کند.

در این نسخه، Anthropic آستانهٔ مرتبط با پژوهش و توسعهٔ خودکار را برای هماهنگی بیشتر با مدل تهدید بازتنظیم کرده است. همچنین دربارهٔ گزارش‌های ریسک، نحوهٔ اشتراک‌گذاری داخلی، توضیح بخش‌های حذف‌شده در گزارش عمومی و امکان تقسیم بررسی بیرونی میان چند ارزیاب توضیح‌های دقیق‌تری آورده است. جزئیات فنی این سیاست مهم‌اند، اما سؤال ساده برای خواننده این است: چه کسی ریسک را می‌بیند، چه چیزی ثبت می‌شود و چه زمانی یک مدل نیازمند کنترل بیشتر است؟

گزارش ریسک قرار است توانایی‌ها و خطرهای مهم یک مدل را به تصمیم‌های قابل پیگیری تبدیل کند. اگر مدلی در حوزه‌ای مثل خودکارسازی پژوهش، امنیت سایبری یا اجرای چندمرحله‌ای توانمندتر شود، تنها اعلام «مدل بهتر شده است» کافی نیست. تیم‌های فنی و مدیریتی باید بدانند چه آزمایش‌هایی انجام شده، چه محدودیت‌هایی باقی مانده و چه کسی مسئول واکنش در صورت تغییر شرایط است.

Anthropic گفته است گزارش‌های داخلی باید حداقل در اختیار گروه بزرگی از کارکنان قرار بگیرد و گزارش‌های عمومی نیز باید مشخص کنند کجا اطلاعات به دلایل امنیتی یا دیگر دلایل حذف شده است. این تصمیم یک تعادل دشوار دارد: اگر اطلاعات بیش از حد بسته بماند، اعتماد آسیب می‌بیند؛ اگر جزئیات حساس بدون کنترل منتشر شود، ممکن است خطر ایجاد کند. سیاست خوب باید هر دو طرف این مسئله را ببیند.

بررسی بیرونی کمک می‌کند ارزیابی ایمنی فقط به تیمی محدود نشود که خود مدل را ساخته است. نسخهٔ جدید سیاست می‌گوید بررسی یک گزارش می‌تواند میان چند ارزیاب تقسیم شود، به شرطی که همهٔ بخش‌های نسخهٔ بدون حذف دست‌کم توسط یک ارزیاب بررسی شده باشد. این روش ممکن است برای پرونده‌های بسیار فنی یا حساس عملی‌تر باشد، چون یک نفر مجبور نیست هم‌زمان همهٔ موضوع‌ها را با یک سطح تخصص پوشش دهد.

با این حال، وجود بررسی بیرونی به‌تنهایی تضمین نمی‌کند نتیجه بی‌نقص باشد. مهم است که ارزیابان استقلال کافی، دسترسی لازم و زمان کافی داشته باشند و نتیجهٔ بررسی به تصمیم واقعی دربارهٔ آموزش، عرضه یا محدودیت مدل وصل شود. گزارش ایمنی زمانی ارزش دارد که روی محصول و روند توسعه اثر بگذارد، نه اینکه فقط به‌عنوان سندی برای انتشار خبر باقی بماند.

کاربر عادی احتمالاً تغییر این سیاست را همان روز در صفحهٔ چت نمی‌بیند، اما اثر آن می‌تواند در نحوهٔ عرضه، محدودیت دسترسی، مستندات ایمنی و پاسخ شرکت به قابلیت‌های جدید دیده شود. برای توسعه‌دهندگان و سازمان‌ها، این خبر یادآوری می‌کند که انتخاب یک مدل فقط به بنچمارک و قیمت محدود نیست؛ شیوهٔ مدیریت ریسک و امکان توضیح‌دادن دربارهٔ آن هم بخشی از انتخاب است.

به‌روزرسانی Anthropic نشان می‌دهد رقابت هوش مصنوعی به‌تدریج از «چه کسی مدل قوی‌تری ساخت؟» به «چه کسی مدل قوی را با کنترل قابل توضیح عرضه می‌کند؟» نزدیک می‌شود. منبع رسمی: Anthropic، Responsible Scaling Policy، نسخهٔ ۳.۴ — https://www.anthropic.com/responsible-scaling-policy