OpenAI عرضه مدل بزرگ بعدی خود «Astra» را به‌دلیل نگرانی‌های جدی امنیت سایبری به تعویق انداخت.

OpenAI اعلام کرده فعالیت‌های مربوط به مدل هوش مصنوعی آینده خود با نام «Astra» را فعلا متوقف کرده است؛ تصمیمی که به توانایی‌های بالقوه خطرناک این مدل در حوزه امنیت سایبری مربوط می‌شود.

براساس ارزیابی‌های داخلی OpenAI، مدل Astra پیشرفت قابل‌توجهی در برنامه‌نویسی عامل‌محور و امنیت سایبری داشته و این شرکت نمی‌تواند احتمال رسیدن آن به سطح «Critical» یا بحرانی در توانایی‌های سایبری را رد کند. مدل‌های قبلی OpenAI از جمله GPT-5.6 Sol در سطح «High» ارزیابی شده بودند.

چرا Astra نگران‌کننده شده است؟

Astra مشمول سخت‌گیرانه‌ترین بخش‌های چارچوب آمادگی OpenAI شده است. طبق این چارچوب، زمانی که یک مدل هوش مصنوعی بتواند خطر حملات سایبری گسترده یا بهره‌برداری از آسیب‌پذیری‌ها را افزایش دهد، توسعه و انتشار آن نیازمند تدابیر امنیتی بیشتری خواهد بود.

سطح «Critical» به توانایی‌هایی اشاره دارد که یک مدل بتواند بدون دخالت مستقیم انسان، آسیب‌پذیری‌های ناشناخته را در سیستم‌های واقعی و مهم شناسایی کرده و برای آنها روش‌های عملی بهره‌برداری ایجاد کند یا راهبردهای جدید و کامل برای حملات سایبری طراحی و اجرا کند.

OpenAI انتشار Astra را محدود می‌کند

OpenAI می‌گوید پیش از عرضه Astra، لایه‌های امنیتی بیشتری برای آن در نظر خواهد گرفت و تا آماده‌شدن این محافظت‌ها، کار روی بخش‌هایی از مدل محدود می‌شود.

آزمایش‌های Astra قرار است در محیط‌های ایزوله و با دسترسی محدود به شبکه و ابزارها انجام شود. اجرای کد در محیط‌های کنترل‌شده و سیستم‌های نظارتی بیشتر نیز بخشی از برنامه امنیتی OpenAI است. این شرکت قصد دارد برای آزمایش مدل با نهادهای دولتی مرتبط و سازمان‌های فعال در حوزه ایمنی هوش مصنوعی همکاری کند.

OpenAI تاکید کرده هدفش این است که مدل‌های پیشرفته‌ای مانند Astra با مسئولیت‌پذیری و کنترل‌های امنیتی کافی در اختیار کاربران قرار بگیرند.

Astra هنوز رسما معرفی نشده است

OpenAI تاکنون Astra را به‌صورت رسمی معرفی نکرده، اما پیش‌تر اطلاعاتی درباره مدل بزرگ بعدی خود و توانایی‌های آن در حل مسائل ریاضی منتشر کرده بود.

طبق اطلاعات منتشرشده، این مدل توانسته ۱۰ مسئله باز در ریاضیات و علوم کامپیوتر نظری را حل کند و هزینه محاسباتی این آزمایش‌ها براساس نرخ API مدل‌های Sol حدود ۲ هزار دلار بوده است.

هوش مصنوعی و چالش تازه امنیت سایبری

پیشرفت سریع مدل‌های هوش مصنوعی شرایط امنیت سایبری را برای شرکت‌های فناوری نیز تغییر داده است. این مدل‌ها اکنون قادرند تعداد بسیار زیادی از باگ‌ها و آسیب‌پذیری‌های نرم‌افزاری را شناسایی کنند.

MacRumors اشاره می‌کند که اپل نیز اخیرا به‌دلیل افزایش حجم گزارش‌های امنیتی، محدودیت‌هایی برای ارسال گزارش به برنامه Bug Bounty خود ایجاد کرده است.

مدل‌های پیشرفته شرکت‌های دیگر نیز در این زمینه توانایی‌های قابل‌توجهی نشان داده‌اند و برخی از آنها به‌دلیل امکان استفاده برای شناسایی و بهره‌برداری از آسیب‌پذیری‌ها، تنها در اختیار مجموعه‌های محدودی قرار گرفته‌اند.

تصمیم OpenAI درباره Astra نشان می‌دهد نسل بعدی مدل‌های هوش مصنوعی تنها بر سر افزایش قدرت پردازش و استدلال رقابت نمی‌کنند؛ کنترل توانایی‌های امنیت سایبری آنها نیز به یکی از چالش‌های اصلی توسعه هوش مصنوعی تبدیل شده است.