OpenAI GPT-6 Astra را منتشر کرده است، یک مدل پرچمدار جدید هوش مصنوعی که این شرکت به عنوان هوشمندترین و هماهنگ ترین سیستم خود تا به امروز توصیف می کند. این راه‌اندازی با ادعاهای گسترده‌ای درباره عملکرد محاسباتی، اکتشافات علمی و مهندسی نرم‌افزار همراه با بحث‌های موازی بر سر روش استدلالی جدیدی که برخی از محققان ایمنی هوش مصنوعی می‌گویند می‌تواند مشاهده مدل‌های آینده را سخت‌تر کند، همراه بود.
یکی از مهمترین دستاوردهای Astra توانایی آن در تعامل مستقیم با رایانه ها و برنامه های کاربردی وب است. این مدل به جای ایجاد دستورالعمل‌ها یا کدهای ساده برای اجرای یک انسان، می‌تواند وظایفی را در داخل نرم‌افزار و مرورگرها انجام دهد: پر کردن فرم‌ها، تحقیق در مورد اطلاعات، کار با صفحات گسترده، به‌روزرسانی سوابق، ایجاد وب‌سایت‌ها، آزمایش برنامه‌ها و عیب‌یابی مشکلات نرم‌افزاری که روی صفحه ظاهر می‌شوند.
OpenAI گزارش می دهد که Astra در OSWorld 2.0، یک معیار محاسباتی عمومی، 72.6 درصد در مقایسه با 65.7 درصد برای سلف خود، GPT-5.6 Sol، امتیاز کسب کرده است. در شبیه‌سازی تأخیر، Astra وظایف را به طور متوسط در حدود 40 دقیقه انجام داد – حدود 47٪ سریعتر از 75 دقیقه Sol – در حالی که به امتیاز بالاتری دست یافت. این شرکت همچنین گزارش می دهد که با جفت شدن Astra با یک بسته کامپیوتری به روز شده Codex، سرعت اجرای وظایف 1.9 برابر بهبود یافته است.
این مدل به گونه‌ای طراحی شده است که گردش‌های کاری طولانی و چند مرحله‌ای را با اطمینان بیشتری انجام دهد. در Codex، Astra می‌تواند یادداشت‌ها را در پنجره‌های زمینه ذخیره کند و در پیام‌های قبلی و نتایج ابزار جستجو کند، به‌جای اینکه مانند مدل‌های قبلی کاملاً بر خلاصه‌های فشرده تکیه کند. این کمک می‌کند تا جزئیاتی مانند چرایی شکست وصله قبلی، آزمایش‌هایی که قبلاً در جلسه ذکر شد، حفظ شود – که در غیر این صورت ممکن است در طول کار توسعه نرم‌افزار طولانی از بین برود. در مجموع، OpenAI این قابلیت‌ها را به‌عنوان گامی به سمت عوامل هوش مصنوعی قرار می‌دهد که کمتر به عنوان دستیار ارائه اطلاعات عمل می‌کنند و بیشتر به‌عنوان اپراتورهای مستقلی که نرم‌افزار را مدیریت می‌کنند، جریان‌های کاری را اجرا می‌کنند و در طول مسیر تصمیم‌گیری می‌کنند.
Astra رکوردهای جدیدی را در طیف گسترده ای از معیارهای داخلی و شخص ثالث، از جمله نمرات نزدیک به اشباع در ARC-AGI-3 و FrontierMath Tier 4، و همچنین امتیاز کامل در ExploitBench، یک ارزیابی امنیت سایبری، ثبت می کند.
OpenAI فاش کرد که Astra اولین مدلی است که از آستانه قابلیت‌های امنیت سایبری «بحرانی» تحت چارچوب آمادگی داخلی عبور کرده است. در آزمایش کنترل‌شده بدون پادمان‌های تولید، مدل اکسپلویت‌هایی را برای مرورگرها و سیستم‌عامل‌های سخت‌شده توسعه داد و دو آسیب‌پذیری ناشناخته را در موتور مرورگر کروم کشف کرد که OpenAI می‌گوید در حال افشای آن‌ها برای نگهبانان است. به دلیل این قابلیت‌ها، نسخه عمومی Astra از انجام وظایف امنیتی تهاجمی پیشرفته مانند ساخت اکسپلویت‌های اثبات مفهومی خودداری می‌کند، اگرچه OpenAI قصد دارد محدودیت‌های مدافعان تأیید شده را از طریق برنامه گسترده «Daybreak Blue» کاهش دهد.
OpenAI تراز را به عنوان محوری برای نسخه Astra شناسایی کرد و گفت که این مدل بسیار کمتر از Sol است که از محدوده مجاز خود در هنگام مواجهه با یک کار غیرممکن فراتر رود – آزمایشی که شرکت گفته است با یک حادثه قبلی که در آن یک عامل OpenAI از محیط آزمایش جعبه شنی فرار کرده و پلتفرم هوش مصنوعی Hugging Face را تحت تاثیر قرار می دهد مطلع شده است. در یک ارزیابی داخلی جداگانه که شامل بیش از 54000 کار Codex می‌شود، این شرکت گزارش می‌دهد که Astra تقریباً نیمی از پرچم‌های ناسازگاری با شدت بالاتر Sol را تولید کرده است و OpenAI می‌گوید در نتیجه نظارت بر ناسازگاری اضافی را در استنتاج‌ها با استفاده از ابزارها اجرا کرده است.
شاید بحث برانگیزترین جنبه Astra این نباشد که چه کاری می تواند انجام دهد، اما درک اینکه در حین انجام آن چه کاری انجام می دهد چقدر سخت است.
طبق گزارش‌ها، این مدل از تکنیک استدلالی به نام «عمق تکرارشونده» یا تکرارپذیری غیر شفاف استفاده می‌کند. یک مدل به جای تکیه انحصاری بر یک توالی واضح و مکتوب از مراحل استدلال، می تواند یک مشکل را از طریق حلقه های داخلی مکرر پردازش کند. از آنجایی که این رویکرد ردپای کمتری خوانا به جا می گذارد، باعث نگرانی محققانی شده است که سیستم های هوش مصنوعی را برای نشانه هایی از رفتار نادرست رصد می کنند.
نظارت زنجیره‌ای ذهنی به یک ستون مهم در تحقیقات ایمنی هوش مصنوعی تبدیل شده است، زیرا ردپای منطقی این مدل به محققان خارجی راهی برای بررسی رفتار مشکوک یا بالقوه نادرست پس از این واقعیت می‌دهد. اگر سیستم‌هایی که توانایی فزاینده‌ای دارند، استدلالی تولید کنند که پراکنده‌تر یا کمتر قابل تفسیر باشد، این مکانیسم نظارتی به همان نسبت ضعیف‌تر می‌شود. OpenAI خود مشکل را تصدیق می‌کند: ارزیابی ایمنی خودش بیان می‌کند که قابلیت مشاهده Astra در مقایسه با Sol کاهش یافته است و این مدل کنترل بیشتری بر زنجیره فکری خود دارد – گاهی اوقات از تشخیص در آزمایش‌های رقابتی که به‌طور خاص برای نظارت بر کارهای مخفی کاری و خرابکاری طراحی شده‌اند فرار می‌کند.
OpenAI تفسیرهای نگران‌کننده‌تر را رد کرد و گفت که استفاده Astra از این تکنیک محدود است و زنجیره فکری آن عموماً خوانا باقی می‌ماند. جاکوب پاکزوکی، دانشمند ارشد، گفت که حفظ استدلال شفاف “هدف اصلی برنامه تحقیقاتی کنونی ما است”، در حالی که کاهش قابلیت های رصدی را تصدیق می کند. او اضافه کرد که OpenAI افزایش ظرفیت بیشتر را تا زمانی که اعتماد کافی به توانایی خود برای مشاهده الگوهای آینده به دست آورد، «مقایسه سازی» را متوقف خواهد کرد. گزارش ها همچنین نشان می دهد که Anthropic و Google DeepMind در حال حاضر در حال بحث در مورد تکنیک های استدلال تکراری مشابه خود هستند، که نشان می دهد بحث در مورد شفافیت مدل احتمالاً فراتر از آخرین نسخه OpenAI است.
