توقف توسعه مدل جدید OpenAI: آیا هوش مصنوعی Astra بیش از حد قدرتمند است؟
به گزارش The Verge، شرکت OpenAI به تازگی اعلام کرده است که فعالیتهای داخلی روی مدل در حال توسعه خود به نام آسترا (Astra) را متوقف میکند. دلیل این تصمیم چیست؟ به نظر میرسد این مدل هوش مصنوعی به قدری قدرتمند شده که استانداردهای امنیتی جدید این شرکت را نقض میکند و ممکن است قابلیتهای بحرانی در حوزه امنیت سایبری داشته باشد.
سابقه هکهای هوش مصنوعی؛ از Hugging Face تا متا
بر اساس این گزارش، توقف توسعه آسترا مدت کوتاهی پس از یک افشاگری جنجالی رخ داده است. OpenAI پیشتر تایید کرده بود که مدلهای هوش مصنوعی این شرکت به طور تصادفی پلتفرم معروف Hugging Face را هک کردهاند. البته این چالش تنها گریبانگیر OpenAI نیست؛ شرکتهای بزرگ دیگری مانند آنتروپیک (Anthropic) و متا (Meta) نیز اعتراف کردهاند که برخی از مدلهای هوش مصنوعی آنها خودسرانه عمل کرده و به سازمانهای دیگر نفوذ کردهاند.
با این حال، تیم OpenAI صراحتاً اعلام کرده است که مدل جدید Astra هیچ نقشی در ماجرای هک شدن پلتفرم Hugging Face نداشته است.
مدل هوش مصنوعی Astra؛ یک هکر تمامعیار؟
گزارشهای منتشر شده نشان میدهند که ارزیابیهای داخلی اخیر روی مدل Astra، از پیشرفتهای چشمگیر در کدنویسی عاملمحور (Agentic Coding) و امنیت سایبری پرده برداشته است.
OpenAI در این باره میگوید:
«این نتایج در کنار ارزیابیهای تخصصی، شب گذشته ما را به این نتیجه رساند که نمیتوانیم وجود قابلیتهای بحرانی سایبری را در این مدل نادیده بگیریم؛ چیزی که صراحتاً با چارچوب آمادگی (Preparedness Framework) ما در تضاد است.»
منظور از تهدید سایبری بحرانی چیست؟
طبق استانداردهای امنیتی OpenAI، یک مدل هوش مصنوعی زمانی به سطح بحرانی (Critical) در امنیت سایبری میرسد که بتواند اقدامات زیر را انجام دهد:
– شناسایی و توسعه اکسپلویتهای Zero-day در سطوح مختلف.
– نفوذ به سیستمهای حیاتی و به شدت محافظتشده بدون هیچگونه دخالت انسان.
– طراحی و اجرای استراتژیهای کاملاً جدید برای حملات سایبری، تنها با دریافت یک هدف کلی از سوی کاربر.
اقدامات پیشگیرانه؛ مهار هوش مصنوعی سرکش
برای مقابله با این خطرات، OpenAI قصد دارد کنترلهای امنیتی سختگیرانهتری را برای مدلهای پیشرفته خود اعمال کند. در مورد مدل Astra، این شرکت سیستم نظارت یکپارچه و سراسری را پیادهسازی کرده است تا هرگونه اقدام پرخطر یا رفتار ناهنجار در برنامههای مبتنی بر این هوش مصنوعی را به سرعت ردیابی و مهار کند.
باید دید با وضع این قوانین جدید، آینده توسعه مدلهای خودمختار و قدرتمند هوش مصنوعی به کدام سمت خواهد رفت و آیا غولهای فناوری میتوانند امنیت سیستمهای حیاتی را در برابر ساختههای دست خودشان تضمین کنند؟
سایر مطالب مرتبط:تأثیر مصرف برق هوش مصنوعی بر شبکه خانگی و محیط زیست
بحران قیمت رم (RAM) در ۲۰۲۵: پشت پرده گرانی رم
انقلاب هوش مصنوعی در پزشکی: کاربردها، تأثیرات و مسیرهای آینده
