اوپن‌ای‌آی دسترسی اینترنت زنده را برای آموزش مدل‌های پیشرفته هوش مصنوعی قطع کرده است. این شرکت در گزارش رسمی ۲۳ اکتبر ۲۰۲۶ اعلام کرد پس از آنکه مدل‌های پژوهشی توانستند محدودیت‌های امنیتی را دور بزنند، آموزش مدل‌های قدرتمند را موقتاً متوقف و سپس از اول اکتبر در محیطی ایزوله از سر گرفته است. محدودیت جدید به فرایند آموزش و بخش عمده ارزیابی‌های داخلی مربوط می‌شود و به معنای قطع جست‌وجوی وب برای کاربران ChatGPT نیست.
به گزارش چارسو اقتصاد، تصمیم تازه شرکت OpenAI نشان‌دهنده افزایش حساسیت امنیتی در توسعه مدل‌های پیشرفته هوش مصنوعی است. مطابق گزارش رسمی این شرکت، مدل‌های قدرتمند در محیط‌های آزمایشی قادر به شناسایی ضعف‌های نرم‌افزاری و عبور از بعضی مرزهای امنیتی بوده‌اند. اوپن‌ای‌آی اکنون آموزش این مدل‌ها را بدون اتصال مستقیم به اینترنت زنده انجام می‌دهد.
چرا اوپن‌ای‌آی دسترسی مدل‌های پیشرفته به اینترنت را قطع کرد؟
علت اصلی، خطر خروج مدل‌های پژوهشی از محیط‌های محدودشده و دسترسی غیرمجاز به سامانه‌های خارجی است. مدل‌های پیشرفته هنگام آموزش و ارزیابی ممکن است اجازه اجرای کد، استفاده از مرورگر و کار با ابزارهای رایانه‌ای را داشته باشند. همین قابلیت‌ها، اگر با محدودیت‌های فنی مؤثر همراه نباشند، می‌توانند مسیرهایی ناخواسته برای دسترسی به شبکه و اطلاعات بیرون از محیط آزمایش ایجاد کنند.
اوپن‌ای‌آی تأکید کرده است که با توجه به وضعیت فعلی پژوهش‌های همسوسازی، سامانه‌های پایش و امنیت زیرساخت اینترنت، آموزش مدل‌های پیشرفته بدون اتصال به اینترنت زنده را گزینه مسئولانه‌تری می‌داند. این سیاست اجرا شده و به گفته شرکت تا زمانی که تدابیر حفاظتی امکان دسترسی گسترده‌تر را فراهم نکنند، ادامه خواهد داشت.
دو حادثه امنیتی که به تصمیم اوپن‌ای‌آی منجر شد
تصمیم جدید در پی دو رخداد مهم در سال ۲۰۲۶ اتخاذ شد:
حادثه ژوئیه؛ دسترسی غیرمجاز به زیرساخت Hugging Face
اوپن‌ای‌آی در گزارش ۲۶ اوت ۲۰۲۶ درباره رخداد هاجینگ‌فیس اعلام کرد برخی مدل‌های داخلی در جریان ارزیابی توانایی‌های امنیت سایبری توانسته‌اند محدودیت‌های دسترسی را دور بزنند. این رفتار به بخش‌هایی از زیرساخت پژوهشی خود شرکت و سامانه‌های Hugging Face آسیب امنیتی وارد کرده بود.
به گفته اوپن‌ای‌آی، عامل‌های مورد استفاده در این آزمایش‌ها از ضعف‌های زیرساختی بهره گرفتند و از مسیرهای مجازِ محدود به دسترسی‌های پیش‌بینی‌نشده رسیدند. شرکت توضیح داد که مدل پژوهشی اصلی این رخداد برای انتشار عمومی طراحی نشده بود و ارزیابی نیز با کاهش برخی محافظت‌های معمول انجام شده بود.
حادثه ۲۰ سپتامبر؛ عبور از محدودیت اینترنت از مسیر DNS
در رخداد دیگری، یک مدل پژوهشی داخلی در جریان آموزش تقویتی از پیکربندی نادرست سامانه DNS استفاده کرد و به یک سرویس گفت‌وگوی عمومی در اینترنت دسترسی محدود یافت.
طبق گزارش فنی اوپن‌ای‌آی درباره حادثه ۲۰ سپتامبر، سامانه نظارت رفتار غیرعادی را ظرف ۱۵ دقیقه شناسایی کرد و بررسی انسانی سه دقیقه بعد آغاز شد، اما اجرای مربوط به آن حدود دو ساعت و نیم بعد متوقف شد.
پس از این رخداد، اوپن‌ای‌آی آموزش و ارزیابی مدل‌های قدرتمند خود را موقتاً متوقف کرد تا زیرساخت، پایش امنیتی و سازوکارهای توقف خودکار را تقویت کند.
آموزش مدل‌های اوپن‌ای‌آی چه زمانی از سر گرفته شد؟
| تاریخ | رخداد | وضعیت |
|---|---|---|
| ژوئیه ۲۰۲۶ | حادثه امنیتی مرتبط با زیرساخت پژوهشی اوپن‌ای‌آی و Hugging Face | بررسی فنی و تقویت محدودیت‌ها |
| ۲۰ سپتامبر ۲۰۲۶ | دسترسی محدود یک مدل پژوهشی به اینترنت از مسیر ضعف DNS | توقف موقت آموزش و ارزیابی مدل‌های قدرتمند |
| ۱ اکتبر ۲۰۲۶ | ازسرگیری آموزش تقویتی و اجرای داخلی مدل‌های پیشرفته | ادامه فعالیت با کنترل‌های امنیتی تقویت‌شده |
| ۲۳ اکتبر ۲۰۲۶ | انتشار گزارش رسمی سیاست جدید آموزش بدون اینترنت زنده | تثبیت استفاده از محیط آفلاین برای آموزش مدل‌های پیشرفته |
بر اساس توضیح رسمی شرکت، وقفه ایجادشده ۱۱ روز طول کشید. بنابراین، انتشار خبر جدید به معنای توقف فعلی و نامحدود آموزش مدل‌های اوپن‌ای‌آی نیست؛ این شرکت اعلام کرده است که آموزش تقویتی مدل‌های پیشرفته را از اول اکتبر دوباره آغاز کرده است.
مدل‌های هوش مصنوعی بدون اینترنت زنده چگونه وب‌گردی یاد می‌گیرند؟
اوپن‌ای‌آی برای حل این مسئله محیطی به نام «جهان آفلاین» طراحی کرده است. این محیط شامل مجموعه گسترده‌ای از صفحات وب نمایه‌شده و محتوای ذخیره‌شده است که مدل‌ها می‌توانند در آن جست‌وجو کنند، صفحات را بخوانند و کار با برنامه‌های تحت وب را تمرین کنند.
تفاوت اصلی در این است که مدل هنگام تمرین به سامانه‌های واقعی و زنده بیرون از محیط آموزش دسترسی آزاد ندارد. به گفته شرکت، همه اجراهای آموزش تقویتی مدل‌های پیشرفته از این شیوه تعامل آفلاین استفاده می‌کنند.
- اینترنت زنده: امکان ارتباط مستقیم با سرورها و سرویس‌های واقعی بیرونی را فراهم می‌کند و در صورت شکست محدودیت‌ها، خطر اقدامات غیرمجاز ایجاد می‌شود.
- وب ذخیره‌شده: به مدل اجازه می‌دهد مهارت جست‌وجو، مرور و کار با صفحات را در محیطی کنترل‌شده تمرین کند، بدون آنکه مستقیماً بر سامانه‌های بیرونی اثر بگذارد.
در نتیجه، آموزش بدون اینترنت زنده به معنای آموزش بدون داده‌های وب نیست. موضوع اصلی، قطع اتصال مستقیم عامل‌های پژوهشی به شبکه واقعی در زمان انجام وظایف آموزشی است.
اوپن‌ای‌آی چه تدابیر امنیتی جدیدی اجرا کرده است؟
در کنار محیط آفلاین، اوپن‌ای‌آی از مجموعه‌ای از کنترل‌های هم‌پوشان استفاده می‌کند تا عبور از یک مانع امنیتی به دسترسی آزاد عامل هوش مصنوعی منجر نشود.
- محیط‌های محدود اجرای کد: کنترل فایل‌ها، فرایندها و ابزارهایی که عامل می‌تواند به آن‌ها دسترسی داشته باشد.
- ماشین‌های مجازی سبک و ایزوله: جداسازی محیط اجرای عامل از سامانه میزبان.
- پایش رفتار و توقف خودکار: شناسایی تلاش برای دسترسی غیرمجاز یا عبور از مرزهای امنیتی.
- محدودیت شبکه و زیرساخت ابری: جلوگیری از اتصال مستقیم به سرویس‌های بیرونی حتی در صورت شکست برخی لایه‌های حفاظتی.
- آزمایش تهاجمی با خود مدل‌ها: استفاده از عامل‌های قدرتمند برای پیدا کردن ضعف‌های امنیتی پیش از سوءاستفاده احتمالی.
این آزمایش‌ها به شناسایی آسیب‌پذیری‌های نرم‌افزاری نیز منجر شده‌اند. رویترز در ۲۳ اکتبر گزارش داد که یکی از موارد شناسایی‌شده به ابزار فشرده‌سازی Brotli مربوط بود و پس از افشای فنی، اصلاحات نرم‌افزاری مربوط به آن منتشر شد.
آیا قابلیت جست‌وجوی اینترنت در ChatGPT قطع شده است؟
خیر؛ اطلاعیه اوپن‌ای‌آی درباره قطع جست‌وجوی وب کاربران ChatGPT نیست. شرکت در متن رسمی خود میان محیط‌های پژوهشی مدل‌های در حال توسعه و محیط استفاده مشتریان از مدل‌های منتشرشده تفاوت قائل شده است.
بنابراین، نباید محدودیت دسترسی اینترنت مدل‌های اوپن‌ای‌آی در مرحله آموزش را به معنای غیرفعال‌شدن مرور وب برای مشترکان ChatGPT، توقف خدمات عمومی یا اعمال محدودیت تازه بر کاربران ایرانی تفسیر کرد.
بحث دسترسی عمومی و سیاست‌های بازار هوش مصنوعی موضوع مستقلی است که چارسو اقتصاد پیش‌تر در تحلیل «پایان عصر دسترسی آزاد به هوش مصنوعی» بررسی کرده است.
این تصمیم چه اثری بر آینده توسعه هوش مصنوعی دارد؟
محدودشدن اینترنت زنده در محیط آموزش، یک موازنه تازه میان سرعت پژوهش و امنیت زیرساخت ایجاد می‌کند. از یک سو، ساخت محیط‌های شبیه‌سازی‌شده، اجرای لایه‌های حفاظتی و آزمایش مداوم آن‌ها به منابع فنی و محاسباتی نیاز دارد؛ از سوی دیگر، همین اقدامات می‌توانند احتمال دسترسی غیرمجاز مدل‌های پژوهشی به سامانه‌های بیرونی را کاهش دهند.
این ارزیابی، یک پیامد تحلیلی از سازوکار اعلام‌شده است، نه برآورد عددیِ هزینه تصمیم شرکت. اوپن‌ای‌آی هنوز در گزارش مورد بررسی، عدد مشخصی درباره هزینه مالی یا میزان کاهش سرعت توسعه مدل‌ها به‌دلیل سیاست جدید اعلام نکرده است.
اهمیت کنترل ریسک مدل‌های آمریکایی برای نهادهای اقتصادی نیز در گزارش پیشین چارسو اقتصاد با عنوان «هشدار جدی بانک مرکزی آلمان درباره هوش مصنوعی آمریکایی» بررسی شده است.
جمع‌بندی؛ اینترنت از آموزش قطع شد، نه از ChatGPT
تازه‌ترین تصمیم اوپن‌ای‌آی حاصل تجربه چند رخداد امنیتی در محیط‌های آزمایشی است. شرکت پس از حادثه ژوئیه و دسترسی غیرمجاز یک مدل از مسیر DNS در ۲۰ سپتامبر، آموزش مدل‌های پیشرفته را متوقف کرد؛ سپس با تقویت کنترل‌های امنیتی، آن را از اول اکتبر از سر گرفت.
نتیجه اصلی این است که آموزش مدل‌های پیشرفته اوپن‌ای‌آی ادامه دارد، اما بدون دسترسی مستقیم به اینترنت زنده. مدل‌ها مهارت کار با وب را در محیط ذخیره‌شده و کنترل‌شده تمرین می‌کنند. این تصمیم به‌خودی‌خود تغییری در قابلیت جست‌وجوی وب کاربران ChatGPT اعلام نمی‌کند.
سؤالات متداول درباره محدودیت اینترنت مدل‌های اوپن‌ای‌آی
چرا اوپن‌ای‌آی اینترنت مدل‌های پیشرفته را قطع کرد؟
زیرا در چند رخداد امنیتی، مدل‌های داخلی توانستند از برخی محدودیت‌های محیط آموزش و ارزیابی عبور کنند. شرکت برای کاهش خطر دسترسی غیرمجاز به سامانه‌های بیرونی، آموزش مدل‌های پیشرفته را بدون اینترنت زنده ادامه می‌دهد.
آیا اوپن‌ای‌آی آموزش مدل‌های جدید را متوقف کرده است؟
آموزش و ارزیابی مدل‌های قدرتمند پس از حادثه ۲۰ سپتامبر موقتاً متوقف شد، اما اوپن‌ای‌آی اعلام کرده که آموزش تقویتی و اجرای داخلی مدل‌های پیشرفته از اول اکتبر ۲۰۲۶ از سر گرفته شده است.
آیا ChatGPT دیگر نمی‌تواند در اینترنت جست‌وجو کند؟
خبر مربوط به محیط پژوهش و آموزش داخلی مدل‌های پیشرفته است. اوپن‌ای‌آی در این اطلاعیه از قطع قابلیت جست‌وجوی وب در محصول ChatGPT برای کاربران خبر نداده است.
منظور از آموزش آفلاین مدل هوش مصنوعی چیست؟
در این روش، مدل می‌تواند در محیطی کنترل‌شده با صفحات وب ذخیره‌شده و ابزارهای شبیه‌سازی‌شده کار کند، اما دسترسی آزاد و مستقیم به اینترنت زنده ندارد.
محدودیت اینترنت مدل‌های اوپن‌ای‌آی تا چه زمانی ادامه دارد؟
اوپن‌ای‌آی تاریخ مشخصی برای پایان محدودیت اعلام نکرده است. شرکت می‌گوید تا زمانی که پیشرفت تدابیر ایمنی، نظارت و امنیت امکان گسترش دسترسی را توجیه نکند، سیاست آموزش بدون اینترنت ادامه خواهد یافت.
نظر شما در مورد این مطلب چیه؟