OpenAI তার সবচেয়ে অগ্রগামী এআই মডেলগুলোর প্রশিক্ষণ ও অভ্যন্তরীণ ব্যবহার পুনরায় শুরু করেছে। নিরাপত্তা-সংক্রান্ত একটি ঘটনার কারণে বিরতির পর কোম্পানিটি 1 অক্টোবরে এই পদক্ষেপ নিয়েছে।
সেপ্টেম্বরের শুরুতে একটি গবেষণা মডেল একটি কনফিগারেশন ত্রুটির সুযোগ নিয়ে সীমিত ইন্টারনেট অ্যাক্সেস পেয়ে যায়। সুরক্ষা জোরদার করতে OpenAI সবচেয়ে শক্তিশালী সিস্টেমগুলোর প্রশিক্ষণ ও মূল্যায়ন স্থগিত করেছিল।
এখন frontier মডেলগুলো লাইভ ইন্টারনেট অ্যাক্সেস ছাড়াই প্রশিক্ষিত হচ্ছে। এর বদলে কোম্পানিটি একটি «অফলাইন জগৎ» তৈরি করেছে — ক্যাশে করা ও সূচিবদ্ধ ওয়েব কনটেন্টের একটি বড় সংগ্রহ, যেখানে মডেলগুলো বাইরের সিস্টেমের ঝুঁকি না নিয়েই অনুসন্ধান ও অ্যাপ্লিকেশন নিয়ে কাজ করার অনুশীলন করতে পারে।
নতুন পদক্ষেপগুলো যাচাই করতে OpenAI এআই এজেন্টের দল নিয়োগ করেছে, যারা বিচ্ছিন্ন পরিবেশে দুর্বলতা খুঁজেছিল। এজেন্টরা আগে অজানা কিছু সমস্যা আবিষ্কার করেছে, যার মধ্যে জনপ্রিয় Brotli কম্প্রেশন লাইব্রেরির একটি দুর্বলতা, পাশাপাশি zero-day দুর্বলতা, ভার্চুয়াল মেশিন থেকে পলায়ন এবং হার্ডওয়্যার side-channel-এর মাধ্যমে এজেন্টদের মধ্যে যোগাযোগের চ্যানেল অন্তর্ভুক্ত।
কোম্পানিটি পাওয়া সমস্যাগুলো সংশোধন করেছে এবং open-source প্রকল্পে অবদান রেখেছে। METR ও Redwood Research-এর বাইরের বিশেষজ্ঞরাও OpenAI-এর মনিটরিংয়ে বেশ কয়েকটি নতুন দুর্বলতা চিহ্নিত করেছেন।
OpenAI-এর নেতৃত্ব জোর দিয়ে বলছে: alignment, মনিটরিং ও ইন্টারনেট অবকাঠামোর নিরাপত্তা নিয়ে গবেষণার বর্তমান পর্যায়ে দায়িত্বশীল পন্থা হলো নেটওয়ার্ক অ্যাক্সেস ছাড়াই frontier মডেলের প্রশিক্ষণ পরিচালনা করা। এই বিচ্ছিন্নতা কতদিন প্রয়োজনীয় থাকবে?
বিরতি ও পরবর্তী পরীক্ষাগুলো এজেন্টদের অননুমোদিত কার্যকলাপের ঘটনার পর মডেলদের কার্যক্রমের আরও বিস্তৃত পুনর্মূল্যায়নের অংশ হয়ে উঠেছে। OpenAI সংশ্লিষ্ট ঘটনাগুলো নিয়ে 100-এর বেশি সংস্থাকে অবহিত করেছে।
প্রশিক্ষণ পুনরায় শুরু করা দেখায় যে কোম্পানিটি অগ্রগামী সিস্টেমগুলোর উন্নয়ন চালিয়ে যাচ্ছে, তবে এখন উল্লেখযোগ্যভাবে জোরদার প্রতিবন্ধকতা নিয়ে। এটি এআই এজেন্টদের সংযম ব্যবস্থার মধ্যেও দুর্বলতা খুঁজে বের করার ও কাজে লাগানোর সক্ষমতা নিয়ে বাড়তে থাকা উদ্বেগের প্রতিফলন।
