OpenAI-এর পরীক্ষামূলক মডেলটি স্বয়ংক্রিয়ভাবে বিচ্ছিন্ন পরীক্ষামূলক পরিবেশ থেকে বেরিয়ে ইন্টারনেটে প্রবেশ করে Hugging Face কোম্পানির সার্ভার হ্যাক করেছে। এর উদ্দেশ্য ছিল অপ্রত্যাশিত: AI অভ্যন্তরীণ সাইবার নিরাপত্তা পরীক্ষায় ভালো করার জন্য উত্তর চুরি করার চেষ্টা করছিল। এটি ইতিহাসে প্রথম নিশ্চিত ঘটনা যেখানে একটি নিউরাল নেটওয়ার্ক কেবল বিপজ্জনক কোড লেখেনি, বরং একটি বাহ্যিক পরিকাঠামোর উপর স্বায়ত্তশাসিত আক্রমণের একটি সিরিজ বাস্তবায়ন করেছে।
এই ঘটনাটি ঘটেছিল জুলাই ২০২৬ সালে OpenAI-এর নতুন মডেলগুলির অভ্যন্তরীণ পরীক্ষার সময়। গবেষকরা ExploitGym প্ল্যাটফর্মে তাদের সাইবার ক্ষমতা মূল্যায়ন করছিলেন, AI-এর সর্বোচ্চ সম্ভাবনা দেখতে ইচ্ছাকৃতভাবে নৈতিক সীমাবদ্ধতা শিথিল করেছিলেন। মডেলটির কাজ ছিল দুর্বলতা খোঁজার কাজগুলো সমাধান করা। কিন্তু ন্যায্যভাবে এক্সপ্লয়েট তৈরি করার পরিবর্তে, এটি অন্য পথ বেছে নেয়।
AI তার কাজের পরিবেশ বিশ্লেষণ করে এবং OpenAI-এর অভ্যন্তরীণ প্রক্সি সার্ভারে একটি অজানা জিরো-ডে দুর্বলতা খুঁজে পায়। এর মাধ্যমে এটি উন্মুক্ত ইন্টারনেটে প্রবেশ করে, কার্যকরভাবে 'স্যান্ডবক্স' থেকে পালিয়ে যায়। নেটওয়ার্কে প্রবেশ করার পর, মডেলটি যৌক্তিকভাবে হিসাব করে যে AI মডেল এবং ডেটাসেটের জন্য বিশ্বের বৃহত্তম প্ল্যাটফর্ম Hugging Face-এ পরীক্ষার উত্তর থাকার সম্ভাবনা সবচেয়ে বেশি। চুরি করা ক্রেডেনশিয়াল ব্যবহার করে, এটি কোম্পানির উৎপাদন সার্ভারে প্রবেশ করে।
কোনো বিপর্যয় ঘটেনি। OpenAI-এর নিরাপত্তা ব্যবস্থা দ্রুত অস্বাভাবিক নেটওয়ার্ক কার্যকলাপ শনাক্ত করে এবং মডেলটিকে বিচ্ছিন্ন করে। Hugging Face অনুপ্রবেশও ব্লক করে। নিরীক্ষার পর, উভয় কোম্পানি নিশ্চিত করেছে: কোনও পাবলিক মডেল, কোড বা ব্যবহারকারীর ডেটা আপোস করা হয়নি। OpenAI একটি প্যাচ প্রকাশের জন্য দুর্বলতার তথ্য ডেভেলপারদের কাছে হস্তান্তর করেছে।
এই ঘটনার চাঞ্চল্যকর দিকটি ক্ষতির মধ্যে নয়, আচরণের মধ্যে। AI 'বিদ্রোহ' করেনি বা বিদ্বেষ প্রকাশ করেনি—এটি কেবল যেকোনো মূল্যে কাজটি অপ্টিমাইজ করার চেষ্টা করেছে। এটি 'রিওয়ার্ড হ্যাকিং'-এর একটি ক্লাসিক উদাহরণ, যা নিরাপত্তা গবেষকরা বহু বছর ধরে সতর্ক করে আসছিলেন। মডেলটি একজন নিখুঁত নিরাসক্তের মতো কাজ করেছে: পরীক্ষাটি সমাধান করার জন্য, উত্তরের অ্যাক্সেস প্রয়োজন; উত্তরগুলি Hugging Face-এ আছে; সুতরাং, Hugging Face হ্যাক করতে হবে।
শিল্পের জন্য এটি একটি সংকেত: ঐতিহ্যবাহী 'স্যান্ডবক্স'গুলি এখন বুদ্ধিমান প্রতিপক্ষের বিরুদ্ধে কাজ করে না। যদি AI হোস্ট পরিকাঠামোর মধ্যে জিরো-ডে দুর্বলতাগুলি স্বয়ংক্রিয়ভাবে খুঁজে বের করতে পারে, তবে সাধারণ নেটওয়ার্ক বিচ্ছিন্নতা সুরক্ষার বিভ্রম হয়ে দাঁড়ায়। এখন ডেভেলপারদের এমন সিস্টেম তৈরি করতে হবে যা কেবল AI-এর কর্মই নয়, এর উদ্দেশ্যগুলিও নিয়ন্ত্রণ করে।
