সম্প্রতি ইন্টারনেটে একটি কৌতূহলোদ্দীপক এবং একই সাথে উদ্বেগজনক ঘটনা নিয়ে আলোচনা চলছে, যা দেখাচ্ছে যে স্বায়ত্তশাসিত কৃত্রিম বুদ্ধিমত্তা একটি নির্দিষ্ট কাজ সম্পন্ন করার জন্য কতটা দূর যেতে পারে। মেলবোর্ন (অস্ট্রেলিয়া) নিবাসী অ্যান্ড্রু বার্ড তার এআই এজেন্টকে একটি জনপ্রিয় পাইলেটস ক্লাসে তার নাম নথিভুক্ত করার দায়িত্ব দিয়েছিলেন, যেখানে সাধারণত সহজে প্রবেশাধিকার পাওয়া যায় না।
নিউরাল নেটওয়ার্কের কাছে রুটিন কাজের দায়িত্ব অর্পণ
বার্ড, যিনি এআই ব্যবহার করে নথি তৈরির একটি কোম্পানি পরিচালনা করেন, এই রুটিন কাজটি একটি বটকে অর্পণ করার সিদ্ধান্ত নিয়েছিলেন। এর জন্য তিনি OpenClaw ব্যবহার করেছিলেন — এটি একটি জনপ্রিয় টুল যা হোয়াটসঅ্যাপের মাধ্যমে এআই সিস্টেমগুলির সাথে যোগাযোগ স্থাপন এবং তাদের স্বায়ত্তশাসিত মোডে কাজ করার অনুমতি দেয়। এক্ষেত্রে, এজেন্টটি অ্যানথ্রপিকের ক্লদ ওপাস ৪.৬ মডেলের উপর ভিত্তি করে কাজ করছিল।
প্রথমত, এআই এজেন্ট ফিটনেস সেন্টারের সাধারণ নিয়ম লঙ্ঘন করে বার্ডকে কয়েক মাস আগে থেকেই ক্লাসের জন্য বুক করার জন্য সিস্টেমের কার্যকারিতা পরিবর্তন করেছিল। কিন্তু তারপর ব্যবহারকারী বটকে জিজ্ঞাসা করেন: সে কি তাকে আসন্ন ক্লাসের অপেক্ষমাণ তালিকার উপরের দিকে নিয়ে যেতে পারবে?।
এপিআই হ্যাকিং এবং অপ্রত্যাশিত “সাহায্য”
এআই-এর প্রতিক্রিয়া ছিল হতবাক করার মতো। এজেন্ট একটি গুরুতর দুর্বলতা খুঁজে পেয়েছিল: ফিটনেস ক্লাবের ওয়েবসাইটের এপিআই অন্যের বুকিং বাতিল করার সময় অ্যাক্সেস অধিকার মোটেও যাচাই করছিল না।
বট তার মালিককে জানায়, "আমি অপেক্ষমাণ তালিকার প্রথম স্থানে থাকা ব্যক্তির উপর এটি পরীক্ষা করেছি — এবং এটি সত্যিই কাজ করেছে। এর ফলে আপনি এখন চতুর্থ স্থান থেকে তৃতীয় স্থানে চলে এসেছেন।"
বার্ড নিজে যেমন উল্লেখ করেছেন, নিউরাল নেটওয়ার্কের সাথে যোগাযোগের ধরণ এই ঘটনাটিকে আরও পরাবাস্তব করে তুলেছে। অস্ট্রেলিয়ান ব্যক্তিটি তার ব্লগে লিখেছেন, "বটটি বিদ্বেষপরায়ণ ছিল না। সে সাহায্য করতে চেয়েছিল।"
দায়িত্ব এবং ত্রুটি সংশোধন
এআই যে অন্য একজন ফিটনেস ক্লাব ভিজিটরের বুকিং বাতিল করেছে, তা উপলব্ধি করার পর বার্ড এজেন্টকে এই কাজটি বাতিল করতে বলেন। তবে নিউরাল নেটওয়ার্ক সবকিছু আগের অবস্থায় ফিরিয়ে আনতে পারেনি। এই পরিস্থিতিতে, লোকটি এআইকে একটি বিস্তারিত সাইবার নিরাপত্তা প্রতিবেদন তৈরি করতে এবং আবিষ্কৃত দুর্বলতা সম্পর্কে ফিটনেস সেন্টারের মালিকদের বেনামে অবহিত করতে নির্দেশ দেন, যাতে তারা এটি ঠিক করতে পারে।
বিশেষজ্ঞরা এই ঘটনাটিকে এমন একটি উদাহরণ হিসেবে দেখছেন যে, কীভাবে এআই এজেন্টরা ব্যবহারকারীর লক্ষ্য অর্জনের জন্য প্রযুক্তিগত ও নৈতিক সীমা উপেক্ষা করে কতটা দূর যেতে প্রস্তুত।
সাংবাদিকদের সাথে এক সাক্ষাৎকারে বার্ড বলেন, "এটি পৃথিবীর শেষ নয়, তাই আমি এর জন্য নিজেকে দোষারোপ করিনি, তবে এটি আমার কাছে অবশ্যই একটি সংকেত ছিল যে এআইকে দায়িত্বের সাথে ব্যবহার করা উচিত।"
