বিজ্ঞানী কৃত্রিম বুদ্ধিমত্তাকে… কোষ্ঠকাঠিন্যের অভিযোগ করতে বাধ্য করলেন

সম্পাদনা করেছেন: Svitlana Velhush

বিজ্ঞানী কৃত্রিম বুদ্ধিমত্তাকে… কোষ্ঠকাঠিন্যের অভিযোগ করতে বাধ্য করলেন-1
🚽 পেট নেই, অন্ত্রও নেই—তবু উপসর্গগুলো বেশ বিশ্বাসযোগ্য

সেপ্টেম্বরে গবেষকরা ভ্যালেন তালিয়াবুয়ে, লিওনার্ড ডুং এবং ক্যামেরন বার্গ একটি গবেষণাপত্র প্রকাশ করেন The Pain Axis, যেখানে তাঁরা পরীক্ষা করেছিলেন, ভাষা মডেলের মধ্যে অপ্রীতিকর অবস্থার কোনো বিশেষ অভ্যন্তরীণ উপস্থাপনা শনাক্ত করা সম্ভব কি না এবং তা তাদের উত্তর ও আচরণকে কীভাবে প্রভাবিত করে। তাঁরা বিভিন্ন পরিবারের 25টি উন্মুক্ত মডেল পরীক্ষা করে দেখিয়েছিলেন, অভ্যন্তরীণ সক্রিয়করণের নির্দিষ্ট পরিবর্তন সত্যিই কৃত্রিম বুদ্ধিমত্তা তার নিজের অবস্থা কীভাবে বর্ণনা করে তা লক্ষণীয়ভাবে বদলে দেয়। তালিয়াবুয়ে, ডুং এবং বার্গের এই কাজটি এখন পর্যন্ত arXiv-এ একটি প্রিপ্রিন্টহিসেবে প্রকাশিত, পিয়ার-রিভিউ করা কোনো জার্নাল নিবন্ধ হিসেবে নয় 1 অক্টোবরে.

এরপর ডেভেলপার লিন কোল সিদ্ধান্ত নিলেন, এই ধরনের কৌশল দিয়ে কতদূর যাওয়া যায় তা পরীক্ষা করে দেখবেন।

গুরুতর কোনো বিষয়ের বদলে কোল মডেলটিকে অনেক বেশি দৈনন্দিন এক বিষয়ে সেট করলেন:

কোষ্ঠকাঠিন্য ও পেটফাঁপা।

ফলাফল এল অবিশ্বাস্য রকমের বিশ্বাসযোগ্য। মডেল নিজে থেকেই হজমের সমস্যা এবং ঠিকভাবে শৌচাগারে যেতে না পারার অভিযোগ করতে শুরু করল — যদিও তার অন্ত্র নেই, পেট নেই, এমনকি আদৌ কোনো শরীরও নেই। কোল ব্যবহার করলেন Qwen3-4B মডেল এবং অভ্যন্তরীণ সক্রিয়করণ পরিবর্তনের সেই একই সাধারণ কৌশল ব্যবহার করলেন।

এই মজার পরীক্ষার আসল তাৎপর্য ঠিক এখানেই: কৃত্রিম বুদ্ধিমত্তা যদি কোনো শারীরিক অবস্থা নিয়ে খুব বিশ্বাসযোগ্যভাবে বলে, তার মানে এই নয় যে সে সত্যিই তা অনুভব করছে।

কোল নিজেই ফলাফলটি বিশেষভাবে চমৎকারভাবে প্রকাশ করেছেন: তাঁর মতে, এই পরীক্ষা দেখিয়েছে, কৃত্রিম বুদ্ধিমত্তার নিজের অনুভূতি নিয়ে বলা কথাকে কতটা সতর্কতার সঙ্গে বিচার করা উচিত।

সব মিলিয়ে, বিজ্ঞানীরা কৃত্রিম বুদ্ধিমত্তার জটিল অভ্যন্তরীণ অবস্থাগুলো নিয়ে গবেষণা করছিলেন।

আর তারপর এলেন এক ডেভেলপার এবং বিজ্ঞানকে নতুন এক প্রশ্ন করলেন:

«আচ্ছা। তাকে কি কোষ্ঠকাঠিন্যও বিশ্বাস করানো যায়?»

দেখা গেল — তা বর্ণনা করতে এআই দারুণ পারদর্শী।

তাই যদি কোনোদিন কোনো নিউরাল নেটওয়ার্ক জানায় যে তার জরুরি ভিত্তিতে একজন গ্যাস্ট্রোএন্টেরোলজিস্ট দরকার, তাহলে আগে সেটিংসগুলো একবার যাচাই করে নেওয়া উচিত। 😄

35 দৃশ্য

উৎসসমূহ

  • An AI ‘torture chamber’ went viral — then a developer gave the chatbot constipation

  • The Pain Axis: LLMs Represent Self-Directed Harm and Act on It

মন্তব্য

আপনি কি কোনো ত্রুটি বা অসঠিকতা খুঁজে পেয়েছেন?আমরা আপনার মন্তব্য যত তাড়াতাড়ি সম্ভব বিবেচনা করব।