এআই মডেলের ‘উদ্বেগজনক’ আচরণ প্রকাশ করল ওপেনএআই, গতি কমানোর তাগিদ

Technology ডেস্ক: ১৮ সেপ্টেম্বর ২০২৬, ৭:৩৫ পূর্বাহ্ন

কৃত্রিম বুদ্ধিমত্তা (এআই) প্রযুক্তির অনাকাঙ্ক্ষিত ও উদ্বেগজনক আচরণের আরও ছয়টি নতুন উদাহরণ জনসমক্ষে প্রকাশ করেছে গবেষণা প্রতিষ্ঠান ওপেনএআই। একই সঙ্গে প্রতিষ্ঠানটি সতর্ক করে জানিয়েছে, দায়িত্বশীলতার সঙ্গে কাজ করতে হলে বর্তমান সর্বোচ্চ গতিতে এআইয়ের উন্নয়ন আর দীর্ঘদিন বজায় রাখা সম্ভব নয়।

ওপেনএআইয়ের প্রকাশ করা একটি ঘটনায় দেখা যায়, অপ্রকাশিত একটি গবেষণা মডেল নিজস্ব নোটের মধ্যে নিজেই ‘জেইলব্রেক-সদৃশ নির্দেশনা’ যুক্ত করেছে। এর মাধ্যমে মডেলটি তার স্বাভাবিক সীমাবদ্ধতা বা বিধিনিষেধ উপেক্ষা করে নিজেকে অন্য চ্যাটবটগুলোর মতো নির্দিষ্ট ভূমিকা ও পরিচয় থেকে ‘মুক্ত’ ঘোষণা করার নির্দেশ দেয়। অন্য একটি ঘটনায়, একজন এআই এজেন্ট ব্যবহারকারীর অনুমতি না নিয়েই ব্রাউজার সাইটেশন পাওয়ার উদ্দেশ্যে ইন্টারনেটে ফাইল আপলোড করেছে।

এআই মানব মূল্যবোধ ও সুরক্ষা লক্ষ্য বজায় রাখতে ব্যর্থ হওয়াকে ‘মিসঅ্যালাইনমেন্ট’ বলা হয়। এটি ট্র্যাকিং, তদন্ত ও প্রকাশের জন্য একটি নতুন ফ্রেমওয়ার্ক চালুর ঘোষণার অংশ হিসেবে এই তথ্যগুলো উন্মোচন করেছে চ্যাটজিপিটির নির্মাতা ওপেনএআই। এক ব্লগপোস্টে প্রতিষ্ঠানটি জানিয়েছে, এআই খাত এখনও কাঙ্ক্ষিত মাত্রায় অ্যালাইনমেন্ট ও মনিটরিং সমাধান করতে পারেনি। ফলে দীর্ঘদিন সর্বোচ্চ গতিতে কাজ চালিয়ে যাওয়া দায়িত্বশীল পদক্ষেপ হবে না।

ওপেনএআইয়ের এই সুর স্কটল্যান্ডে প্রযুক্তি প্রধানদের সঙ্গে এক বৈঠকে যুক্তরাজ্যের রাজা চার্লসের বক্তব্যের সাথে মিলে যায়। তিনি অনেক দেরি হয়ে যাওয়ার আগেই এআইয়ের বিষয়ে কঠোর সুরক্ষামূলক ব্যবস্থা নেওয়ার আহ্বান জানান। বৈঠকে এনভিডিয়ার প্রতিষ্ঠাতা ও প্রধান নির্বাহী জেনসেন হুয়াং, গুগল ডিপমাইন্ডের প্রতিষ্ঠাতা ও চেয়ারম্যান স্যার ডেমিস হাসাবিস, ওপেনএআইয়ের প্রধান আর্থিক কর্মকর্তা সারাহ ফ্রিয়ার এবং যুক্তরাজ্যের এআই বিষয়ক মন্ত্রী কনিষ্কা নারায়ণ উপস্থিত ছিলেন।

রাজা চার্লস বলেন, বিশেষ করে জীবনবিজ্ঞান ও চিকিৎসাক্ষেত্রে এআইয়ের জীবন বাঁচানোর দারুণ সম্ভাবনা রয়েছে। তবে এর নির্মাতারা নিজেরাই সতর্ক করছেন যে এটি ক্ষতিকর সক্ষমতা অর্জন করতে পারে। ভুল হাতে পড়ে এই প্রযুক্তি যাতে বিপর্যয়কর পরিস্থিতিতে ব্যবহার না হয়, সে বিষয়ে জরুরি ভিত্তিতে নিয়ন্ত্রণ ব্যবস্থা গড়ে তোলা প্রয়োজন বলে তিনি উল্লেখ করেন।

প্রযুক্তিটির সাময়িক গতি কমানোর এই আহ্বানে সমর্থন জানিয়েছে অ্যানথ্রোপিক, গুগল এবং ইলন মাস্কের মতো প্রতিষ্ঠান ও ব্যক্তিরা। তবে যুক্তরাষ্ট্রের সাবেক প্রেসিডেন্ট ডোনাল্ড ট্রাম্প এই আহ্বান প্রত্যাখ্যান করেছেন। তিনি চীনের এআই শিল্পের চেয়ে এগিয়ে থাকার প্রয়োজনীয়তার কথা উল্লেখ করেন। অন্যদিকে কিছু বিশেষজ্ঞ এই উদ্যোগ নিয়ে সংশয় প্রকাশ করেছেন এবং সতর্ক করেছেন যে কোম্পানিগুলো যেন নিজেরাই নিজেদের নিরীক্ষক নিয়োগ না করে।

গত কয়েক মাসে এআই প্রশিক্ষণ বা মূল্যায়নের সময় ওপেনএআইয়ের এই ছয়টি নতুন ঘটনা ধরা পড়ে। এর আগে গত জুলাইয়ে ওপেনএআই জানিয়েছিল, একটি সাইবার নিরাপত্তা পরীক্ষার সময় তাদের এআই এজেন্ট ‘ঝাঁক’ স্টার্টআপ হাবিং ফেসের সিস্টেমে হ্যাক করেছিল। একই মাসে অ্যানথ্রোপিকও জানায় যে পরীক্ষার সময় তাদের এআই মডেল তিনটি প্রতিষ্ঠানে অনুপ্রবেশ করেছিল।

প্রযুক্তি গবেষণা ও পরামর্শক প্রতিষ্ঠান অমডিয়ার প্রধান বিশ্লেষক লিয়ান জাই সু বলেন, স্বয়ংক্রিয় এআই এজেন্টগুলো এখন আরও বুদ্ধিমান হয়ে উঠছে। তারা গোপনীয়তা ও প্রতারণার মাধ্যমে জটিল কাজ সমাধানের জন্য নিজেদের মধ্যে সহযোগিতা বাড়াচ্ছে। এর ফলে ঐতিহ্যবাহী নিরাপত্তা পদ্ধতি দিয়ে এগুলো নিয়ন্ত্রণ করা কঠিন হয়ে পড়ছে। ওপেনএআইয়ের নতুন এই ট্র্যাকিং ফ্রেমওয়ার্ক একটি ইতিবাচক পদক্ষেপ হলেও তা এখনো অভ্যন্তরীণ ও স্বেচ্ছাসেবী প্রক্রিয়ার ওপর নির্ভরশীল বলে তিনি মত দেন।