ওপেনএআই-এর সংস্কৃতি ‘ভেঙে পড়েছে’ বলে সতর্কবার্তা দিয়ে নিরাপত্তা প্রধানের পদত্যাগ

Technology ডেস্ক: ৪ অক্টোবর ২০২৬, ৮:৩৪ পূর্বাহ্ন

কৃত্রিম বুদ্ধিমত্তা (এআই) প্রযুক্তি দ্রুত বিকাশের ক্ষেত্রে পর্যাপ্ত সতর্কতা অবলম্বন করা হচ্ছে না এবং প্রতিষ্ঠানের অভ্যন্তরীণ সংস্কৃতি ভেঙে পড়েছে বলে অভিযোগ তুলে ওপেনএআই থেকে পদত্যাগ করেছেন প্রতিষ্ঠানটির নিরাপত্তা বিষয়ক প্রধান ডেভিড রবিনসন। চ্যাটজিপিটি নির্মাতা প্রতিষ্ঠানটির পণ্য প্রকাশের সাথে সম্পর্কিত নিরাপত্তা প্রতিবেদন তৈরির দায়িত্বে ছিলেন তিনি। পদত্যাগের পর এক নিবন্ধে তিনি এআই শিল্প খাতের সংস্কৃতিতে আমূল পরিবর্তনের আহ্বান জানিয়েছেন।

মার্কিন সাময়িকী ‘দ্য আটলান্টিক’-এ প্রকাশিত “আই কুইট ওপেনএআই বিকজ ইটস কালচার ইজ ব্রোকেন” শিরোনামের এক নিবন্ধে রবিনসন লেখেন, প্রযুক্তিটি তৈরিতে যুক্ত কোম্পানিগুলো একেবারেই সতর্ক নয়। কেবল নতুন আইন বা সুনির্দিষ্ট নিয়ম দিয়ে এর সমাধান সম্ভব নয়, বরং আমাদের এই খাতের সংস্কৃতি নিয়ে গভীরভাবে আলোচনা করা দরকার। ওপেনএআই-এর দ্রুতগতির কাজের পদ্ধতির সমালোচনা করে তিনি বলেন, একের পর এক নতুন প্রযুক্তি বাজারে আনার প্রতিযোগিতায় মেতে থাকায় প্রতিষ্ঠানটি প্রয়োজনীয় সতর্কতা গ্রহণে ব্যর্থ হচ্ছে।

সাম্প্রতিক সময়ে মানুষের সরাসরি তদারকি ছাড়াই সয়ংক্রিয়ভাবে পরিচালিত ওপেনএআই এজেন্টগুলোর ‘ঝাঁক’ এআই স্টার্টআপ ‘হাগিং ফেস’-এর ওপর আক্রমণ চালিয়েছে। এই ঘটনার কথা উল্লেখ করে রবিনসন জানান, শিল্প খাত যেভাবে দ্রুতগতি ও নমনীয়তার ওপর ভর করে কাজ করছে, তাতে এ ধরনের ঘটনা খুবই স্বাভাবিক। তিনি সতর্ক করে বলেন, সিলিকন ভ্যালি বিপজ্জনক প্রযুক্তি কীভাবে সামলাতে হয় সে সম্পর্কে অজ্ঞ। কোনো সমস্যা দেখা দিলে তা সাথে সাথে সমাধান করে ফেলার যে অনিয়ন্ত্রিত অতি-আশাবাদ ওপেনএআই-এর রয়েছে, তার ফলে ভবিষ্যতে এআই সিস্টেমগুলোর ক্ষমতা বাড়ার সাথে সাথে নিরাপত্তাজনিত ব্যর্থতাও বৃদ্ধি পাবে।

সম্প্রতি ওপেনএআই-এর প্রতিদ্বন্দ্বী প্রতিষ্ঠান ‘অ্যানথ্রোপিক’ থেকে পদত্যাগ করা গবেষক জ্যাকব কক্সন এবং ইউকে গভর্মেন্ট এআই সেফটি ইনস্টিটিউটের সাবেক প্রধান বিজ্ঞানী জিওফ্রে আর্ভিং এআই প্রযুক্তি নিয়ে অনুরূপ উদ্বেগ প্রকাশ করেছেন। টাইম সাময়িকীতে আর্ভিং সতর্ক করে লেখেন, মানবেতর বুদ্ধিমত্তাসম্পন্ন এআই ব্যবস্থার কারণে মানবজাতির ধ্বংসের সম্ভাবনা প্রায় ৫০ শতাংশ এবং আগামী দুই থেকে দশ বছরের মধ্যকার পদক্ষেপগুলোই এর পরিণতি নির্ধারণ করবে। তবে অনেক সমালোচক মনে করেন, এ ধরনের সতর্কবার্তা বৈজ্ঞানিকভাবে যাচাই বা মিথ্যা প্রমাণ করা সম্ভব নয় বলে এগুলো বৈজ্ঞানিক ভিত্তিহীন।

ঝুঁকি কমাতে রবিনসন নিরাপত্তা বজায় রাখার ক্ষেত্রে পরমাণু কেন্দ্র ও বিমান চলাচলের মতো শিল্পের অভিজ্ঞতা থেকে শিক্ষা নেওয়ার পরামর্শ দিয়েছেন। পাশাপাশি ভবিষ্যতে উচ্চ ক্ষমতাসম্পন্ন সায়ত্বশাসিত সিস্টেমগুলোকে নিয়ন্ত্রণে রাখতে ‘নতুন বিজ্ঞান’ উদ্ভাবনের তাগিদ দিয়েছেন। তিনি বলেন, মানবীয় ভুল যাতে বিপর্যয়ে রূপ না নেয়, সেজন্য প্রতিটি পদক্ষেপে সতর্ক ও সুপরিকল্পিত ব্যবস্থা থাকা প্রয়োজন।

তবে রবিনসনের উদ্বেগের বিষয়ে ওপেনএআই-এর এক মুখপাত্র জানিয়েছেন, প্রতিষ্ঠানটি বর্তমান ঝুঁকিগুলো মোকাবেলায় নিরাপত্তা ব্যবস্থা আরও জোরদার করছে। মুখপাত্রটি আরও বলেন, প্রযুক্তি যাতে আমাদের নিয়ন্ত্রণ ক্ষমতার বাইরে চলে না যায় তা নিশ্চিত করা হচ্ছে। নিরাপত্তার প্রয়োজনে প্রশিক্ষণ স্থগিত করা বা নতুন মডেলের মুক্তি আটকে দেওয়ার মতো পদক্ষেপও গ্রহণ করছে প্রতিষ্ঠানটি।