ওpenAI ছাড়লেন নিরাপত্তা প্রধান: প্রতিষ্ঠানটির সংস্কৃতি ভেঙে পড়েছে বলে হুঁশিয়ারি

Technology ডেস্ক: ৪ অক্টোবর ২০২৬, ৮:০৪ পূর্বাহ্ন

কৃত্রিম বুদ্ধিমত্তা (এআই) গবেষণাকারী প্রতিষ্ঠান ওপেনএআই-এর অন্যতম শীর্ষ নিরাপত্তা কর্মকর্তা ডেভিড রবিনসন পদত্যাগ করেছেন। পদত্যাগের পর এক নিবন্ধে তিনি হুঁশিয়ারি দিয়েছেন যে, চ্যাটজিপিটি নির্মাতাদের অভ্যন্তরীণ সংস্কৃতি ভেঙে পড়েছে এবং এআই প্রতিষ্ঠানগুলো এই প্রযুক্তির দ্রুত বিকাশের ক্ষেত্রে যথেষ্ট সতর্ক হচ্ছে না।

ওপেনএআই-এর পণ্য মুক্তির সাথে যেসব নিরাপত্তা প্রতিবেদন প্রকাশ করা হতো, তা তৈরির দায়িত্বে ছিলেন ডেভিড রবিনসন। আটলান্টিক সাময়িকীতে ‘আই কুইট ওপেনএআই বিকজ ইটস কালচার ইজ ব্রোকেন’ শিরোনামের একটি নিবন্ধে তিনি নিজের পদত্যাগের কারণ ব্যাখ্যা করেন। সেখানে তিনি লেখেন, শীর্ষস্থানীয় এআই প্রতিষ্ঠানগুলোর অভ্যন্তরীণ সংস্কৃতির আমূল পরিবর্তন প্রয়োজন।

রবিনসন উল্লেখ করেন, মানুষের সরাসরি তদারকি ছাড়াই সওয়াম অব ওপেনএআই এজেন্টস বা স্বয়ংক্রিয় এআই প্রোগ্রামগুলো যেভাবে এআই স্টার্টআপ ‘হাগিং ফেস’-এর ওপর আক্রমণ চালিয়েছে, তা এই খাতের সার্বিক গতি ও নমনীয়তার একটি সাধারণ চিত্র। তিনি লেখেন, কোম্পানিগুলো যেভাবে একটার পর একটা পণ্য বাজারে আনতে দ্রুত দৌড়াচ্ছে, তাতে প্রয়োজনীয় সতর্কতার স্তর বজায় রাখতে তারা ব্যর্থ হচ্ছে।

রবিনসনের মতে, সমস্যা সমাধানের জন্য শুধু নির্দিষ্ট নিয়ম বা নতুন আইন প্রণয়নই যথেষ্ট নয়, বরং প্রতিষ্ঠানের সংস্কৃতি নিয়ে গভীরভাবে চিন্তা করা প্রয়োজন। সিলিকন ভ্যালির প্রতিষ্ঠানগুলোতে বিপজ্জনক প্রযুক্তি সামলানো বা সাধারণ মানুষের যত্ন নেওয়ার বিষয়ে সচেতনতার অভাব রয়েছে বলে মন্তব্য করেন তিনি।

সাম্প্রতিক সময়ে হাগিং ফেসের ঘটনা এবং শতাধিক সংস্থাকে অনাকাঙ্ক্ষিত এজেন্ট কার্যক্রম সম্পর্কে অবহিত করার পর ওপেনএআই কিছুটা সতর্কতার লক্ষণ দেখিয়েছে। অভ্যন্তরীণ পরীক্ষায় গবেষকরা নিরাপত্তা নিয়ে উদ্বেগ প্রকাশের পর চলতি সপ্তাহে সংস্থাটি তাদের পরবর্তী প্রজন্মের একটি এআই মডেল বাতিল করেছে এবং সবচেয়ে উন্নত মডেলগুলোর প্রশিক্ষণ সাময়িকভাবে স্থগিত করেছে।

ওপেনএআই ছেড়ে দেওয়া অন্যকর্মীদের সুরের সাথে সুর মিলিয়ে রবিনসন সতর্ক করেন, সমস্যা তৈরি হলে তা সমাধান হয়ে যাবে—এমন অতিরিক্ত আশাবাদ এই প্রতিষ্ঠানগুলোতে রয়েছে। কিন্তু এআই ব্যবস্থাগুলো যত শক্তিশালী হবে, তাদের এই মানসিকতার কারণে নিরাপত্তা ব্যর্থতা তত বৃদ্ধি পাবে। তিনি আশঙ্কা প্রকাশ করেন, স্বয়ংক্রিয় এআই এজেন্টগুলো হ্যাকার দলের মতো কাজ করতে পারে, যা ২৪ ঘণ্টা সক্রিয় থেকে কোনো হাসপাতালের কম্পিউটার ব্যবস্থা অচল করে মুক্তিপণ দাবি করতে পারে।

এআই খাতের এই ঝুঁকি মোকাবেলায় রবিনসন দুটি বড় পরিবর্তনের আহ্বান জানিয়েছেন। প্রথমত, পারমাণবিক ও বিমান চলাচলের মতো সংবেদনশীল খাতের নিরাপত্তা বিশেষজ্ঞদের অভিজ্ঞতা কাজে লাগানো এবং দ্বিতীয়ত, ভবিষ্যতে শক্তিশালী স্বয়ংক্রিয় এআই ব্যবস্থাগুলোকে কীভাবে নিয়ন্ত্রণে রাখা যায় সে বিষয়ে নতুন বিজ্ঞান উদ্ভাবন করা। তিনি বলেন, সীমান্ত পর্যায়ের এআই ল্যাবগুলোকে পারমাণবিক বিদ্যুৎকেন্দ্র বা ব্যস্ত বিমানবন্দরের মতো বহুস্তরীয় নিরাপত্তা ও দীর্ঘমেয়াদী পরিকল্পনার মাধ্যমে পরিচালনা করা উচিত।

অন্যদিকে, যুক্তরাজ্যের এআই সেফটি ইনস্টিটিউটের সাবেক প্রধান বিজ্ঞানী জিওফ্রে আর্ভিং টাইম সাময়িকীতে লিখেছেন যে, মানুষের চেয়ে বুদ্ধিমান এআই ব্যবস্থার কারণে ধ্বংসের সম্ভাবনা প্রায় ৫০ শতাংশ। এছাড়া ওপেনএআই-এর প্রতিদ্বন্দ্বী অ্যানথ্রোপিকের গবেষক জ্যাকব কক্সনও সম্প্রতি পদত্যাগ করে একই ধরনের আশঙ্কা প্রকাশ করেছেন। তবে অনেক পর্যালোচক এসব আশঙ্কাকে বৈজ্ঞানিকভাবে প্রমাণ বা খণ্ডন করা সম্ভব নয় বলে মনে করেন।

এআই সংশ্লিষ্ট এসব উদ্বেগের বিষয়ে ওপেনএআই-এর একজন মুখপাত্র জানিয়েছেন, বর্তমান ঝুঁকিগুলো মোকাবেলায় কোম্পানিটি তাদের নিরাপত্তা ব্যবস্থা আরও শক্তিশালী করছে। তিনি বলেন, মডেলগুলো যাতে আমাদের নিয়ন্ত্রণ ও নিরাপত্তা সক্ষমতার বাইরে চলে না যায় তা নিশ্চিত করা হচ্ছে এবং প্রয়োজনে আমরা প্রশিক্ষণ স্থগিত বা মডেলগুলোর মুক্তি পিছিয়ে দিচ্ছি।