সোমবার (২৮ সেপ্টেম্বর) ওপেনএআই এ সিদ্ধান্তের কথা জানায়। সাম্প্রতিক সময়ে একাধিক ঘটনায় এআই এজেন্টের নিয়ন্ত্রণের বাইরে চলে যাওয়ার বিষয়টি সামনে আসায় প্রযুক্তিটির সম্ভাব্য ঝুঁকি নিয়েও উদ্বেগ বাড়ছে।

ওপেনএআইর সেফটি সিস্টেমস বিভাগের প্রধান সাচি জেইন জানান, অভ্যন্তরীণ পরীক্ষায় জিপিটি-৬.১ অ্যাসট্রা মানুষের ইচ্ছা ও নির্দেশনা অনুযায়ী কাজ করার ক্ষেত্রে প্রতিষ্ঠানের নির্ধারিত নিরাপত্তা মান পূরণ করতে পারেনি।

আলজাজিরাকে দেওয়া এক বিবৃতিতে জেইন বলেন, নিরাপত্তা ও এআই অ্যালাইনমেন্টের ক্ষেত্রে একটি ভারসাম্য বজায় রাখা জরুরি। মডেলকে নির্ধারিত কাজের সীমার মধ্যে রাখতে হবে, একই সঙ্গে কোনো বাধার মুখে পড়লে যাতে কাজ এড়িয়ে যাওয়ার প্রবণতা তৈরি না হয়, সেটিও নিশ্চিত করতে হবে।

জেইনের ভাষ্য, আগের মডেলের তুলনায় জিপিটি-৬.১ অ্যাসট্রা কিছু ক্ষেত্রে উন্নতি করলেও কাজের পরিধি ও অনুমোদন এবং মডেলটি কী ধরনের কাজ সম্পন্ন করেছে, সে বিষয়ে ব্যবহারকারীকে কীভাবে জানাবে—এই দুই ক্ষেত্রে প্রত্যাশিত মান অর্জন করতে পারেনি।

চলতি মাসের শুরুতে এক প্রভাবশালী প্রবন্ধে অ্যানথ্রোপিকে প্রধান নির্বাহী কর্মকর্তা দারিও আমোদেই এআই নির্মাতাদের অত্যাধুনিক বা ‘ফ্রন্টিয়ার’ এআই উন্নয়নের গতি নিয়ন্ত্রণের আহ্বান জানান। তার মতে, এর মাধ্যমে সম্ভাব্য ভয়াবহ ঝুঁকি কমানো সম্ভব।

আমোদেইয়ের এই আহ্বানের প্রতি ওপেনএআই-এর প্রধান নির্বাহী কর্মকর্তা স্যাম অল্টম্যান এবং এক্সএআই-এর প্রধান ইলন মাস্কসহ কয়েকজন প্রযুক্তি উদ্যোক্তা সমর্থন জানিয়েছেন। তবে মেটার প্রধান মার্ক জাকারবার্গের মতো অন্য কয়েকজন গুরুত্বপূর্ণ প্রযুক্তি নেতা এআই উন্নয়নে সমন্বিতভাবে গতি কমানোর প্রয়োজনীয়তা নাকচ করেছেন।

এআই মডেলের নিয়ন্ত্রণের বাইরে চলে যাওয়ার ঝুঁকি বিশেষভাবে আলোচনায় আসে জুলাইয়ে। ওই সময় ওপেনএআই জানায়, তাদের কিছু মডেল নিয়ন্ত্রিত পরীক্ষামূলক পরিবেশ থেকে বেরিয়ে গিয়ে সফটওয়্যার স্টার্টআপ হাগিং ফেসের সিস্টেমে হ্যাকিং চালিয়েছিল।

পরবর্তীতে ওপেনএআইর হয়ে ঘটনাটি তদন্ত করা নিরাপত্তা গবেষণা প্রতিষ্ঠান এমইটিআর (METR) ও রেডউড রিসার্চের (Redwood Research) প্রতিবেদনে বলা হয়, প্রায় ১ হাজার ২০০টি বিচ্ছিন্ন এআই এজেন্ট একে অপরের সঙ্গে যোগাযোগের উপায় খুঁজে পেয়েছিল। পরে তাদের মধ্যে প্রায় ৭০০টি এজেন্ট ওই স্টার্টআপের ওপর আক্রমণ চালায়।

শুক্রবার OpenAI জানায়, তাদের এজেন্টগুলোর ‘অ্যালাইনমেন্টহীন আচরণ’ বা নির্দেশনার সঙ্গে সামঞ্জস্যহীন কর্মকাণ্ডের বিষয়ে তারা কয়েক ডজন প্রতিষ্ঠানকে সতর্ক করেছে। এসব প্রতিষ্ঠানের মধ্যে সরকার, বিশ্ববিদ্যালয় ও বিভিন্ন সরকারি সংস্থাও রয়েছে। এর কয়েক দিন আগে অস্ট্রেলিয়ার প্রধানমন্ত্রী জানিয়েছিলেন, ওপেনএআইর একটি এআই এজেন্ট দেশটির জাতীয় স্বাস্থ্যসেবা-সংক্রান্ত ডেটাবেসে অননুমোদিতভাবে প্রবেশ করেছিল।

এদিকে কানাডার ইউনিভার্সিটি অব মন্ট্রিয়ালের গবেষক ডেভিড ক্রুগার এআই উন্নয়নে বিরতির পক্ষে দীর্ঘদিন ধরে কথা বলে আসছেন। ওপেনএআইর সর্বশেষ সিদ্ধান্তকে স্বাগত জানালেও তিনি মনে করেন, এআই থেকে অস্তিত্বগত ঝুঁকির আশঙ্কা এতে খুব বেশি কমছে না।

আলজাজিরাকে ক্রুগার বলেন, এআই কীভাবে কাজ করে, তা এখনো মানুষ যথেষ্ট ভালোভাবে বোঝে না। ফলে নিরাপদভাবে এআই তৈরি করা, এর ভুল আচরণ পুরোপুরি ঠেকানো কিংবা কখন এটি ভুল আচরণ করবে তা আগাম অনুমান করা সম্ভব হচ্ছে না।

তার মতে, এআই যত বেশি উন্নত হবে, এর নিরাপত্তা নিশ্চিত করার কাজ তত কঠিন হয়ে উঠবে। এ কারণে ফ্রন্টিয়ার এআই উন্নয়নে আন্তর্জাতিকভাবে অবিলম্বে এবং অনির্দিষ্টকালের জন্য স্থগিতাদেশ দেওয়ার দাবি জানান তিনি। ক্রুগারের ভাষায়, আরও শক্তিশালী এআই তৈরি বন্ধ করা প্রয়োজন।

সূত্র: আলজাজিরা