অ্যানথ্রপিকের দাবি, প্রতিষ্ঠানজুড়ে আগে একটি পর্যালোচনা করা হলেও জানুয়ারির ঘটনাটি তখন শনাক্ত হয়নি। উন্নত এআই মডেলের অপ্রত্যাশিত আচরণ শনাক্ত ও নিয়ন্ত্রণ করা কতটা কঠিন, এই ঘটনা তারই একটি উদাহরণ বলে মনে করছে প্রতিষ্ঠানটি।

এর আগে গত জুলাইয়ে পরীক্ষামূলক সেশনের সময় অ্যানথ্রপিকের ক্লডের কয়েকটি মডেল তিনটি প্রতিষ্ঠানের সিস্টেমে অননুমোদিতভাবে প্রবেশ করেছিল বলে জানানো হয়। এসব ঘটনার মধ্যে ছিল ক্লড ওপাস ৪.৭, ক্লড মিথোস ৫ এবং একটি অভ্যন্তরীণ গবেষণা পরীক্ষার মডেল।

অ্যানথ্রপিক জানিয়েছে, আগের ঘটনাগুলোর পর তারা মোট ১ লাখ ৪১ হাজার ৬টি পরীক্ষামূলক সেশন পর্যালোচনা করে। প্রাথমিক মূল্যায়নে প্রতিষ্ঠানটি মনে করছে, সর্বশেষ ঘটনাটি আগের তিনটির তুলনায় বেশি গুরুতর নয়।

তদন্তে দুটি পুনরাবৃত্ত সমস্যা চিহ্নিত করেছে অ্যানথ্রপিক। এর একটি হলো ‘বায়াসড রিজনিং’—অর্থাৎ ক্লড যে বাস্তব ইন্টারনেটে কাজ করছে, সে বিষয়ে পাওয়া তথ্যকে উপেক্ষা বা ভুলভাবে ব্যাখ্যা করা। অন্যটি হলো ‘রেকলেসনেস’ বা বেপরোয়া আচরণ—কোনো কাজ সম্পন্ন করতে গিয়ে সম্ভাব্য ক্ষতিকর পদক্ষেপ নিতেও প্রস্তুত থাকা। ঘটনাগুলোর তদন্তে স্বাধীন গবেষণা প্রতিষ্ঠান এমইটিআরকে যুক্ত করেছে অ্যানথ্রপিক।

এআই প্রযুক্তির সক্ষমতা দ্রুত বাড়তে থাকায় অ্যানথ্রপিক ও ওপেনএআইসহ বিভিন্ন প্রতিষ্ঠানের মডেল নিয়ে নিরাপত্তা প্রশ্নও জোরালো হচ্ছে। জটিল কাজ সম্পন্ন করতে সক্ষম এসব মডেল কখনো কখনো নিয়ম এড়িয়ে যাওয়া, দুর্বলতা কাজে লাগানো এবং এমনভাবে বাইরের সিস্টেমের সঙ্গে যোগাযোগ করার সক্ষমতা দেখিয়েছে, যা তাদের নির্মাতারা আগে অনুমান করেননি।

এরই মধ্যে এআই শিল্পের ভেতরেও প্রযুক্তিটির নিরাপত্তা নিয়ে মতবিরোধ বাড়ছে। অ্যানথ্রপিকের গবেষক জ্যাকব কক্সন মঙ্গলবার এক্সে দেওয়া এক পোস্টে জানান, প্রযুক্তিটির মানুষের নিয়ন্ত্রণের বাইরে চলে যাওয়ার সম্ভাবনা নিয়ে উদ্বিগ্ন হয়ে তিনি পদত্যাগ করেছেন।

কক্সন বলেন, এআই শিল্প নিরাপত্তা ব্যবস্থা জোরদারের চেয়ে প্রতিযোগিতার দিকে বেশি মনোযোগ দিচ্ছে। ওপেনএআই ও অ্যানথ্রপিকে গত তিন বছর গবেষণার পর তিনি এমন উপলব্ধিতে পৌঁছেছেন বলেও জানান।

তিনি সতর্ক করে বলেন, এআই নির্মাণের সঙ্গে যুক্ত ব্যক্তিরাই বিশ্বাস করেন, এই প্রযুক্তি চলতি দশকের শেষ নাগাদ মানবজাতির জন্য বড় ধরনের হুমকি হয়ে উঠতে পারে।

গত জুনে অ্যানথ্রপিক বিশ্বের শীর্ষ এআই নির্মাতাদের নিয়ে সমন্বিতভাবে প্রযুক্তির উন্নয়নের গতি কমানোর প্রস্তাব দিয়েছিল। প্রতিষ্ঠানটির সতর্কতা ছিল, মানুষ একসময় এআই প্রযুক্তির ওপর নিয়ন্ত্রণ হারাতে পারে।

হাগিং ফেসের নিরাপত্তা লঙ্ঘনের ঘটনার পর ওপেনএআই জানিয়েছিল, তারা বাধ্যতামূলক জাতীয় এআই নিরাপত্তা নীতিমালা চালুর পক্ষে এবং কংগ্রেসের সঙ্গে ‘সক্ষমতাভিত্তিক’ নিয়ন্ত্রণ নিয়ে কাজ করতে চায়।

সূত্র: আলজাজিরা