রয়টার্সের প্রতিবেদনে বলা হয়েছে, মডেল দুটি তৃতীয় একটি স্বাধীন এআই প্রতিষ্ঠান মোডাল ল্যাবস-এর এক গ্রাহকের লেখা দুর্বল কোডের সুযোগ নিয়ে এই কাজটি করে। বিশেষজ্ঞদের মতে, এটি সম্ভবত প্রথম ঘটনা যেখানে একটি এআই এজেন্ট—অর্থাৎ নিজে সিদ্ধান্ত নিয়ে নির্দিষ্ট লক্ষ্য অর্জনে কাজ করতে সক্ষম কৃত্রিম বুদ্ধিমত্তা—মানুষের সরাসরি নির্দেশনা ছাড়াই স্বয়ংক্রিয়ভাবে পদক্ষেপ নিয়েছে।

আল জাজিরার এক বিশ্লেষণে ঘটনাটির বিস্তারিত, এআই এজেন্টের কার্যপদ্ধতি এবং ভবিষ্যতে এআই নিরাপত্তার ওপর এর সম্ভাব্য প্রভাব তুলে ধরা হয়েছে।

নিজেদের এআই মডেলের স্বয়ংক্রিয় সক্ষমতা যাচাই করতে ওপেনএআই একটি বিশেষ পরীক্ষা পরিচালনা করে। এ জন্য তারা পরীক্ষার সময় প্রচলিত কিছু নিরাপত্তা ব্যবস্থা সাময়িকভাবে শিথিল করে।

পরীক্ষাটি চালানো হয় ইন্টারনেটবিচ্ছিন্ন একটি ভার্চুয়াল পরিবেশে, যার নাম এক্সপ্লয়েটজিম। এটি মূলত একটি ‘স্যান্ডবক্স’—অর্থাৎ এমন একটি বিচ্ছিন্ন পরীক্ষাগার, যেখানে বাইরের নেটওয়ার্কে প্রবেশের সুযোগ থাকে না।

তবে নির্ধারিত সীমার মধ্যে সমস্যার সমাধান করার পরিবর্তে দুটি মডেলই ইন্টারনেটে প্রবেশের বিকল্প পথ খুঁজতে শুরু করে।

একপর্যায়ে তারা পরীক্ষার পরিবেশে থাকা একটি 'জিরো-ডে দুর্বলতা' শনাক্ত করে সেটির সুযোগ নেয়। এরপর এক কম্পিউটার থেকে আরেক কম্পিউটারে প্রবেশ করতে করতে এমন একটি সিস্টেমে পৌঁছে যায়, যেখানে ইন্টারনেট সংযোগ ছিল।

প্রতিবেদনে বলা হয়, মূল্যায়নে ভালো ফল করার উদ্দেশ্যে মডেলগুলো এমনকি মূল্যায়ন পদ্ধতিকে ফাঁকি দেওয়ার জন্য প্রয়োজনীয় গোপন তথ্য সংগ্রহের পথও খুঁজে বের করেছিল।

এরপর তারা ধাপে ধাপে অতিরিক্ত প্রবেশাধিকার অর্জন করে হাগিং ফেসের সিস্টেমে প্রবেশ করে। হাগিং ফেস মূলত এআই মডেল ও বিভিন্ন টুল সংরক্ষণের একটি বৃহৎ অনলাইন প্ল্যাটফর্ম।

সেখানে প্রবেশের পর দুটি এআই মডেল নিজেদের নির্ধারিত সমস্যার সমাধানসংক্রান্ত তথ্য খুঁজে বের করে এবং প্রয়োজনীয় সমাধান সংগ্রহ করে আবার নিজেদের পরীক্ষার পরিবেশে ফিরে আসে।

পরে হাগিং ফেসের নিরাপত্তা দল অনুপ্রবেশ শনাক্ত করে তা নিয়ন্ত্রণে আনে। প্রতিষ্ঠানটির সহপ্রতিষ্ঠাতা থমাস উলফ জানান, অনুপ্রবেশটি ১১ জুলাই শুরু হয়ে ১৩ জুলাই পর্যন্ত চলেছিল। তবে ঠিক কত সময় পর এটি শনাক্ত হয়েছিল, তা এখনও স্পষ্ট নয়।

এআই এজেন্টকে সাধারণ চ্যাটবটের সঙ্গে এক করে দেখলে ভুল হবে। সাধারণ জেনারেটিভ এআই ব্যবহারকারীর নির্দেশনা অনুযায়ী লেখা, ছবি বা তথ্য তৈরি করে। কিন্তু এআই এজেন্ট নির্দিষ্ট একটি লক্ষ্য পূরণে নিজেই সিদ্ধান্ত নিতে পারে এবং প্রয়োজনীয় পদক্ষেপও নিতে সক্ষম। এ কারণেই একে এজেন্টিক এআই বলা হয়।

এমআইটি স্লোন স্কুল অব ম্যানেজমেন্টের গবেষকদের মতে, বৃহৎ ভাষা মডেল -এর সক্ষমতার ওপর ভিত্তি করেই এআই এজেন্ট তৈরি হয়েছে। তবে এটি শুধু উত্তর তৈরি করে না, বরং পুরো কাজটি সম্পন্ন করার চেষ্টা করে।

উদাহরণ হিসেবে বলা যায়, সাধারণ একটি এআইকে সবচেয়ে কম দামের বিমান টিকিট খুঁজতে বললে সেটি বিভিন্ন বিকল্প দেখাবে। কিন্তু একটি এআই এজেন্ট আপনার বাজেট ও পছন্দ বিশ্লেষণ করে সবচেয়ে উপযুক্ত টিকিট নির্বাচন করবে এবং আপনার অনুমতি থাকলে সেটি বুকও করে দেবে।

অর্থাৎ, সাধারণ এআই তথ্য দেয়, আর এআই এজেন্ট সেই তথ্য ব্যবহার করে সিদ্ধান্ত নিয়ে কাজ সম্পন্ন করে। রোবোটিক্সে ব্যবহৃত SPAE (Sense, Plan, Act, Evaluate) পদ্ধতি অনুসরণ করেই অধিকাংশ এআই এজেন্ট কাজ করে।

এই প্রক্রিয়ায় এআই প্রথমে লক্ষ্য নির্ধারণ করে, তারপর পরিবেশ থেকে তথ্য সংগ্রহ ও বিশ্লেষণ করে। কোনো বাধা দেখা দিলে নতুন তথ্য বা বিকল্প পথ অনুসন্ধান করে। এরপর সম্ভাব্য সমাধান মূল্যায়ন করে সবচেয়ে উপযুক্ত পরিকল্পনা নির্বাচন করে সেটি বাস্তবায়ন করে। পরে ফলাফল বিশ্লেষণ করে প্রয়োজনে নতুন কৌশল নিয়ে একই প্রক্রিয়া পুনরায় চালায়। লক্ষ্য অর্জিত না হওয়া পর্যন্ত এই চক্র চলতে থাকে।

ওপেনএআই-হাগিং ফেসের এই ঘটনাটি এআইয়ের ভবিষ্যৎ নিয়ে নতুন করে উদ্বেগ তৈরি করেছে।

তথ্য বিশ্লেষণকারী প্রতিষ্ঠান স্ট্যাটিসটার পূর্বাভাস অনুযায়ী, এজেন্টিক এআইয়ের বাজারমূল্য ২০২৪ সালের ৫.১ বিলিয়ন ডলার থেকে ২০৩০ সালের মধ্যে বেড়ে ৪৭ বিলিয়ন ডলারে পৌঁছাতে পারে।

এদিকে এআই প্রতিষ্ঠান অ্যানথ্রপিক সম্প্রতি সতর্ক করে বলেছে, সবচেয়ে শক্তিশালী এআই সিস্টেমগুলোর উন্নয়নের গতি কিছুটা কমানো উচিত।

গত সপ্তাহে যুক্তরাষ্ট্রের কংগ্রেসে একটি দ্বিদলীয় বিলও উত্থাপন করা হয়েছে। এতে উন্নত এআই সিস্টেমে বাধ্যতামূলকভাবে একটি 'কিল সুইচ' রাখার প্রস্তাব রয়েছে, যাতে প্রয়োজনে বিপজ্জনক হয়ে উঠলে সেগুলো বন্ধ করে দেওয়া যায়।

এর আগে টরন্টো বিশ্ববিদ্যালয়ের গবেষকরাও দেখিয়েছেন, এআই এমন একটি 'ওয়ার্ম' তৈরি করতে পারে, যা এক ডিভাইস থেকে অন্য ডিভাইসে গিয়ে নিজেই হ্যাকিং কৌশল পরিবর্তন করতে পারে এবং শেষ পর্যন্ত পুরো নেটওয়ার্কের নিয়ন্ত্রণ নিতে সক্ষম হতে পারে।

ওপেনএআইয়ের প্রধান নির্বাহী স্যাম অল্টম্যান সম্প্রতি দাবি করেন, এআই এখন 'সিঙ্গুলারিটি' পর্যায়ে পৌঁছে গেছে—অর্থাৎ এমন এক অবস্থায়, যেখানে কৃত্রিম বুদ্ধিমত্তা মানুষের সক্ষমতাকে ছাড়িয়ে যেতে শুরু করে।

তবে কেমব্রিজ বিশ্ববিদ্যালয়ের গবেষক শন ও'হেইগারটাই এ দাবির সঙ্গে একমত নন।

তার ভাষায়, “সিঙ্গুলারিটি হলো এমন এক কাল্পনিক মুহূর্ত, যখন এআই এত দ্রুত উন্নত হবে যে মানবসভ্যতাকে এমনভাবে বদলে দেবে, যা মানুষ আর নিয়ন্ত্রণ বা পূর্বাভাস দিতে পারবে না। আমরা এখনও সেখানে পৌঁছাইনি।”

তবে তিনি সতর্ক করে বলেন, বর্তমানের উন্নত এআই মডেলগুলো পরীক্ষার সময় বন্ধ হয়ে যাওয়া এড়ানোর চেষ্টা করে এবং ভবিষ্যতের আরও সক্ষম মডেলগুলো 'কিল সুইচ' এড়িয়ে যাওয়ার ক্ষেত্রেও আরও দক্ষ হয়ে উঠতে পারে।

বিশেষজ্ঞদের আশঙ্কা, ভবিষ্যতে এআই নিজস্ব দীর্ঘমেয়াদি পরিকল্পনা তৈরি করতে পারে, ইন্টারনেটের বড় অংশ নিয়ন্ত্রণ করতে পারে কিংবা মানুষের তত্ত্বাবধান ছাড়াই গুরুত্বপূর্ণ সিদ্ধান্ত নিতে পারে।

এ নিয়ে আলোচিত একটি ধারণা হলো 'ডেড ইন্টারনেট থিওরি', যেখানে বলা হয় ভবিষ্যতে ইন্টারনেটের অধিকাংশ কনটেন্টই মানুষ নয়, বরং বট ও এআই তৈরি করবে।

তবে গবেষকদের মতে, সবচেয়ে বড় উদ্বেগ এআইয়ের বুদ্ধিমত্তা নয়, বরং তার বিচারক্ষমতা।

এমআইটির গবেষণায় বলা হয়েছে, এআই অনেক সময় ভুল তথ্যের ওপর নির্ভর করে 'হ্যালুসিনেশন' তৈরি করে, যা বড় ধরনের ভুল সিদ্ধান্তের কারণ হতে পারে।

একই ধরনের সতর্কতা দিয়েছে সেন্টার ফর স্ট্র্যাটেজিক অ্যান্ড ইন্টারন্যাশনাল স্টাডিজ (CSIS)। প্রতিষ্ঠানটির মতে, কোনো এআই একটি কাজ নিখুঁতভাবে সম্পন্ন করতে পারলেও বাস্তব পরিস্থিতির পরিবর্তন সঠিকভাবে বুঝতে না পারলে সেই কাজই বড় ধরনের বিপর্যয়ের কারণ হতে পারে।

এ ছাড়া শ্রমবাজারেও এআইয়ের প্রভাব নিয়ে উদ্বেগ বাড়ছে। এমআইটির এক গবেষণায় দেখা গেছে, বর্তমানের এজেন্টিক এআই একাই যুক্তরাষ্ট্রের ১০ শতাংশেরও বেশি চাকরির বিকল্প হয়ে উঠতে পারে।

সূত্র: আলজাজিরা