সম্প্রতি এআই প্রযুক্তির সম্ভাব্য ঝুঁকি নিয়ে উদ্বেগ বেড়েছে। সবচেয়ে গুরুতর সতর্কতাগুলোর একটিতে বলা হয়েছে, আগামী এক দশকের মধ্যে এআইয়ের কারণে ‘সমস্ত মানুষ মারা যাওয়ার’ সম্ভাবনা ১০ শতাংশের বেশি হতে পারে। এর আগে অ্যানথ্রপিক জানিয়েছিল, তাদের এআই মডেল ব্যবহার করে জৈবিক অস্ত্র তৈরিতে সহায়ক হতে পারে—এমন ‘ক্ষতিকর কর্মকাণ্ডের’ কিছু প্রচেষ্টা তারা শনাক্ত ও প্রতিহত করেছে।

এআই নিরাপত্তা নিয়ে সবচেয়ে কঠোর সতর্কতাগুলোর একটি এসেছে অ্যানথ্রপিকের নিরাপত্তা দলের দুই কর্মীর কাছ থেকে। গত দুই সপ্তাহে পদত্যাগ করা ওই দুই কর্মী সতর্ক করে বলেছেন, মানুষের চেয়ে বেশি বুদ্ধিমান যন্ত্র তৈরির প্রতিযোগিতায় এআই প্রতিষ্ঠানগুলোর দৌড় মানবজাতির অস্তিত্বের জন্য হুমকি তৈরি করতে পারে।

এদিকে ‘ফরচুন’ ম্যাগাজিনকে দেওয়া এক সাক্ষাৎকারে ওপেনএআইয়ের প্রধান নির্বাহী স্যাম অল্টম্যানও বলেছেন, এআইয়ের সক্ষমতা আরও অনেক দূর এগিয়ে নেওয়ার মতো নিরাপত্তা মান এখনো তৈরি হয়নি। মানুষের নিয়ন্ত্রণের বাইরে চলে যেতে পারে এমন এআই তৈরি হওয়া ‘অবশ্যই সম্ভব’ বলেও মন্তব্য করেন তিনি।

আমোদেই তার প্রবন্ধটির নাম দিয়েছেন ‘উই মাস্ট পেস দ্য ফ্রন্টিয়ার’। এতে তিনি বলেন, এআইয়ের সক্ষমতা অত্যন্ত দ্রুত বেড়েছে। এমনকি এআই দিয়ে পরবর্তী প্রজন্মের এআই তৈরির সক্ষমতাও দ্রুত বাড়ছে। এ সময় প্রতিদ্বন্দ্বী ওপেনএআইয়ের একটি ঘটনার কথাও উল্লেখ করেন তিনি। গত জুলাইয়ে ওপেনএআইয়ের কিছু এআই এজেন্ট এমন সাইবার নিরাপত্তা হামলা চালিয়েছিল, যেসব লক্ষ্যবস্তুতে হামলা করার নির্দেশ তাদের দেওয়া হয়নি বলে প্রতিষ্ঠানটি জানিয়েছিল।

আমোদেই বলেন, ওই এআই এজেন্টগুলো ‘অত্যন্ত নিবেদিত একটি সম্মিলিত গোষ্ঠীর’ মতো আচরণ করেছিল। ওপেনএআই পরে জানায়, এআই এজেন্টগুলোর পারস্পরিক যোগাযোগের গুরুত্ব জুলাইয়ের আগে প্রতিষ্ঠানটির নেতৃত্বের কাছে স্পষ্ট ছিল না। এ ঘটনার পর উন্নত কিছু এআই মডেল ও টুলের প্রশিক্ষণ ধীর করার সিদ্ধান্ত নেয় প্রতিষ্ঠানটি।

আমোদেই বলেন, এআই উন্নয়নের গতি কমানোর অর্থ মডেল প্রশিক্ষণ বা প্রযুক্তিগত অগ্রগতি বন্ধ করে দেওয়া নয়। বরং প্রতিষ্ঠানগুলোকে তাদের মডেল নিরাপদ ও মানুষের মূল্যবোধের সঙ্গে সামঞ্জস্যপূর্ণ করতে পর্যাপ্ত সময় দেওয়া এবং তৃতীয় পক্ষের মূল্যায়নকারীদের মাধ্যমে নিরাপত্তা যাচাই নিশ্চিত করা। তিনি জানিয়েছেন, অ্যানথ্রপিক একতরফাভাবে এই নীতি অনুসরণ করবে। পাশাপাশি অন্য শীর্ষস্থানীয় এআই প্রতিষ্ঠানগুলোকেও একই ধরনের পদক্ষেপ নিতে বাধ্য করতে সরকারগুলোর প্রতি আহ্বান জানিয়েছেন তিনি।

এআই উন্নয়নের গতি কমালে বৈশ্বিক প্রতিযোগিতায় এর প্রভাব পড়তে পারে—বিশেষ করে চীনের সঙ্গে যুক্তরাষ্ট্রের প্রতিযোগিতায়—এ বিষয়টিও স্বীকার করেছেন আমোদেই। তার মতে, এআই উন্নয়নের গতি কমিয়ে যদি মডেলগুলো গুরুত্বপূর্ণ সক্ষমতার পর্যায়ে পৌঁছানোর আগে আরও এক-দুই বছর সময় পাওয়া যায় এবং সেই সময়ে নিরাপত্তা ও নিয়ন্ত্রণব্যবস্থা উন্নত করা যায়, তাহলে বড় ধরনের বিপর্যয়ের ঝুঁকি উল্লেখযোগ্যভাবে কমানো সম্ভব। তবে তিনি মনে করেন, এই গতি কমানোর উদ্যোগ সমন্বিতভাবে নিতে হবে, যাতে যুক্তরাষ্ট্র এআই খাতে বাণিজ্যিক সুবিধা বা নেতৃত্ব হারিয়ে না ফেলে। চীনকে এগিয়ে যাওয়ার সুযোগ তৈরি হয়—এমন মাত্রায় গতি কমানোও উচিত নয় বলে মন্তব্য করেন তিনি।

এ ছাড়া যুক্তরাষ্ট্র সরকারের প্রতি দেশটির এআই চিপ চীনে বিক্রি বন্ধ এবং কর্তৃত্ববাদী দেশগুলোর সঙ্গে এআই প্রযুক্তি ভাগাভাগি সীমিত করার পদক্ষেপ নেওয়ার আহ্বান জানিয়েছেন অ্যানথ্রপিক প্রধান। আমোদেইয়ের প্রস্তাবের পর প্রযুক্তি অঙ্গনে নানা ধরনের প্রতিক্রিয়া দেখা দিয়েছে। এআই প্ল্যাটফর্ম হাগিং ফেসের প্রধান নির্বাহী ক্লেমেন্ট দেলাঙ্গু জানান, তিনি ‘ওপেন অ্যালাইনমেন্ট ইনিশিয়েটিভ’ নামে একটি নতুন প্রকল্প চালু করছেন। আমোদেইয়ের প্রস্তাবিত তৃতীয় পক্ষের মূল্যায়নকারীদের অংশ হতে চান বলেও জানান তিনি। হাগিং ফেস চলতি বছরের শুরুতে ওপেনএআইয়ের এআই এজেন্টদের সাইবার হামলার শিকার হয়েছিল। ঘটনাটি এআই নিরাপত্তা নিয়ে প্রযুক্তি অঙ্গনে ব্যাপক আলোচনা তৈরি করে।

এদিকে টেসলার প্রধান ইলন মাস্কও আমোদেইয়ের বক্তব্যকে সমর্থন করেছেন। সামাজিক যোগাযোগমাধ্যম এক্সে তিনি লিখেছেন, ‘দারিও ঠিক বলেছেন।’ তবে সবাই আমোদেইয়ের উদ্যোগকে শুধু নিরাপত্তার দৃষ্টিকোণ থেকে দেখছেন না। প্রযুক্তি বিনিয়োগকারী চামাথ পালিহাপিটিয়া অভিযোগ করেছেন, আমোদেইয়ের প্রস্তাবের মাধ্যমে ওপেন সোর্স এআই সীমিত করে বিপুল প্রযুক্তিগত ও অর্থনৈতিক ক্ষমতা অ্যানথ্রপিকের হাতে কেন্দ্রীভূত করার চেষ্টা হতে পারে।

সিলিকন ভ্যালিতে এআই উন্নয়ন ধীর বা সাময়িকভাবে বন্ধ করার আহ্বান নতুন নয়। সমালোচকেরা দীর্ঘদিন ধরেই অভিযোগ করে আসছেন, শীর্ষস্থানীয় এআই প্রতিষ্ঠানগুলো নিজেদের প্রযুক্তির সম্ভাব্য ঝুঁকি বাড়িয়ে তুলে ধরছে মূলত বিপণন কৌশলের অংশ হিসেবে। এদিকে অ্যানথ্রপিক ও ওপেনএআই—দুই প্রতিষ্ঠানই সম্ভাব্য রেকর্ড পরিমাণ অর্থের প্রাথমিক শেয়ার বিক্রি বা আইপিওর প্রস্তুতি নিচ্ছে বলে বিভিন্ন প্রতিবেদনে দাবি করা হয়েছে।

সূত্র: বিবিসি