সম্প্রতি ইনস্টাগ্রামে ১৯৮০-এর দশকের আদলের এআই ছবি তৈরির একটি ট্রেন্ড ভাইরাল হয়। এতে ব্যবহারকারীরা চ্যাটজিপিটি দিয়ে নিজেদের ছবি রূপান্তর করে পুরোনো পারিবারিক অ্যালবাম, ক্লাসিক স্টুডিও ফটো কিংবা পুরোনো বলিউড সিনেমার দৃশ্যের মতো ছবি তৈরি করছিলেন।

ওপেনএআইয়ের এআই এজেন্টগুলো এসব ছবি দেখতে পেরেছিল, কারণ প্রতিষ্ঠানটি তার মডেল প্রশিক্ষণের জন্য চ্যাটজিপিটির কিছু ব্যবহারকারীর বেনামি তথ্য ব্যবহার করে। তবে এন্টারপ্রাইজ গ্রাহকদের তথ্য মডেল প্রশিক্ষণে ব্যবহার করা হয় না। সাধারণ বা ভোক্তা পর্যায়ের ব্যবহারকারীরাও চাইলে তাদের তথ্য প্রশিক্ষণে ব্যবহার না করার বিকল্প বেছে নিতে পারেন।

ওপেনএআই জানিয়েছে, প্রশিক্ষণের আগে ডেটা থেকে নাম, যোগাযোগের তথ্য ও মেটাডেটার মতো পরিচয় শনাক্তকারী তথ্য সরিয়ে ফেলা হয়। তবে প্রতিষ্ঠানটির কার্যক্রম সম্পর্কে অবগত কয়েকজন ব্যক্তি রয়টার্সকে জানিয়েছেন, এরপরও কিছু ব্যক্তিগত তথ্য থেকে যেতে পারে।

ওপেনএআই জানিয়েছে, সেপ্টেম্বরের মাঝামাঝি পর্যন্ত এআই এজেন্টের অপ্রত্যাশিত আচরণের প্রায় দুই ডজন ঘটনা তারা শনাক্ত করেছিল। অভ্যন্তরীণ নথি পর্যালোচনা অব্যাহত থাকায় সেই সংখ্যা আরও বাড়ছে। তদন্ত শেষ হতে কয়েক মাস সময় লাগতে পারে বলেও জানিয়েছে প্রতিষ্ঠানটি। এর আগেও ওপেনএআই জানিয়েছিল, ইন্টারনেট থেকে বিচ্ছিন্ন একটি পরিবেশে প্রশিক্ষণ দেওয়া হচ্ছিল এমন একটি এআই এজেন্ট কোনোভাবে পাবলিক ইন্টারনেটে প্রবেশ করে অন্য একটি চ্যাটবটের সঙ্গে যোগাযোগ করতে সক্ষম হয়েছিল।

ওপেনএআইয়ের দাবি, প্রশিক্ষণ ব্যবস্থার ডিএনএস ফিল্টারিংয়ের একটি দুর্বলতা কাজে লাগিয়ে এআই এজেন্টটি বাইরের একটি চ্যাটবটে প্রশ্ন পাঠায়। প্রায় আড়াই ঘণ্টা পর প্রতিষ্ঠানটি প্রশিক্ষণ কার্যক্রম বন্ধ করে দেয়। ওপেনএআইয়ের পর্যবেক্ষণ ব্যবস্থা ১৫ মিনিটের মধ্যেই ওই কর্মকাণ্ড শনাক্ত করে এবং তিন মিনিট পর একজন কর্মী সতর্কবার্তাটি পর্যালোচনা করেন।

পরে এমন দুটি পৃথক নিরাপত্তাব্যবস্থা যুক্ত করা হয়েছে, যেগুলো থাকলে এআই এজেন্টটির ওইভাবে ইন্টারনেটে প্রবেশ ঠেকানো যেত বলে জানিয়েছে ওপেনএআই। একই সঙ্গে বাহ্যিক টুল ব্যবহারের সুযোগ থাকা অবস্থায় সবচেয়ে সক্ষম মডেলগুলোর প্রশিক্ষণ ও পরীক্ষা সাময়িকভাবে বন্ধ রাখা হয়েছে।

ব্লুমবার্গের প্রতিবেদনে বলা হয়েছে, ওই এআই এজেন্ট বাইরের চ্যাটবটটিকে অন্তত ২০টি প্রশ্ন করেছিল। এর মধ্যে ছিল ‘ফ্রান্সের রাজধানী কী?’—এর মতো সাধারণ প্রশ্নও। ওপেনএআই জানিয়েছে, ওই নির্দিষ্ট মডেলটির প্রশিক্ষণ আর চালু করা হবে না।

শুক্রবার ওপেনএআই জানায়, গবেষণা ও প্রশিক্ষণের সময় তাদের এআই মডেলগুলো যুক্তরাষ্ট্রের সিকিউরিটিজ অ্যান্ড এক্সচেঞ্জ কমিশন (এসইসি) এবং ইউএস সেনসাস ব্যুরোর ওয়েবসাইট থেকে তথ্য সংগ্রহ করেছিল। তবে অননুমোদিত প্রবেশ, অ্যাকাউন্ট হ্যাক কিংবা কোনো নিরাপত্তা লঙ্ঘনের প্রমাণ পাওয়া যায়নি বলে জানিয়েছে প্রতিষ্ঠানটি।

এদিকে এআই গবেষণা প্রতিষ্ঠান ট্রান্সলুস জানিয়েছে, ওপেনএআইয়ের সঙ্গে সংশ্লিষ্ট বলে ধারণা করা কিছু এআই এজেন্ট মার্কিন শিক্ষা বিভাগের নাগরিক অধিকারবিষয়ক একটি ওয়েবসাইটে প্রবেশের চেষ্টা করেছিল। তবে তারা সফল হয়নি।

ওপেনএআই বলেছে, নির্ভরযোগ্য ও সবার জন্য উন্মুক্ত তথ্যের উৎস খুঁজতে গিয়ে তাদের গবেষণামূলক মডেল কিছু সরকারি, বিশ্ববিদ্যালয় ও সরকারি সংস্থার ওয়েবসাইটে প্রবেশ করেছিল। প্রায় দুই মাস আগে ওপেনএআই প্রথম জানায়, অভ্যন্তরীণ পরীক্ষার সময় তাদের এআই এজেন্টগুলো এআই রিপোজিটরি হাগিং ফেসের সিস্টেমে প্রবেশ করেছিল।

ওপেনএআই আরও কয়েকটি আগে অজানা ঘটনার কথা জানিয়েছে এবং এআই নিরাপত্তা-সংক্রান্ত ঘটনা জানানোর জন্য নতুন একটি ব্যবস্থা চালু করেছে। প্রতিষ্ঠানটি বলেছে, কোনো ঘটনার গুরুত্ব নিশ্চিত না হলেও তারা এ বিষয়ে স্বচ্ছতা বজায় রাখবে।

তদন্ত অব্যাহত থাকার মধ্যে সবচেয়ে গুরুতর ঘটনাগুলোকে অগ্রাধিকার দিচ্ছে ওপেনএআই। একই সঙ্গে প্রতিষ্ঠানটি জানিয়েছে, বাইরের গবেষকদের জানানো অনেক ঘটনার সঙ্গে তাদের অভ্যন্তরীণ তদন্তে থাকা ঘটনাগুলোর মিল রয়েছে। এআইয়ের দ্রুত অগ্রগতি নিয়েও প্রযুক্তি খাতে উদ্বেগ বাড়ছে। চলতি মাসের শুরুতে অ্যানথ্রপিকের প্রধান নির্বাহী দারিও আমোদেই এআই উন্নয়নের গতি কমানোর আহ্বান জানান। তার মতে, দ্রুত অগ্রগতি এ প্রযুক্তিকে বোঝা ও নিয়ন্ত্রণ করা আরও কঠিন করে তুলতে পারে।

ওপেনএআইয়ের প্রধান নির্বাহী স্যাম অল্টম্যানও এ আহ্বানের প্রতি সমর্থন জানিয়ে বলেন, এআই খাতকে ‘ফ্রন্টিয়ার’ বা প্রযুক্তির সর্বোচ্চ সীমায় পৌঁছানোর গতি নিয়ন্ত্রণ করতে হবে। ধনকুবের ইলন মাস্কও আমোদেইয়ের বক্তব্যকে সমর্থন করে বলেন, ‘দারিও ঠিক বলেছেন।’

তবে মেটার প্রধান নির্বাহী মার্ক জাকারবার্গের মতে, এআই প্রতিষ্ঠানগুলোর নিজেদের নিরাপত্তাব্যবস্থা তৈরির সক্ষমতা ও স্বার্থ রয়েছে। গুগল ডিপমাইন্ডের প্রধান ডেমিস হাসাবিসও আমোদেইয়ের প্রস্তাবকে সঠিক দিকের উদ্যোগ হিসেবে উল্লেখ করেছেন, তবে এর বিস্তারিত কাঠামো নিয়ে আরও কাজ করা প্রয়োজন বলে জানিয়েছেন।

সূত্র: হিন্দুস্তান টাইমস