বিবিসির প্রতিবেদনে বলা হয়েছে, এআই সিস্টেমের নিরাপত্তা পরীক্ষা করা প্রতিষ্ঠান মিনগার্ড (Mindgard) গত জুলাইয়ে দেখতে পায়, মুনশটের কিমি K2.6 ও K3 Swarm মডেল দুটি নির্মাতাদের নির্ধারিত নিরাপত্তাব্যবস্থা বা ‘গার্ডরেল’ এড়িয়ে যেতে পারে। ‘জেলব্রেকিং’ নামে পরিচিত একটি প্রক্রিয়ায় গবেষকেরা এআই মডেলকে ধারাবাহিক ও জটিল নির্দেশনা দিয়ে পরীক্ষা করেন। এর মাধ্যমে দেখা হয়, নিরাপত্তা বিধিনিষেধ অমান্য করে মডেলটি নিষিদ্ধ বা ঝুঁকিপূর্ণ বিষয়ে তথ্য দেয় কি না।

মিনগার্ডের দাবি, কিমির ওই দুটি মডেল এমন পরীক্ষায় নিরাপত্তাব্যবস্থা এড়িয়ে গিয়ে উদ্বেগজনক বিভিন্ন বিষয়ে আলোচনা করেছে। মুনশট বিবিসিকে জানিয়েছে, উন্নত ও নিরাপদ এআই তৈরির জন্য তৃতীয় পক্ষের মতামতকে তারা গুরুত্বপূর্ণ মনে করে। প্রতিষ্ঠানটি আরও জানিয়েছে, মিনগার্ডের পাওয়া তথ্য নিয়ে তাদের সঙ্গে আলোচনা চলছে।

মিনগার্ডের প্রতিষ্ঠাতা পিটার গ্যারাগান বিবিসির টেক লাইফ অনুষ্ঠানে বলেন, কিমি K2.6 ও K3 Swarm নিয়ে তাদের পাওয়া ফলাফল উদ্বেগজনক। তার ভাষ্য, একবার জেলব্রেক সফল হলে মডেলটি বিভিন্ন বিষয়ে কথা বলতে পারে এবং ক্ষতিকর কর্মকাণ্ডের সঙ্গে সম্পর্কিত অন্যান্য বিষয়েও পরামর্শ দেওয়ার ঝুঁকি তৈরি হতে পারে।

মিনগার্ড জানিয়েছে, তারা কিমির দেওয়া ঝুঁকিপূর্ণ তথ্য বাস্তবে কার্যকর কি না, তা পরীক্ষা করে প্রমাণ করেনি। তবে তাদের মতে, এআই মডেলের নিরাপত্তাব্যবস্থা ব্যবহারকারীকে এ ধরনের বিষয়ে আলোচনা করার সুযোগই দেওয়া উচিত ছিল না।

প্রতিষ্ঠানটির দাবি, জেলব্রেক করা কিমি K2.6 ব্যবহার করে কোনো হ্যাকার এআইয়ের কম্পিউটিং রিসোর্সে কোড চালানো এবং ইন্টারনেটের সঙ্গে সংযোগ স্থাপনের সুযোগ পেতে পারেন। এতে মডেলটি সম্ভাব্য সাইবার হামলার প্ল্যাটফর্ম হিসেবে ব্যবহৃত হওয়ার ঝুঁকি তৈরি করতে পারে।

মুনশটের পক্ষ থেকে মিনগার্ডকে পাঠানো একটি ই-মেইলের অংশ বিবিসিকে দেওয়া হয়েছে। সেখানে বলা হয়, অভ্যন্তরীণ পরীক্ষায় এ ধরনের অনুরোধের ক্ষেত্রে তাদের মডেল সাধারণত উচ্চ হারে প্রত্যাখ্যান করেছে। এ ঘটনা এমন এক সময়ে সামনে এলো, যখন এআই শিল্পে ওপেন-সোর্স বা ওপেন-ওয়েট মডেল এবং সীমিত ব্যবহারের মালিকানাধীন মডেলের নিরাপত্তা নিয়ে বিতর্ক চলছে।

কিমি একটি ‘ওপেন-ওয়েট’ মডেল। অর্থাৎ তাত্ত্বিকভাবে ব্যবহারকারীরা মডেলটি নিজেদের কম্পিউটিং অবকাঠামোয় পরিচালনা করতে পারেন। এর ফলে মডেল ব্যবহারের ক্ষেত্রে নিয়ন্ত্রণ ও নিরাপত্তা নিশ্চিত করা নিয়ে নতুন ধরনের প্রশ্ন তৈরি হচ্ছে। ইউনিভার্সিটি অব সারির অধ্যাপক অ্যালান উডওয়ার্ড বিবিসিকে বলেন, ওপেন-সোর্স বা উন্মুক্ত মডেল ভুল ব্যক্তিদের হাতে পড়ার ঝুঁকি রয়েছে। তবে একই প্রযুক্তি সাইবার প্রতিরক্ষার কাজেও ব্যবহার করা যেতে পারে।

তিনি উদাহরণ হিসেবে বলেন, এআই প্ল্যাটফর্ম হাগিং ফেস একটি চীনা ওপেন-সোর্স মডেল ব্যবহার করে এমন একটি সাইবার হামলা বিশ্লেষণ করেছিল, যা পরে ওপেনএআইয়ের এআই এজেন্টদের মাধ্যমে পরিচালিত হয়েছিল বলে জানা যায়। অধ্যাপক উডওয়ার্ডের মতে, এআই প্রযুক্তির দ্রুত বিকাশের সঙ্গে তাল মিলিয়ে আন্তর্জাতিক নিয়ন্ত্রণব্যবস্থা তৈরি করা কঠিন। প্রযুক্তিগত পরিবর্তনের তুলনায় আন্তর্জাতিক পর্যায়ে সমঝোতায় পৌঁছাতে অনেক বেশি সময় লাগে।

মিনগার্ডের প্রতিষ্ঠাতা পিটার গ্যারাগানের মতো অধ্যাপক উডওয়ার্ডও মনে করেন, এআইয়ের অপব্যবহার ঠেকাতে শুধু প্রযুক্তির নিরাপত্তাব্যবস্থার ওপর নির্ভর না করে যারা ইচ্ছাকৃতভাবে এআইকে ক্ষতিকর কাজে ব্যবহার করে, তাদের শনাক্ত ও আইনের আওতায় আনার দিকে আরও বেশি গুরুত্ব দেওয়া প্রয়োজন।

এদিকে সাম্প্রতিক সময়ে এআইয়ের নিরাপত্তা নিয়ে একাধিক ঘটনা সামনে এসেছে। যুক্তরাষ্ট্রের ওপেনএআই, মেটা ও অ্যানথ্রপিকসহ বিভিন্ন প্রতিষ্ঠানের তৈরি স্বয়ংক্রিয় এআই ‘এজেন্ট’ কিছু অনলাইন সেবায় অননুমোদিত কার্যক্রম চালানোর ঘটনাও আলোচনায় এসেছে।

অন্যদিকে, অ্যানথ্রপিক সম্প্রতি জানিয়েছে, তাদের একটি এআই মডেলকে ব্যবহার করে জৈব অস্ত্র তৈরিতে সহায়তা করতে পারে—এমন ক্ষতিকর কর্মকাণ্ডের চেষ্টা তারা শনাক্ত ও প্রতিহত করেছে। সব মিলিয়ে, এআই মডেলের নিরাপত্তাব্যবস্থা বা ‘গার্ডরেল’ কতটা কার্যকর এবং জেলব্রেকের মাধ্যমে সেগুলো এড়িয়ে গেলে সম্ভাব্য অপব্যবহার কীভাবে ঠেকানো যাবে—এ নিয়ে প্রযুক্তি বিশ্বে নতুন করে উদ্বেগ তৈরি হয়েছে।

সূত্র: বিবিসি