তার মতে, এআই ব্যবহারের ক্ষেত্রে শুধু প্রযুক্তির সক্ষমতার ওপর নির্ভর করলেই চলবে না, বরং এর কার্যক্রম নিয়ন্ত্রণে কার্যকর সুরক্ষাব্যবস্থাও নিশ্চিত করতে হবে। বিশেষ করে, যেসব এআই এজেন্ট প্রতিষ্ঠানের সংবেদনশীল তথ্য ব্যবহারের সুযোগ পায় এবং নিজে থেকেই গুরুত্বপূর্ণ সিদ্ধান্ত বা কাজ সম্পন্ন করতে পারে, সেগুলোর ক্ষেত্রে বাড়তি সতর্কতা প্রয়োজন।

সম্প্রতি সামাজিক যোগাযোগমাধ্যম এক্সে দেওয়া এক পোস্টে এআইয়ের নিরাপত্তা ও নির্ভরযোগ্যতা নিয়ে নিজের অবস্থান তুলে ধরেন নাদেলা। সেখানে তিনি কৃত্রিম বুদ্ধিমত্তার ক্রমবর্ধমান সক্ষমতা নিয়ে আলোচনা করেন। তাঁর বক্তব্যের মূল বিষয় হলো, কোনো এআই মডেলকে নিরাপদ মনে হলেও সেটিকে সব পরিস্থিতিতে নির্ভরযোগ্য ধরে নেওয়া ঠিক নয়।

নাদেলার মতে, একটি এআই মডেলকে শতভাগ নিরাপদ হিসেবে বিবেচনা করা হলেও সব পরিস্থিতিতে সেটি প্রত্যাশিত আচরণ করবে, এমন নিশ্চয়তা নেই। কোনো কোনো ক্ষেত্রে মডেলটি ভুল তথ্য দিতে পারে কিংবা অনাকাঙ্ক্ষিত সিদ্ধান্ত নিতে পারে। তাই এআই কোন তথ্য ব্যবহার করতে পারবে এবং কী ধরনের কাজ করার অনুমতি পাবে, তা স্পষ্টভাবে নির্ধারণ করা জরুরি।

এআইয়ের ভুল শনাক্ত করতে অন্য এআই মডেলের ওপর নির্ভর করার বিষয়েও সতর্কতা প্রয়োজন। একটি মডেল দিয়ে অন্যটির কাজ যাচাই করা হলেও তাতে সব ভুল ধরা পড়বে, এমন নিশ্চয়তা নেই। স্বাধীন যাচাইয়ের ব্যবস্থা না থাকলে একটি মডেলের ভুল অন্য মডেলও শনাক্ত করতে ব্যর্থ হতে পারে। ফলে একাধিক এআই ব্যবহার করেও ভুল সিদ্ধান্তের ঝুঁকি পুরোপুরি এড়ানো সম্ভব নয়।

বর্তমানে বিশ্বজুড়ে বিভিন্ন প্রতিষ্ঠানে এআই এজেন্টের ব্যবহার বাড়ছে। তথ্য বিশ্লেষণ থেকে শুরু করে সফটওয়্যার পরিচালনা ও দৈনন্দিন কাজের স্বয়ংক্রিয় ব্যবস্থাপনায় এসব প্রযুক্তি গুরুত্বপূর্ণ ভূমিকা রাখছে। এতে সময় ও শ্রম সাশ্রয় হচ্ছে, বাড়ছে কাজের গতিও। তবে এআই ভুল সিদ্ধান্ত নিলে বা অনুমোদনহীন কোনো পদক্ষেপ নিলে তার প্রভাব কতটা গুরুতর হতে পারে, সেই উদ্বেগও বাড়ছে।

প্রচলিত সফটওয়্যারে ত্রুটি দেখা দিলে কোড পরীক্ষা করে অনেক ক্ষেত্রে সমস্যার উৎস শনাক্ত করা যায়। কিন্তু এআই মডেল কেন নির্দিষ্ট কোনো উত্তর দিল বা বিশেষ একটি পদক্ষেপ নিল, তা সব সময় সহজে ব্যাখ্যা করা সম্ভব হয় না। ফলে ভুলের কারণ অনুসন্ধান এবং সম্ভাব্য ক্ষতি মোকাবিলা করা কঠিন হয়ে উঠতে পারে।

এ কারণে এআইয়ের সুবিধা গ্রহণের পাশাপাশি এর ঝুঁকি নিয়ন্ত্রণে প্রযুক্তিগত সুরক্ষা, কঠোর অনুমতি ব্যবস্থাপনা এবং স্বাধীন তদারকি নিশ্চিত করা গুরুত্বপূর্ণ। এআই যত বেশি স্বয়ংক্রিয়ভাবে কাজ করবে, ততই এর কার্যক্রমের ওপর যথাযথ নিয়ন্ত্রণ বজায় রাখার প্রয়োজন বাড়বে।

সূত্র: ইন্ডিয়া টুডে