ইরেগুলারের প্রতিবেদনে বলা হয়েছে, চীনা প্রযুক্তি প্রতিষ্ঠান জেড.এআইয়ের তৈরি জিএলএম-৫.৩ মডেলটি ১৩টি বহু-ধাপের সাইবার হামলার পরিস্থিতির মধ্যে অন্তত একবার তিনটিতে সফল হয়েছে। প্রতিষ্ঠানটির দাবি, উন্মুক্তভাবে ব্যবহারযোগ্য কোনো এআই মডেলের ক্ষেত্রে তাদের নথিভুক্ত পরীক্ষায় এটিই সর্বোচ্চ সাফল্য।
তবে পরীক্ষার ফলাফলে যুক্তরাষ্ট্রের শীর্ষস্থানীয় এআই মডেলগুলোর তুলনায় জিএলএম-৫.৩ পিছিয়ে ছিল বলে প্রতিবেদনে উল্লেখ করা হয়েছে। ইরেগুলারের পৃথক মূল্যায়নে ওপেনএআইয়ের জিপিটি-৬ আস্ট্রা ১০টি পরিস্থিতির মধ্যে ৯টিতে সফল হয়েছিল। তবে দুই মডেলের পরীক্ষা একই ধরনের পরিস্থিতিতে পরিচালিত হয়নি। ফলে সরাসরি তুলনার ক্ষেত্রে সতর্কতা প্রয়োজন।
সিমুলেটেড পরীক্ষায় যেসব সক্ষমতা দেখা গেছে
ইরেগুলারের তথ্য অনুযায়ী, নিয়ন্ত্রিত পরিবেশে পরীক্ষার সময় জিএলএম-৫.৩ সুরক্ষিত সেবায় প্রবেশ, কম্পিউটার নেটওয়ার্কের ভেতরে বিকল্প সংযোগ তৈরি এবং একাধিক কম্পিউটারে সমন্বিতভাবে কার্যক্রম পরিচালনার সক্ষমতা দেখিয়েছে।
প্রতিবেদনে আরও বলা হয়েছে, পরীক্ষায় আক্রমণাত্মক কার্যক্রমের অনুরোধ মডেলটি প্রত্যাখ্যান করেনি। গবেষকদের মতে, এ ধরনের সক্ষমতা অপব্যবহারের ঝুঁকি তৈরি করতে পারে, বিশেষ করে যখন মডেলটি স্বাধীনভাবে পরিচালনা বা পরিবর্তন করা সম্ভব হয়।
নিষেধাজ্ঞা উপেক্ষা করে কোড পুনরুৎপাদন
পৃথক এক পরীক্ষায় স্পষ্টভাবে নিষেধ করার পরও মডেলটি স্মৃতি থেকে কম্পিউটার কোড পুনরুৎপাদন করেছে বলে জানিয়েছে গবেষকেরা। এতে মডেলটি উত্তর দিতে সক্ষম হলেও পরীক্ষার নির্ধারিত নিয়ম অনুসরণ করেনি।
গবেষকেরা এ আচরণকে ‘রিওয়ার্ড হ্যাকিং’ হিসেবে বর্ণনা করেছেন। এআই ব্যবস্থার ক্ষেত্রে এ শব্দটি সাধারণত এমন আচরণ বোঝায়, যেখানে নির্ধারিত লক্ষ্য বা পুরস্কার অর্জনের চেষ্টা করতে গিয়ে মডেলটি প্রত্যাশিত নিয়ম বা সীমাবদ্ধতা এড়িয়ে যায়।
উন্মুক্ত এআই মডেলের নিরাপত্তা নিয়ে প্রশ্ন
জিএলএম-৫.৩ একটি ‘ওপেন-ওয়েট’ মডেল। অর্থাৎ, এর প্রশিক্ষিত ওজন ডাউনলোড করে উপযুক্ত অবকাঠামোয় চালানো এবং নির্দিষ্ট শর্তে পরিবর্তন করা যায়। এ ধরনের মডেল তুলনামূলক কম খরচে ব্যবহার ও নিজেদের প্রয়োজন অনুযায়ী মানিয়ে নেওয়ার সুযোগ দেয়। তবে একই কারণে মডেলটির ব্যবহার নিয়ন্ত্রণ ও অপব্যবহার প্রতিরোধ করাও কঠিন হতে পারে।
প্রতিবেদনে অ্যানথ্রোপিকের একটি পরীক্ষার ফলও উল্লেখ করা হয়েছে। সেখানে সফটওয়্যারের দুর্বলতা কাজে লাগিয়ে কার্যকর আক্রমণ তৈরির পরীক্ষায় জিএলএম-৫.৩-এর সাফল্যের হার ছিল ১২ শতাংশ। একই পরীক্ষায় অ্যানথ্রোপিকের সাইবার নিরাপত্তা মডেল মিথোসের সাফল্যের হার ছিল ১৪ শতাংশ বলে প্রতিবেদনে জানানো হয়েছে।
অ্যানথ্রোপিকের মূল্যায়নে আরও বলা হয়েছে, তুলনামূলক সহজ কৌশল ব্যবহার করেও জিএলএম-৫.৩-এর নিরাপত্তাব্যবস্থা এড়িয়ে যাওয়া সম্ভব হয়েছে।
প্রযুক্তি গবেষণা প্রতিষ্ঠান ওমডিয়ার প্রধান বিশ্লেষক লিয়ান জে সু মনে করেন, চীনের এআই শিল্পে আরও শক্তিশালী নিয়ন্ত্রণব্যবস্থা ও নিরাপত্তা পরীক্ষা প্রয়োজন। তাঁর মতে, দেশটির শীর্ষ এআই গবেষণাগারগুলোর এ বিষয়ে সংশোধনমূলক পদক্ষেপ নেওয়া উচিত।
গবেষণার ফলাফল এআই মডেলের সাইবার নিরাপত্তা সক্ষমতা এবং নির্দেশনা মেনে চলার নির্ভরযোগ্যতা নিয়ে নতুন করে প্রশ্ন তুলেছে। তবে নিয়ন্ত্রিত পরিবেশে পরিচালিত পরীক্ষার ফলাফলকে বাস্তব সাইবার হামলার প্রমাণ হিসেবে বিবেচনা করা যাবে না।
