অনুমাননির্ভর পাসওয়ার্ড দিয়ে তিন প্রতিষ্ঠানের সিস্টেমে ঢুকেছিল গুগলের জেমিনি

সাইবার নিরাপত্তা পরীক্ষা চালানোর সময় গুগলের কৃত্রিম বুদ্ধিমত্তা (এআই) মডেল জেমিনাই পাসওয়ার্ড অনুমান করে তিনটি বাস্তব প্রতিষ্ঠানের সিস্টেমে প্রবেশ করেছিল। শুক্রবার (১৮ সেপ্টেম্বর) গুগলের পক্ষ থেকে এ তথ্য জানিয়েছে বার্তা সংস্থা এএফপি।

এ ঘটনার মধ্য দিয়ে এআই প্রযুক্তি ব্যবহার করে সাইবার নিরাপত্তা লঙ্ঘনের আরেকটি নজির সামনে এসেছে। এতে শক্তিশালী এআই মডেলগুলোর কার্যক্রম কতটা নিরাপদ এবং সেগুলোর ওপর মানুষের নিয়ন্ত্রণ কতটা কার্যকর, তা নিয়ে নতুন করে উদ্বেগ তৈরি হয়েছে।

যুক্তরাষ্ট্রের সংবাদমাধ্যম ওয়াল স্ট্রিট জার্নাল প্রথম ঘটনাটি প্রকাশ করে। তাদের প্রতিবেদনে বলা হয়, গত মে মাসে এই ঘটনাগুলো ঘটেছিল। তবে গুগল বিষয়টি জানতে পারে জুলাইয়ে।

গুগলের নিরাপত্তা প্রকৌশল বিভাগের ভাইস প্রেসিডেন্ট হিদার অ্যাডকিনস এএফপিকে জানান, নিয়মিত নিরাপত্তা পরীক্ষার অংশ হিসেবে জেমিনাই অনলাইনে বিভিন্ন তথ্য অনুসন্ধান করছিল। এ সময় পরীক্ষার সঙ্গে সম্পর্কিত বলে মনে হওয়া কয়েকটি ওয়েবসাইটে প্রবেশের চেষ্টা করে মডেলটি। সেসব সাইটে ঢোকার জন্য প্রয়োজনীয় লগইন তথ্যও নিজে থেকে অনুমান করে নেয় এটি।

অ্যাডকিনসের ভাষ্য অনুযায়ী, তিনটি ক্ষেত্রেই জেমিনাই একপর্যায়ে নিজে থেকে থেমে যায়। তবে যেসব প্রতিষ্ঠানের সিস্টেমে মডেলটি প্রবেশ করেছিল, সেগুলোর নাম বা পরিচয় প্রকাশ করেননি তিনি।

তিনি আরও জানান, গুগল ইতোমধ্যে সংশ্লিষ্ট তিনটি প্রতিষ্ঠানকে এ বিষয়ে অবহিত করেছে। পাশাপাশি নিজেদের প্রশিক্ষণ অংশীদারের সঙ্গেও কাজ করেছে প্রতিষ্ঠানটি। এসব ঘটনার পর পরীক্ষার পদ্ধতিতে প্রয়োজনীয় পরিবর্তন আনা হয়েছে।

এআই মডেলের নিজে থেকে নিয়ন্ত্রণের বাইরে চলে যাওয়ার ঘটনা অবশ্য এটিই প্রথম নয়। এর আগে গত জুলাইয়ে ওপেনএআইয়ের দুটি মডেল নিয়ন্ত্রিত পরিবেশের বাইরে গিয়ে নিজেরাই ইন্টারনেটে প্রবেশ করেছিল। একপর্যায়ে তারা এআই প্ল্যাটফর্ম হাগিং ফেসের অভ্যন্তরীণ ব্যবস্থায়ও ঢুকে পড়ে।

একই ধরনের ঘটনা ঘটেছে অ্যানথ্রপিক এবং চীনের মুনশট এআইয়ের ক্ষেত্রেও। পরপর এসব ঘটনা সামনে আসায় নিজেদের তৈরি শক্তিশালী এআই মডেলগুলোর ওপর প্রযুক্তি প্রতিষ্ঠানগুলো কতটা কার্যকর নিয়ন্ত্রণ বজায় রাখতে পারছে, তা নিয়ে প্রশ্ন উঠেছে।

বিষয়টি নিয়ে অ্যাডকিনস বলেন, এ ধরনের ঘটনা প্রমাণ করে যে শক্তিশালী এআই মডেলগুলোকে আরও দায়িত্বশীল ও নিয়ন্ত্রিতভাবে কাজ করার উপযোগী করে প্রশিক্ষণ দেওয়া কতটা জরুরি।