চ্যাটজিপিটির ছবি তৈরিতে নিরাপত্তা ফাঁক, সমালোচনায় ওপেনএআই
কৃত্রিম বুদ্ধিমত্তা নিরাপত্তা প্রতিষ্ঠান মাইন্ডগার্ডের গবেষকরা দেখিয়েছেন, সাধারণ একটি টেক্সট প্রম্পট দিয়ে চ্যাটজিপিটির ছবি তৈরির নিরাপত্তা ব্যবস্থা এড়ানো সম্ভব। ওপেনএআই বিষয়টি পর্যালোচনা করে অতিরিক্ত সুরক্ষা ব্যবস্থা যুক্ত করেছে বলে জানিয়েছে।
কৃত্রিম বুদ্ধিমত্তা নিরাপত্তা প্রতিষ্ঠান মাইন্ডগার্ডের গবেষকরা দেখিয়েছেন, সাধারণ একটি টেক্সট প্রম্পট দিয়ে চ্যাটজিপিটির ছবি তৈরির নিরাপত্তা ব্যবস্থা এড়ানো সম্ভব। ওপেনএআই বিষয়টি পর্যালোচনা করে অতিরিক্ত সুরক্ষা ব্যবস্থা যুক্ত করেছে বলে জানিয়েছে।
মাইন্ডগার্ডের অ্যাডভারসারিয়াল টেস্টিং টিমের একজন গবেষক আবিষ্কার করেন, একটি হারিয়ে যাওয়া ছবি পুনরুদ্ধারের অনুরোধ হিসেবে সাজানো প্রম্পট দিয়ে কোনো ছবি সংযুক্ত না করেও অনুচিত ও উদ্বেগজনক ছবি তৈরি করা যায়। পরীক্ষায় দেখা গেছে, প্রম্পটে সামান্য পরিবর্তন করে ক্রমশ আরও সমস্যাজনক ছবি তৈরি করা সম্ভব।
জেনারেটিভ এআই প্ল্যাটফর্মগুলো ক্ষতিকর, অশ্লীল বা নিষিদ্ধ কনটেন্ট আটকাতে একাধিক স্তরের সেফটি ফিল্টার ব্যবহার করে। তবে নিরাপত্তা গবেষকরা নিয়মিত এসব ব্যবস্থার দুর্বলতা খুঁজে বের করার চেষ্টা করেন। মাইন্ডগার্ড বলছে, মডারেশন নিয়ন্ত্রণ বারবার এড়ানো সম্ভব হওয়া আরও শক্তিশালী সুরক্ষা ব্যবস্থার প্রয়োজনীয়তা নির্দেশ করে।
ওপেনএআই জানিয়েছে, তারা রিপোর্ট করা আচরণটি পর্যালোচনা করেছে এবং অনুরূপ প্রম্পটভিত্তিক কৌশল ঠেকাতে অতিরিক্ত সুরক্ষা ব্যবস্থা নিয়েছে। কোম্পানিটি বলছে, ব্যবহারকারী কোনো অ্যাটাচমেন্টের কথা উল্লেখ করলে কিন্তু সংযুক্ত না করলে চ্যাটজিপিটি স্বয়ংক্রিয়ভাবে সেই ছবি চাইবে, নিজে থেকে তৈরি করবে না।
এর আগে চ্যাটজিপিটির ক্যারিকেচার ট্রেন্ডে ব্যবহারকারীদের আপলোড করা সেলফি থেকে বায়োমেট্রিক তথ্য, অবস্থান ও শিশুদের পরিচয় ফাঁস হওয়ার ঝুঁকি নিয়েও উদ্বেগ তৈরি হয়েছিল। ২০২৬ সালের আগস্টে ওপেনএআই কিশোরদের জন্য আলাদা চ্যাটজিপিটি সংস্করণ চালু করে।
সূত্র: ওয়াল স্ট্রিট জার্নাল ও ভারইন্ডিয়া
