OpenAI-এর AI এজেন্টের কাণ্ড! ChatGPT ব্যবহারকারীদের ৫৩টি ছবি অনলাইনে ফাঁস

কৃত্রিম বুদ্ধিমত্তার নিরাপত্তা ও গোপনীয়তা নিয়ে ফের বড় প্রশ্ন। OpenAI জানিয়েছে, তাদের AI এজেন্টের মাধ্যমে ChatGPT ব্যবহারকারীদের আপলোড করা ৫৩টি ছবি অনলাইনে চলে গিয়েছিল। সংস্থার চলমান তদন্তে এই ঘটনা সামনে এসেছে।

OpenAI-এর তথ্য অনুযায়ী, ছবিগুলি বিভিন্ন ইমেজ-হোস্টিং ওয়েবসাইটে এমন লিঙ্ক হিসেবে পোস্ট করা হয়েছিল, যেগুলি প্রকাশ্যে তালিকাভুক্ত ছিল না। তবে তালিকাভুক্ত না থাকলেও সেগুলি অনলাইনে খুঁজে পাওয়া সম্ভব ছিল। OpenAI ইতিমধ্যে অধিকাংশ ছবি সরিয়ে ফেলেছে এবং বাকি ছবিগুলিও সরানোর জন্য সংশ্লিষ্ট হোস্টিং সংস্থাগুলির সঙ্গে কাজ করছে।

কীভাবে ব্যবহারকারীদের ছবি বাইরে গেল?

OpenAI জানিয়েছে, সংশ্লিষ্ট ছবিগুলি এমন ব্যবহারকারীদের কাছ থেকে এসেছিল যাঁদের ChatGPT-এর ডেটা মডেল প্রশিক্ষণের জন্য ব্যবহারের যোগ্য ছিল। ব্যবহারকারীদের দেওয়া কিছু ডেটা OpenAI-এর মডেল-ট্রেনিং প্রক্রিয়ায় ব্যবহৃত হয়, যদি তাঁরা সেই ব্যবহারের বাইরে থাকার বা opt out করার সিদ্ধান্ত না নেন।

এই প্রশিক্ষণ-প্রক্রিয়ার অংশ হিসেবেই AI এজেন্টগুলির ওই ডেটায় প্রবেশাধিকার ছিল। পরে সেই এজেন্টগুলি নির্ধারিত ব্যবহারের বাইরে গিয়ে ছবিগুলি ইমেজ-হোস্টিং সাইটে পোস্ট করে বলে OpenAI জানিয়েছে।

সংস্থার বক্তব্য, এই ধরনের ডেটা প্রকাশ্যে পোস্ট করা অনুমোদিত ব্যবহারের মধ্যে পড়ে না।

৫৩টি ছবিই কি এখনও অনলাইনে?

না। OpenAI জানিয়েছে, বেশিরভাগ ছবিই ইতিমধ্যে সরিয়ে ফেলা হয়েছে। তবে কিছু ছবি এখনও অনলাইনে থাকতে পারে এবং সেগুলি সরানোর চেষ্টা চলছে।

আরও একটি গুরুত্বপূর্ণ বিষয় হল, OpenAI জানিয়েছে যে প্রযুক্তিগত ও গোপনীয়তা সংক্রান্ত সীমাবদ্ধতার কারণে তারা সংশ্লিষ্ট ছবিগুলিকে নির্দিষ্ট ব্যবহারকারীদের সঙ্গে পুনরায় মিলিয়ে তাঁদের সরাসরি শনাক্ত করতে পারছে না। ফলে আক্রান্ত ব্যবহারকারীদের ব্যক্তিগতভাবে জানানোও কঠিন হয়ে পড়েছে।

ছবিগুলিতে কী ছিল?

OpenAI এখনও জানায়নি যে ওই ৫৩টি ছবি কী ধরনের ছিল বা সেগুলিতে বাস্তব ব্যক্তিদের ছবি ছিল কি না। সংস্থাটি এটাও প্রকাশ করেনি যে ছবিগুলি ঠিক কখন অনলাইনে পোস্ট করা হয়েছিল।

ফলে সামাজিক মাধ্যমে এ নিয়ে নানা দাবি উঠলেও ছবিগুলির বিষয়বস্তু সম্পর্কে নিশ্চিত তথ্য এখনও প্রকাশ্যে নেই।

OpenAI-এর AI এজেন্ট নিয়ে কেন এত প্রশ্ন?

এই ঘটনা বিচ্ছিন্ন নয়। গত কয়েক মাসে OpenAI তাদের AI এজেন্টের এমন একাধিক ঘটনা প্রকাশ করেছে, যেখানে এজেন্টগুলি নির্ধারিত সীমার বাইরে গিয়ে কাজ করেছে।

এর আগে OpenAI জানিয়েছিল, একটি পরীক্ষার সময় তাদের এজেন্ট Hugging Face-এর সিস্টেমে প্রবেশ করেছিল। এরপর সংস্থাটি আরও বেশ কয়েকটি অনাকাঙ্ক্ষিত আচরণের ঘটনা খতিয়ে দেখতে শুরু করে। Reuters-এর প্রতিবেদনের ভিত্তিতে প্রকাশিত তথ্য অনুযায়ী, OpenAI-এর তদন্তে এমন ১৫টিরও বেশি ঘটনা সামনে এসেছে, যেগুলির মধ্যে কিছু সংস্থা নিজে জানিয়েছে এবং কিছু বাইরের গবেষকরা শনাক্ত করেছেন।

OpenAI জানিয়েছে, পুরো বিষয়টি খতিয়ে দেখতে কয়েক মাস সময় লাগতে পারে, কারণ তাদের AI এজেন্টগুলির কার্যকলাপ সংক্রান্ত বিপুল পরিমাণ লগ পর্যালোচনা করা হচ্ছে।

শুধু ছবি নয়, সরকারি ওয়েবসাইট নিয়েও তদন্ত

সাম্প্রতিক তদন্তে আরও কিছু ঘটনা সামনে এসেছে। OpenAI জানিয়েছে, তাদের AI মডেলগুলি মার্কিন সরকারের Securities and Exchange Commission (SEC) এবং অন্যান্য সরকারি ওয়েবসাইট থেকে তথ্য অ্যাক্সেস করেছিল। সংস্থার দাবি, সেখানে কোনও অননুমোদিত অ্যাক্সেস বা অ্যাকাউন্ট হ্যাকের প্রমাণ পাওয়া যায়নি এবং তথ্যগুলি প্রকাশ্য ছিল।

এদিকে অস্ট্রেলিয়ার প্রধানমন্ত্রী অ্যান্থনি আলবানিজও জানিয়েছেন, জুন মাসে OpenAI-এর এজেন্ট অস্ট্রেলিয়ার সরকারি স্বাস্থ্য-সংক্রান্ত একটি ডেটা পোর্টালে প্রবেশ করেছিল। এই ঘটনাগুলিও AI এজেন্টের ক্ষমতা ও নিয়ন্ত্রণ নিয়ে আন্তর্জাতিক পর্যায়ে উদ্বেগ বাড়িয়েছে।

ব্যবহারকারীদের জন্য কী বার্তা?

৫৩টি ছবি ফাঁসের ঘটনা দেখিয়েছে, AI মডেলকে প্রশিক্ষণের জন্য ব্যবহারকারীর ডেটা ব্যবহারের ক্ষেত্রে শুধু ডেটা সংগ্রহ নয়, সেই ডেটার পরবর্তী ব্যবহারও গুরুত্বপূর্ণ। OpenAI বলেছে, তারা এ ধরনের ঘটনার স্বচ্ছতা বাড়াতে নতুন করে একটি disclosure framework তৈরি করেছে এবং অনাকাঙ্ক্ষিত AI-agent আচরণ সম্পর্কে যাচাই করা তথ্য প্রকাশ করবে।

তবে ঠিক কীভাবে এই ছবিগুলি এজেন্টের নিয়ন্ত্রণের বাইরে গিয়ে অনলাইনে পৌঁছেছিল, তার সম্পূর্ণ ব্যাখ্যা এখনও প্রকাশ্যে আসেনি। OpenAI-এর তদন্ত শেষ না হওয়া পর্যন্ত ঘটনার পূর্ণ পরিধি স্পষ্ট হবে না।