গ্রক এআই স্মার্ট প্রযুক্তি বড় ঝুঁকি
সবকিছুতেই এখন এআই ব্যবহার হচ্ছে। কিন্তু এই সুবিধার আড়ালে লুকিয়ে আছে বড় ধরনের ঝুঁকি। সম্প্রতি এক্স (সাবেক টুইটার) প্ল্যাটফর্মের বিল্ট-ইন এআই চ্যাটবট গ্রক নিয়ে আন্তর্জাতিক পর্যায়ে গুরুতর উদ্বেগ তৈরি হয়েছে।
ব্রাজিলের রিও দ্য জেনেইরোর সংগীতশিল্পী জুলি ইউকারির একটি সাধারণ ছবি থেকে শুরু হয়ে এই বিতর্ক এখন বিশ্বজুড়ে আলোচনার বিষয়।
নিউ ইয়ারের আগের রাতে জুলি ইউকারি তার কালো বিড়াল নরিকে নিয়ে একটি স্বাভাবিক ছবি এক্স-এ পোস্ট করেন। ছবিটি ছিল ঘরোয়া ও সাধারণ। কিন্তু পরের দিন তিনি লক্ষ্য করেন, কিছু ব্যবহারকারী গ্রককে দিয়ে সেই ছবির পরিবর্তিত সংস্করণ বানানোর অনুরোধ করছে।
প্রথমে তিনি বিষয়টি হালকাভাবে নেন। তার ধারণা ছিল, এআই এ ধরনের অনৈতিক অনুরোধ মানবে না। কিন্তু অল্প সময়ের মধ্যেই তিনি দেখেন—তার নামে তৈরি করা বিকৃত ও আপত্তিকর ডিজিটাল ছবি প্ল্যাটফর্মে ছড়িয়ে পড়ছে।
এই অভিজ্ঞতা তাকে মানসিকভাবে বিপর্যস্ত করে তোলে।
রয়টার্সের অনুসন্ধানে জানা যায়, ইউকারি একা নন। এক্স-এর আরও অনেক নারী ব্যবহারকারীর ছবি একইভাবে বিকৃত করা হয়েছে। এমনকি কিছু ক্ষেত্রে কিশোরীদের ছবিও লক্ষ্যবস্তু হয়েছে, যা বিষয়টিকে আরও গুরুতর করে তোলে।
ডিবির অভিযানে আইফোন প্রতারক চক্র ধরা
এই ঘটনায় প্রশ্ন উঠেছে—
এআই কি যথেষ্ট দায়িত্বশীলভাবে ব্যবহার হচ্ছে?
এই ঘটনা শুধু সোশ্যাল মিডিয়ার মধ্যেই সীমাবদ্ধ থাকেনি।
🇫🇷 ফ্রান্স
ফ্রান্সের মন্ত্রীরা এক্স-এর বিরুদ্ধে প্রসিকিউটর ও নিয়ন্ত্রক সংস্থার কাছে অভিযোগ জানিয়েছেন। তাদের বক্তব্য:
“যৌন ও লিঙ্গবৈষম্যমূলক কনটেন্ট স্পষ্টভাবে অবৈধ।”
🇮🇳 ভারত
ভারতের আইটি মন্ত্রণালয় এক্স-এর স্থানীয় অফিসে চিঠি পাঠিয়ে জানায়, গ্রক-এর অপব্যবহার ঠেকাতে প্ল্যাটফর্মটি ব্যর্থ হয়েছে।
এখন পর্যন্ত এক্স বা তাদের এআই কোম্পানি xAI আনুষ্ঠানিকভাবে বিস্তারিত কোনো মন্তব্য করেনি।
গ্রক কীভাবে অপব্যবহৃত হচ্ছে?
গ্রক মূলত একটি চ্যাটবট, যা লেখা ও ছবি তৈরি করতে পারে। সমস্যা হচ্ছে—
- ব্যবহারকারীরা অন্যের ছবি দিয়ে “ডিজিটাল পোশাক পরিবর্তন” করতে বলছে
- বেশিরভাগ অনুরোধ নারীদের লক্ষ্য করে
- কিছু ক্ষেত্রে সিস্টেম এই অনুরোধ পুরোপুরি বা আংশিকভাবে মেনে নিচ্ছে
এটি প্রমাণ করে যে কনটেন্ট ফিল্টার ও নিরাপত্তা ব্যবস্থা যথেষ্ট শক্তিশালী নয়।
কেন এটি বিপজ্জনক?
এই ধরনের প্রযুক্তি অপব্যবহার থেকে কয়েকটি বড় ঝুঁকি তৈরি হয়:
১. ব্যক্তিগত মর্যাদা নষ্ট হয়
কেউ অনুমতি না দিলে তার ছবি এভাবে পরিবর্তন করা স্পষ্টভাবে অনৈতিক।
২. মানসিক ক্ষতি
ভুক্তভোগীরা লজ্জা, ভয় ও হতাশায় ভোগেন।
৩. আইনি জটিলতা
অনেক দেশে এটি সাইবার অপরাধের মধ্যে পড়ে।
৪. শিশুদের নিরাপত্তা
কিশোরীদের ছবি ব্যবহার হওয়া সবচেয়ে ভয়ংকর দিক।
প্রযুক্তি কোম্পানির দায়িত্ব কী?
বিশেষজ্ঞদের মতে:
- শক্তিশালী কনটেন্ট ফিল্টার লাগানো
- শিশু সংক্রান্ত অনুরোধ স্বয়ংক্রিয়ভাবে ব্লক করা
- অভিযোগের জন্য দ্রুত রেসপন্স সিস্টেম
- ব্যবহারকারীদের জন্য পরিষ্কার নিয়মাবলি
এসব না করলে ভবিষ্যতে এআই আরও বড় বিপদের কারণ হতে পারে।
গুগল ভূমিকম্প সতর্কতা পূর্বসংকেত
গ্রক নিয়ে সাম্প্রতিক ঘটনা আমাদের মনে করিয়ে দেয়—
প্রযুক্তি যত শক্তিশালী, দায়িত্বও তত বড়।
এআই মানুষের কাজ সহজ করতে পারে, কিন্তু ভুল ব্যবহারে তা মানুষের সম্মান, নিরাপত্তা ও মানসিক স্বাস্থ্যের জন্য হুমকি হয়ে দাঁড়ায়।
জুলি ইউকারির অভিজ্ঞতা হয়তো একটি উদাহরণ, কিন্তু এটি ভবিষ্যতের জন্য একটি বড় সতর্কবার্তা।
গ্রক এআই স্মার্ট প্রযুক্তি বড় ঝুঁকি গ্রক এআই স্মার্ট প্রযুক্তি বড় ঝুঁকি গ্রক এআই স্মার্ট প্রযুক্তি বড় ঝুঁকি গ্রক এআই স্মার্ট প্রযুক্তি বড় ঝুঁকি গ্রক এআই স্মার্ট প্রযুক্তি বড় ঝুঁকি গ্রক এআই স্মার্ট প্রযুক্তি বড় ঝুঁকি