চরমপন্থী বক্তব্য নিয়ে এআই যুদ্ধ: বিপদ বাড়ছে দ্রুত

প্রযুক্তি শিল্পজুড়ে বিভিন্ন কোম্পানি এমন এআই সিস্টেম বিক্রি করছে যা দিয়ে মেশিনের গতিতে সন্ত্রাসী প্রচারণা, সহিংসতার হুমকি এবং চরমপন্থী হয়ে ওঠার লক্ষণ শনাক্ত করা যাবে বলে দাবি করা হচ্ছে। সরকারগুলো এগুলো চায়। প্ল্যাটফর্মগুলোর এগুলো প্রয়োজন। বিনিয়োগকারীরা এই ব্যবসার ধারণা শুনে এখানে সোনার খনি দেখতে পাচ্ছেন। তাদের সবার কথা একই। মেশিন মানুষের চেয়ে দ্রুত। মেশিন এমন কিছু দেখতে পায় যা মানুষ পারে না। মেশিন বিপদ ছড়ানোর আগেই তা থামিয়ে দিতে পারে। শুনতে বেশ সহজ, আধুনিক এবং অবশ্যম্ভাবী মনে হয়।

কিন্তু যখনই এই সিস্টেমগুলো বাস্তব জগতে ব্যবহার করা হচ্ছে, গল্পটা ভয়ংকর হয়ে উঠছে। ভাষা কোনো গণিত নয়। ধর্ম কোনো অপরাধের ঘটনাস্থল নয়। রাজনৈতিক ক্ষোভ আর হিংসাত্মক উদ্দেশ্য এক জিনিস নয়। তবুও এআই মডারেশন টুলগুলো এই সূক্ষ্ম পার্থক্যগুলো গুলিয়ে ফেলছে, বিশেষ করে যখন আরবি, উর্দু এবং অন্যান্য ভাষার প্রসঙ্গ আসছে। গবেষকরা বছরের পর বছর ধরে এই বিষয়ে সতর্ক করে আসছেন। হিউম্যান রাইটস ওয়াচ, অ্যাক্সেস নাউ এবং বেশ কয়েকটি অ্যাকাডেমিক টিম সংঘাত, ইসলাম এবং রাজনৈতিক বক্তব্য সম্পর্কিত স্বয়ংক্রিয় মডারেশনের বারবার ভুলের প্রমাণ দিয়েছে। সহজ কথায়, মেশিনগুলো এমন সব বিষয়ে গুরুতর সিদ্ধান্ত নিচ্ছে যেখানে প্রেক্ষাপটই সবকিছু এবং নির্ভুলতার কোনো নিশ্চয়তা নেই।

এর প্রমাণ কাল্পনিক নয়। ২০২১ সালে, মেটা-র নিজস্ব ওভারসাইট বোর্ড জানায় যে, কোম্পানিটি মধ্যপ্রাচ্যের নিপীড়নের তথ্য সম্বলিত কন্টেন্ট ভুলভাবে সরিয়ে দিয়েছে। কারণ তাদের সিস্টেমগুলো আরবি ভাষার কন্টেন্টের বিরুদ্ধে অতিরিক্ত কঠোর ছিল। সংঘাতের সময় এই ধরনের ঘটনা এখন সাধারণ হয়ে উঠেছে। পোস্ট সরিয়ে দেওয়া হয়। অ্যাকাউন্ট বন্ধ করে দেওয়া হয়। সাংবাদিক, অ্যাক্টিভিস্ট এবং সাধারণ ব্যবহারকারীরা অভিযোগ জানানোর কোনো জায়গা পান না, অথচ প্ল্যাটফর্মগুলো দাবি করে যে তারা জনগণকে রক্ষা করছে। কখনো তারা সত্যি প্রচারণা আটকাচ্ছে। আবার কখনো তারা কেবল প্রেক্ষাপটকে উপেক্ষা করে যাচ্ছে।

নতুন এআই নিরাপত্তা বাজারের এটাই প্রধান বিপদ। এটিকে সন্ত্রাসবাদের বিরুদ্ধে ঢাল হিসেবে বিক্রি করা হচ্ছে, কিন্তু বাস্তবে এটি প্রায়শই একটি ভোঁতা অস্ত্রের মতো কাজ করে। একটি শব্দ, একটি ছবি, একটি ধর্মীয় বক্তব্যের ক্লিপ, একটি ঐতিহাসিক আলোচনা, বা কোনো হামলার পর শোকাহত পোস্ট – একটি সিস্টেম হয়তো এই সবগুলোকে একই হুমকির ভিন্ন রূপ হিসেবে দেখছে। মেশিন শোক বোঝে না। এটি ব্যঙ্গ বা বিদ্রূপ বোঝে না। এটি জানে না যে একজন ব্যবহারকারী সহিংসতার প্রশংসা করছে, নিন্দা করছে, নাকি সেটির תיעוד করছে। এটি প্যাটার্নের ওপর ভিত্তি করে ভবিষ্যদ্বাণী করে। আর বছরের পর বছর ধরে পক্ষপাতদুষ্ট ডেটার ওপর ভিত্তি করে তৈরি প্যাটার্ন স্বয়ংক্রিয় সন্দেহে পরিণত হতে পারে।

এটা কোনো অমূলক ভয় নয়। মেশিন লার্নিং এভাবেই কাজ করে। মডেলগুলো অতীতের লেবেল থেকে শেখে, আর অতীতের লেবেলগুলো মানুষের বিচার, প্রাতিষ্ঠানিক অগ্রাধিকার এবং রাজনৈতিক চাপের প্রতিফলন ঘটায়। যদি কোনো মডারেশন টিম ঐতিহাসিকভাবে নির্দিষ্ট অঞ্চল, ভাষা বা ধর্মীয় চিহ্নের ওপর বেশি মনোযোগ দিয়ে থাকে, তাহলে সেই তথ্যের ওপর প্রশিক্ষিত মডেলটিও সেই প্যাটার্নগুলো গ্রহণ করবে। স্ট্যানফোর্ড এবং এনওয়াইইউ-এর মতো প্রতিষ্ঠানের গবেষকরা বারবার দেখিয়েছেন যে কন্টেন্ট মডারেশন সিস্টেমগুলো বিভিন্ন ভাষা এবং সাংস্কৃতিক প্রেক্ষাপটে ভিন্নভাবে কাজ করতে পারে। ইংরেজি ভাষার জন্য সবচেয়ে সমৃদ্ধ ট্রেনিং ডেটা, সবচেয়ে বেশি নীতিগত পরিবর্তন এবং সবচেয়ে বেশি জনসমালোচনা হয়। অন্যান্য ভাষার ক্ষেত্রে প্রায়শই অবশিষ্টাংশ জোটে।

এখন এর সাথে সন্ত্রাস দমন বাজারকে যুক্ত করুন, যেখানে ভয় বিক্রির চালিকাশক্তি এবং সূক্ষ্ম বিচার সবার আগে হারিয়ে যায়। এখানে বিক্রেতারা প্রতিশ্রুতি দেয় যে তারা চরমপন্থার পথ, নেটওয়ার্ক সংযোগ এবং উচ্চ-ঝুঁকিপূর্ণ বক্তব্য মানুষের চোখে পড়ার আগেই শনাক্ত করতে পারে। প্রতিটি বড় হামলার পর এই প্রস্তাব irresistible মনে হয়। কোনো মন্ত্রী বা মেয়র এমন একটি টুলকে 'না' বলতে চান না যা প্রতিরোধের উপায় হিসেবে বাজারজাত করা হচ্ছে। কিন্তু এই ক্ষেত্রে ভবিষ্যদ্বাণীর দাবিগুলো কঠোর সন্দেহের সাথে দেখা উচিত। নিরাপত্তা প্রযুক্তির ইতিহাস এমন পণ্যে ভরা যা বড় প্রতিশ্রুতি দিয়েছিল কিন্তু কাজের বেলায় ব্যর্থ হয়েছে, বিশেষ করে যখন বিক্রেতারা সাধারণ ডেটা সাজানোকে গোয়েন্দা সাফল্যের মোড়কে বিক্রি করেছে।

এমনকি এআই নিরাপত্তার কট্টর সমর্থকরাও জানেন যে এটি দ্রুত নিয়ন্ত্রণের বাইরে চলে যেতে পারে। সমস্যাটা অনলাইনে হিংসাত্মক চরমপন্থী কন্টেন্টের অস্তিত্ব নিয়ে নয়। সেটা আছে, এবং প্ল্যাটফর্মগুলো বছরের পর বছর ধরে তা নিয়ন্ত্রণের চেষ্টা করছে। সমস্যা হলো স্পষ্ট প্রচারণা শনাক্ত করা থেকে এক লাফে এমন সিস্টেম তৈরি করা যা কিনা বক্তব্যের খণ্ডাংশ, সংশ্লিষ্টতা বা ধর্মীয় শব্দভান্ডার থেকে বিপজ্জনক মতাদর্শ অনুমান করে। এখানেই আইনসম্মত পুলিশিং আর ডিজিটাল প্রোফাইলিং-এর মধ্যেকার সীমাটা ঝাপসা হয়ে যায়।

ইউরোপ এই লড়াইয়ের একটি প্রধান ক্ষেত্র হয়ে উঠছে। ইইউ-এর ডিজিটাল সার্ভিসেস অ্যাক্ট-এর অধীনে, বড় প্ল্যাটফর্মগুলোকে সন্ত্রাসী কন্টেন্টসহ অবৈধ ও ক্ষতিকারক উপাদানের বিরুদ্ধে আরও কঠোর ব্যবস্থা নেওয়ার জন্য চাপ দেওয়া হচ্ছে। একই সময়ে, মানবাধিকার গোষ্ঠীগুলো সতর্ক করছে যে অতিরিক্ত স্বয়ংক্রিয় ব্যবস্থা বৈধ বক্তব্য মুছে ফেলতে পারে এবং আপিলের প্রক্রিয়াকে আমলাতন্ত্রের নিচে চাপা দিতে পারে। ব্রিটেনে, যেখানে চরমপন্থা-বিরোধী নীতি দীর্ঘকাল ধরে রাজনৈতিকভাবে বিতর্কিত, সেখানে নাগরিক স্বাধীনতা গোষ্ঠীগুলো বছরের পর বছর ধরে চরমপন্থার লক্ষণ শনাক্ত করার নামে তৈরি বিভিন্ন প্রোগ্রামের বাড়াবাড়ির বিরুদ্ধে লড়েছে। এআই এখন কম স্বচ্ছতা এবং বৃহত্তর পরিসরে একই প্রবণতাকে আরও শক্তিশালী করার হুমকি দিচ্ছে।

আর তারপর আছে উন্মুক্ত ইন্টারনেটের সমস্যা। জেনারেটিভ এআই একাধিক ভাষায় প্রচারণা তৈরি করা, প্রতীক নকল করা, বক্তব্য রিমিক্স করা এবং কম খরচে নেটওয়ার্কে আকর্ষণীয় উপাদান ছড়িয়ে দেওয়া সহজ করে দিয়েছে। ইউরোপোল ২০২৩ সালে সতর্ক করে যে জেনারেটিভ এআই অপরাধী ও চরমপন্থী কার্যকলাপকে সমর্থন করতে পারে, কারণ এটি নিয়োগ ও প্রচারণাকে আরও সহজ করে তোলে। এই সতর্কতাটি গুরুত্বপূর্ণ। হুমকিটি বাস্তব। কিন্তু ঠিক একারণেই আতঙ্ক এত বিপজ্জনক। একটি বাস্তব হুমকিকে ব্যবহার করে নিম্নমানের টুল, ব্যাপক নজরদারি এবং সরকার ও প্রযুক্তি সংস্থাগুলোর মধ্যে গোপন অংশীদারিত্বকে বৈধতা দেওয়া হতে পারে, যেখানে জনগণের কাছে জবাবদিহিতার কোনো সুযোগ থাকে না।

এখান থেকেই ষড়যন্ত্র তত্ত্বের জন্ম হয় এবং প্রতিষ্ঠানগুলো ক্রমাগত একে ইন্ধন জোগায়। যখন সরকার ব্যাখ্যা করতে অস্বীকার করে যে কীভাবে সিস্টেম ব্যবহারকারীদের চিহ্নিত করে, যখন প্ল্যাটফর্মগুলো অস্পষ্ট নিরাপত্তা নীতির আড়ালে লুকায়, এবং যখন নিরীহ মানুষ কোনো স্পষ্ট প্রতিকার ছাড়াই অ্যাকাউন্ট হারায় বা তদন্তের মুখোমুখি হয়, তখন সেই শূন্যস্থান গুজবে ভরে যায়। মানুষ বিশ্বাস করতে শুরু করে যে তাদের প্রার্থনার শব্দ, তারা যে ইতিহাস নিয়ে আলোচনা করে বা যে রাজনীতির সমালোচনা করে, তার জন্য তাদের ওপর নজর রাখা হচ্ছে। কখনো এই ভয়গুলো অতিরঞ্জিত। কখনো তা নয়। মূল কথা সহজ: অস্বচ্ছতা সন্দেহ তৈরি করে, এবং এআই এই অস্বচ্ছ ক্ষমতাকে চ্যালেঞ্জ করা আরও কঠিন করে তোলে।

এই শিল্পের প্রিয় আত্মপক্ষ সমর্থন হলো যে, পর্যালোচনার জন্য মানুষ সবসময় প্রক্রিয়ার মধ্যে থাকে। এই কথা শুনতে আশ্বস্তকর মনে হলেও, এর বিশালতা দেখলে আসল চিত্রটা বোঝা যায়। বড় প্ল্যাটফর্মগুলোতে কোটি কোটি পোস্ট শেয়ার হয়। স্বয়ংক্রিয় ফিল্টারগুলো প্রথম ধাপের বাছাই করে। ট্রায়াজ সিস্টেমগুলো ঝুঁকির মাত্রা নির্ধারণ করে। পর্যালোচকরা চাপের মধ্যে কাজ করেন, প্রায়শই সীমিত স্থানীয় জ্ঞান এবং অল্প সময় নিয়ে। যখন একটি এআই সিস্টেম কোনো কিছুকে বিপজ্জনক হিসেবে ট্যাগ করে, তখন সেই লেবেলটি পরবর্তী প্রতিটি সিদ্ধান্তকে প্রভাবিত করতে পারে। এই প্রক্রিয়াগুলোতে মানুষের তদারকি প্রায়শই সুরক্ষার চেয়ে চাপের মুখে দায়সারা সম্মতির মতো কাজ করে।

এর কোনোটিরই মানে এই নয় যে প্রযুক্তি সংস্থাগুলোর অনলাইনে আসল চরমপন্থী সহিংসতা বন্ধ করার প্রচেষ্টা ছেড়ে দেওয়া উচিত। সেটা অযৌক্তিক হবে। ইসলামিক স্টেটের প্রচারণা, হামলার নির্দেশিকা এবং সংগঠিত নিয়োগ অভিযান অতীতে ডিজিটাল প্ল্যাটফর্মগুলোকে কার্যকরভাবে ব্যবহার করেছে। এবং ইউরোপ, এশিয়া ও মধ্যপ্রাচ্যের আইন প্রয়োগকারী সংস্থাগুলো দেখিয়েছে কীভাবে এনক্রিপ্টেড নেটওয়ার্ক এবং অনলাইন মিডিয়া হিংসাত্মক গোষ্ঠীগুলোকে সাহায্য করতে পারে। হুমকিটি কাল্পনিক নয়। সমস্যা হলো, কোম্পানি এবং সরকারগুলো এমনভাবে কাজ করছে যেন দ্রুত শনাক্তকরণের মানেই হলো বুদ্ধিমান শনাক্তকরণ। কিন্তু তা নয়।

বুদ্ধিদীপ্ত পথটি আরও কঠিন এবং কম আকর্ষণীয়। এর জন্য প্রয়োজন সীমিত দাবি। আরও ভালো ভাষা দক্ষতা। স্বাধীন অডিট। জনগণের কাছে ভুলের রিপোর্ট করার ব্যবস্থা। স্পষ্ট আপিল ব্যবস্থা। শুধুমাত্র ধর্মের কারণে হিংসাত্মক উদ্দেশ্য অনুমান করার বিরুদ্ধে কঠোর নিয়ম। এর মানে হলো এটা স্বীকার করা যে, একটি মডেল শুধুমাত্র বিক্রেতার ড্যাশবোর্ডে লাল বাতি জ্বলার কারণে রাজনৈতিক, ধর্মীয় এবং সাংস্কৃতিক অস্পষ্টতার সমাধান করতে পারে না।

এআই শিল্প 'অ্যালাইনমেন্ট' বা সামঞ্জস্য নিয়ে কথা বলতে ভালোবাসে। এখানে একটি আসল পরীক্ষা। যদি এই সিস্টেমগুলো বিশ্বাস এবং ধর্মান্ধতার মধ্যে, রিপোর্টিং এবং প্রচারণার মধ্যে, বা ভিন্নমত এবং বিপদের মধ্যে পার্থক্য করতে না পারে, তাহলে তারা আমাদের নিরাপদ করছে না। তারা আধুনিক রাজনীতির সবচেয়ে পুরোনো ব্যর্থতাগুলোর একটিকে স্বয়ংক্রিয় করে তুলছে: পুরো সম্প্রদায়কে একটি সমস্যা হিসেবে দেখা। এবং একবার সেই যুক্তি কোডের মধ্যে গেঁথে গেলে, তা দ্রুত ছড়িয়ে পড়ে, সহজে লুকিয়ে থাকে এবং তা থেকে মুক্তি পাওয়া অত্যন্ত কঠিন হয়ে যায়।