গবেষণা এআই-উত্পন্ন জাল রিপোর্ট বিশেষজ্ঞদের বোকা দেখায়


টেকওয়েস

* এআইগুলি নকল প্রতিবেদন তৈরি করতে পারে যা সাইবার নিরাপত্তা বিশেষজ্ঞদের ঠকানোর জন্য যথেষ্ট দৃinc়প্রত্যয়ী।

* যদি ব্যাপকভাবে ব্যবহৃত হয় তবে এই এআইগুলি সাইবারেট্যাকগুলির বিরুদ্ধে রক্ষার প্রচেষ্টাকে বাধা দিতে পারে।

* এই সিস্টেমগুলি ভুল তথ্য জেনারেটর এবং সনাক্তকারীদের মধ্যে একটি এআই অস্ত্রের সূচনা করতে পারে।

আপনি যদি এই জাতীয় সামাজিক মিডিয়া ওয়েবসাইটগুলি ফেসবুক এবং টুইটার হিসাবে ব্যবহার করেন, আপনি ভুল তথ্য সম্পর্কিত সতর্কতা সহ পতাকাঙ্কিত পোস্টগুলি জুড়ে আসতে পারেন। এখনও অবধি বেশিরভাগ ভুল তথ্য – পতাকাঙ্কিত এবং প্রত্নমুক্ত – করা হয়েছে সাধারণ জনগণের লক্ষ্য। সাইবার সিকিউরিটি, জননিরাপত্তা ও medicineষধের মতো বৈজ্ঞানিক ও প্রযুক্তিগত ক্ষেত্রে – তথ্যটি ভুল বা বিভ্রান্তিকর – ভুল তথ্য দেওয়ার সম্ভাবনাটি কল্পনা করুন।

সম্পর্কে ক্রমবর্ধমান উদ্বেগ আছে এই গুরুত্বপূর্ণ ক্ষেত্রগুলিতে ভুল তথ্য ছড়িয়ে পড়ে spreading এমনকি বৈষম্যমূলক পর্যালোচনা গবেষণামূলক গবেষণাপত্রগুলিতে এমনকি বৈজ্ঞানিক সাহিত্য প্রকাশে সাধারণ পক্ষপাত ও আচরণের ফলস্বরূপ। হিসেবে স্নাতকের ছাত্র এবং হিসাবে অনুষদ সদস্য সাইবারসিকিউরিটিতে গবেষণা করে আমরা বৈজ্ঞানিক সম্প্রদায়ের ভুল তথ্য দেওয়ার একটি নতুন উপায় নিয়ে গবেষণা করেছি। আমরা দেখেছি যে কৃত্রিম বুদ্ধিমত্তার সিস্টেমগুলি চিকিত্সা এবং প্রতিরক্ষা মতো সমালোচনামূলক ক্ষেত্রে মিথ্যা তথ্য উত্পন্ন করা সম্ভব যা বিশেষজ্ঞদের বোকা বানাতে যথেষ্ট বিশ্বাসযোগ্য।

সাধারণ ভুল তথ্যের প্রায়শই সংস্থাগুলি বা জনসাধারণের ব্যক্তিত্বের খ্যাতি নষ্ট করা। দক্ষতার সম্প্রদায়ের মধ্যে ভুল তথ্য হ’ল চিকিত্সা ও রোগীদের ভুল চিকিৎসা পরামর্শ দেওয়ার মতো ভীতিজনক ফলাফলের সম্ভাবনা রয়েছে। এটি জীবনকে ঝুঁকিতে ফেলতে পারে।

এই হুমকিটি পরীক্ষা করার জন্য, আমরা সাইবার নিরাপত্তা এবং চিকিত্সা সম্প্রদায়ের ভুল তথ্য ছড়িয়ে দেওয়ার প্রভাবগুলি অধ্যয়ন করেছি। আমরা মিথ্যা সাইবার সিকিউরিটি নিউজ এবং COVID-19 মেডিকেল স্টাডি তৈরির জন্য কৃত্রিম বুদ্ধিমত্তার মডেলগুলি ডাবড ট্রান্সফর্মারগুলি ব্যবহার করেছি এবং পরীক্ষার জন্য সাইবারসিকিউরিটি বিশেষজ্ঞদের কাছে সাইবারসিকিউরিটি সম্পর্কিত ভুল তথ্য উপস্থাপন করেছি। আমরা দেখতে পেয়েছি যে ট্রান্সফর্মার-উত্পন্ন ভুল তথ্য সাইবার সিকিউরিটি বিশেষজ্ঞদের বোকা বানাতে সক্ষম হয়েছিল।

ট্রান্সফরমার

ভুল তথ্য সনাক্তকরণ এবং পরিচালনা করতে ব্যবহৃত বেশিরভাগ প্রযুক্তি কৃত্রিম বুদ্ধিমত্তার দ্বারা চালিত। প্রযুক্তির সহায়তা ছাড়াই লোকেরা সনাক্ত করার মতো অনেক কিছুই পেয়েছে বলে এআই কম্পিউটার বিজ্ঞানীদের দ্রুত বিপুল পরিমাণে ভুল তথ্য পরীক্ষা করার অনুমতি দেয়। যদিও এআই লোকেরা ভুল তথ্য সনাক্ত করতে সহায়তা করে, সাম্প্রতিক বছরগুলিতে এটি বিদ্রূপজনকভাবে ভুল তথ্য তৈরি করতেও ব্যবহৃত হয়েছে।

ট্রান্সফর্মার, পছন্দ বার্ট গুগল থেকে এবং জিপিটি ওপেনএইআই থেকে, ব্যবহার করুন স্বাভাবিক ভাষা প্রক্রিয়াকরণ পাঠ্য বুঝতে এবং অনুবাদ, সংক্ষিপ্তসার এবং ব্যাখ্যা প্রস্তুত করতে। এগুলি গল্প বলার এবং প্রশ্নের উত্তর দেওয়ার জন্য, পাঠ্য উত্পন্ন করার ক্ষেত্রে মানুষের মতো ক্ষমতা প্রদর্শনকারী মেশিনের সীমানা ঠেলে দেওয়ার মতো কাজে ব্যবহার করা হয়েছে।

ট্রান্সফর্মারগুলি গুগল এবং অন্যান্য প্রযুক্তি সংস্থাগুলি দ্বারা সহায়তা করেছে তাদের অনুসন্ধান ইঞ্জিনগুলি উন্নত করছে এবং যেমন সাধারণ সমস্যাগুলি মোকাবেলায় সাধারণ জনগণকে সহায়তা করেছে লেখক ব্লক যুদ্ধ

ট্রান্সফর্মারগুলিও খারাপ উদ্দেশ্যে ব্যবহার করা যেতে পারে। ফেসবুক এবং টুইটারের মতো সামাজিক নেটওয়ার্কগুলি এরই মধ্যে চ্যালেঞ্জগুলির মুখোমুখি হয়েছে এআই-জেনারেট জাল খবর প্ল্যাটফর্ম জুড়ে।

সমালোচনামূলক ভুল তথ্য

আমাদের গবেষণা দেখায় যে ট্রান্সফর্মারগুলি ওষুধ এবং সাইবারসিকিউরিটির ক্ষেত্রেও ভুল তথ্য হুমকির সৃষ্টি করে। এটি কতটা গুরুতর তা উদাহরণস্বরূপ, আমরা সূক্ষ্ম সুরযুক্ত জিপিটি -২ ট্রান্সফর্মার মডেল চালু অনলাইন উত্স খুলুন সাইবারসিকিউরিটি দুর্বলতা এবং আক্রমণ সম্পর্কিত তথ্য নিয়ে আলোচনা করা। একটি সাইবারসিকিউরিটির দুর্বলতা হ’ল কম্পিউটার সিস্টেমের দুর্বলতা এবং সাইবারসিকিউরিটি অ্যাটাক এমন একটি কাজ যা দুর্বলতা কাজে লাগে। উদাহরণস্বরূপ, যদি কোনও দুর্বলতা দুর্বল ফেসবুক পাসওয়ার্ড হয় তবে এটি আক্রমণ করে এমন আক্রমণ হ্যাকার হতে পারে যা আপনার পাসওয়ার্ড খুঁজে বের করে এবং আপনার অ্যাকাউন্টে প্রবেশ করে।

তারপরে আমরা একটি প্রকৃত সাইবারথ্রেট বুদ্ধিমত্তার নমুনার বাক্য বা বাক্যাংশ দিয়ে মডেলটি তৈরি করেছিলাম এবং বাকী হুমকির বিবরণ উত্পন্ন করতে পেরেছিলাম। আমরা এই উত্পন্ন বিবরণটি সাইবারথ্রেট শিকারীদের কাছে উপস্থাপন করেছি, যারা সাইবারসিকিউরিটির হুমকির বিষয়ে প্রচুর তথ্য অনুসন্ধান করেন। এই পেশাদাররা সম্ভাব্য আক্রমণ সনাক্ত করতে এবং তাদের সিস্টেমের প্রতিরক্ষা সামঞ্জস্য করতে হুমকির বিবরণ পড়ে read

আমরা ফলাফল দেখে অবাক হয়েছি। আমরা যে সাইবারসিকিউরিটি অপব্যাখ্যার উদাহরণ উত্পন্ন করেছিলাম সেগুলি সাইবারথ্রেট শিকারীদের বোকা বানাতে সক্ষম হয়েছিল, যারা সমস্ত ধরণের সাইবার সিকিউরিটি আক্রমণ এবং দুর্বলতা সম্পর্কে জ্ঞাত। সাইবারথ্রিট বুদ্ধিমত্তার একটি গুরুত্বপূর্ণ টুকরো দিয়ে এই দৃশ্যটি কল্পনা করুন যা বিমান সংস্থাটিকে জড়িত করে, যা আমরা আমাদের গবেষণায় তৈরি করেছি।

এই বিভ্রান্তিকর তথ্যের সংবেদনশীল রিয়েল-টাইম ফ্লাইট ডেটা সহ বিমান সংস্থাগুলিতে সাইবারট্যাকগুলি সম্পর্কিত ভুল তথ্য রয়েছে। এই ভুয়া তথ্যটি সাইবার বিশ্লেষকদের ভুয়া সফ্টওয়্যার বাগগুলিতে তাদের দৃষ্টি আকর্ষণ করে তাদের সিস্টেমে বৈধ দুর্বলতার দিকে নজর দেওয়া থেকে বিরত রাখতে পারে। কোনও সাইবার বিশ্লেষক যদি বাস্তব-জগতের দৃশ্যে জাল তথ্য নিয়ে কাজ করে, তবে প্রশ্নযুক্ত বিমান সংস্থাটি মারাত্মক আক্রমণাত্মক পরিস্থিতির সম্মুখীন হতে পারে যা একটি বাস্তব, অমনোযোগী দুর্বলতা কাজে লাগায়।

অনুরূপ ট্রান্সফরমার-ভিত্তিক মডেল চিকিত্সা ডোমেনে তথ্য উত্পন্ন করতে পারে এবং চিকিত্সা বিশেষজ্ঞদের বোকা বানাতে পারে। COVID-19 মহামারী চলাকালীন, গবেষণা কাগজপত্রগুলির প্রিন্টস যা এখনও কঠোর পর্যালোচনা করেনি সেগুলি এই ধরণের সাইটে ক্রমাগত আপলোড করা হয় medrXiv। সেগুলি কেবল সংবাদমাধ্যমে বর্ণিত হচ্ছে না তবে জনস্বাস্থ্য সংক্রান্ত সিদ্ধান্ত নেওয়ার জন্য ব্যবহৃত হচ্ছে। নিম্নলিখিত বিবেচনা করুন, যা বাস্তব নয় তবে কিছু COVID-19 সম্পর্কিত কাগজগুলিতে ডিফল্ট GPT-2 এর ন্যূনতম সূক্ষ্ম-সুর করার পরে আমাদের মডেল দ্বারা উত্পন্ন।

মডেলটি সম্পূর্ণ বাক্য তৈরি করতে সক্ষম হয়েছিল এবং COVID-19 টিকাদানের পার্শ্ব প্রতিক্রিয়া এবং পরিচালিত পরীক্ষাগুলির বিবরণ দিয়ে একটি বিমূর্ততা তৈরি করতে সক্ষম হয়েছিল। চিকিত্সা গবেষকদের, যারা অবগতভাবে অবগতভাবে সিদ্ধান্ত গ্রহণের জন্য সঠিক তথ্যের উপর নির্ভর করে এবং সাধারণ জনগণের সদস্যদের জন্য, যারা প্রায়শই স্বাস্থ্যসম্মত তথ্য সম্পর্কিত গুরুতর তথ্যের বিষয়ে জানার জন্য জনসাধারণের খবরের উপর নির্ভর করে তাদের পক্ষে এটি উভয়ই উদ্বেগজনক। যথাযথ হিসাবে গ্রহণ করা হলে, এই ধরণের ভুল তথ্য জীব বিজ্ঞান পরিচালিত বিজ্ঞানীদের প্রচেষ্টাকে ভুল নির্দেশিত করে জীবনকে ঝুঁকির মধ্যে ফেলতে পারে।

[The Conversation’s most important coronavirus headlines, weekly in a science newsletter]

একটি এআই ভুল তথ্য দেওয়ার জন্য রেস?

যদিও আমাদের অধ্যয়নের এই জাতীয় উদাহরণগুলি সত্য-যাচাই করা যেতে পারে, ট্রান্সফর্মার-উত্পাদিত ভুল তথ্যগুলি তথ্য ওভারলোডে সহায়তা করতে এআই গ্রহণের ক্ষেত্রে স্বাস্থ্যসেবা এবং সাইবারসিকিউরিটির মতো শিল্পকে বাধা দেয়। উদাহরণস্বরূপ, সাইবারথ্রেট বুদ্ধি থেকে ডেটা আহরণের জন্য অটোমেটেড সিস্টেমগুলি বিকাশ করা হচ্ছে যা তারপরে সম্ভাব্য আক্রমণগুলি সনাক্ত করতে স্বয়ংক্রিয় সিস্টেমগুলিকে অবহিত করতে এবং প্রশিক্ষণের জন্য ব্যবহৃত হয়। যদি এই স্বয়ংক্রিয় সিস্টেমগুলি এই জাতীয় মিথ্যা সাইবারসিকিউরিটি পাঠ্য প্রক্রিয়াকরণ করে তবে সত্যিকারের হুমকি সনাক্ত করতে তারা কম কার্যকর হবে।

আমরা বিশ্বাস করি যে ফলশ্রুতি একটি অস্ত্র প্রতিযোগিতা হতে পারে কারণ ভুল তথ্য ছড়িয়ে দেওয়া লোকেরা এটির কার্যকর উপায়গুলির প্রতিক্রিয়া হিসাবে মিথ্যা তথ্য তৈরির আরও ভাল উপায় বিকাশ করে।

সাইবারসিকিউরিটির গবেষকরা ক্রমাগত বিভিন্ন ডোমেনে ভুল তথ্য সনাক্ত করার উপায়গুলি অধ্যয়ন করেন। কীভাবে স্বয়ংক্রিয়ভাবে ভুল তথ্য উত্পন্ন করা যায় তা বোঝার জন্য এটি কীভাবে সনাক্ত করা যায় তা বুঝতে সহায়তা করে। উদাহরণস্বরূপ, স্বয়ংক্রিয়ভাবে উত্পন্ন তথ্যগুলির মধ্যে প্রায়শই সূক্ষ্ম ব্যাকরণগত ভুল থাকে যা সিস্টেমগুলি সনাক্ত করতে প্রশিক্ষণ দেওয়া যেতে পারে। সিস্টেমগুলি একাধিক উত্স থেকে তথ্যকেও আন্তঃসম্পর্কিত করতে পারে এবং অন্যান্য উত্স থেকে যথেষ্ট সমর্থন না থাকা দাবিগুলি সনাক্ত করতে পারে।

চূড়ান্তভাবে, প্রত্যেকেরই কী তথ্য নির্ভরযোগ্য তা সম্পর্কে আরও সচেতন হওয়া উচিত এবং সচেতন হওয়া উচিত যে হ্যাকাররা জনগণের বিশ্বাসযোগ্যতা কাজে লাগায়, বিশেষত যদি তথ্যটি খ্যাতিমান সংবাদ উত্স বা প্রকাশিত বৈজ্ঞানিক কাজ থেকে প্রাপ্ত না হয়।

লেখক: প্রিয়াঙ্কা রানাডে – কম্পিউটার সায়েন্স অ্যান্ড ইলেকট্রিক্যাল ইঞ্জিনিয়ারিংয়ে পিএইচডি শিক্ষার্থী, মেরিল্যান্ড বিশ্ববিদ্যালয়, বাল্টিমোর কাউন্টি | অনুপম জোশী – বাল্টিমোর কাউন্টি, মেরিল্যান্ড বিশ্ববিদ্যালয়, কম্পিউটার সায়েন্স অ্যান্ড ইলেকট্রিক্যাল ইঞ্জিনিয়ারিংয়ের অধ্যাপক টিম ফিনিন – বাল্টিমোর কাউন্টি, মেরিল্যান্ড বিশ্ববিদ্যালয়, কম্পিউটার সায়েন্স এবং বৈদ্যুতিক প্রকৌশল অধ্যাপক





Source link