এআই কন্টেন্ট ডিটেক্টর কাজ করে না, এবং এটি একটি বড় সমস্যা

এআই কন্টেন্ট ডিটেক্টর কাজ করে না, এবং এটি একটি বড় সমস্যা
আপনার মত পাঠকরা MUO সমর্থন করতে সাহায্য করে। আপনি যখন আমাদের সাইটে লিঙ্ক ব্যবহার করে একটি ক্রয় করেন, আমরা একটি অনুমোদিত কমিশন উপার্জন করতে পারি। আরও পড়ুন

আর্টিফিশিয়াল ইন্টেলিজেন্স (AI) আমাদের সমাজের সমগ্র অংশকে পরিবর্তন করবে আমরা পছন্দ করি বা না করি, এবং এতে ওয়ার্ল্ড ওয়াইড ওয়েব অন্তর্ভুক্ত রয়েছে।





ChatGPT-এর মতো সফ্টওয়্যার ইন্টারনেট কানেকশন সহ যেকোনও ব্যক্তির জন্য উপলব্ধ থাকায়, AI-উত্পন্ন সামগ্রীকে একজন মানুষের দ্বারা তৈরি করা থেকে আলাদা করা ক্রমশ কঠিন হয়ে উঠছে৷ ভাল জিনিস আমাদের এআই কন্টেন্ট ডিটেক্টর আছে, তাই না?





দিনের মেকইউজের ভিডিও কন্টেন্টের সাথে চালিয়ে যেতে স্ক্রোল করুন

এআই কন্টেন্ট ডিটেক্টর কি কাজ করে?

এআই কন্টেন্ট ডিটেক্টর হল বিশেষ টুল যা নির্ধারণ করে যে কিছু একটা কম্পিউটার প্রোগ্রাম নাকি মানুষের দ্বারা লেখা হয়েছে। আপনি যদি শুধু 'এআই কন্টেন্ট ডিটেক্টর' শব্দটি গুগল করেন তবে আপনি দেখতে পাবেন কয়েক ডজন ডিটেক্টর আছে সেখানে, সবাই দাবি করে যে তারা নির্ভরযোগ্যভাবে মানব এবং অ-মানব পাঠ্যের মধ্যে পার্থক্য করতে পারে।





তারা যেভাবে কাজ করে তা মোটামুটি সহজ: আপনি লেখার একটি অংশ পেস্ট করেন এবং টুলটি আপনাকে বলে যে এটি AI দ্বারা তৈরি হয়েছে কিনা। আরও প্রযুক্তিগত পরিভাষায়, প্রাকৃতিক ভাষা প্রক্রিয়াকরণ কৌশল এবং মেশিন লার্নিং অ্যালগরিদমগুলির সংমিশ্রণ ব্যবহার করে, এআই বিষয়বস্তু সনাক্তকারীরা প্যাটার্ন এবং অনুমানযোগ্যতা সন্ধান করে এবং এর ভিত্তিতে কল করে।

এটি কাগজে দুর্দান্ত শোনাচ্ছে, তবে আপনি যদি কখনও একটি AI সনাক্তকরণ সরঞ্জাম ব্যবহার করে থাকেন তবে আপনি খুব ভালভাবে জানেন যে তারা হিট-এন্ড-মিস, এটিকে হালকাভাবে বলতে গেলে। প্রায়শই, তারা AI হিসাবে মানুষের লিখিত বিষয়বস্তু বা AI-উত্পন্ন হিসাবে মানুষের দ্বারা তৈরি পাঠ্য সনাক্ত করে। প্রকৃতপক্ষে, কিছু তাদের যা করা উচিত তা নিয়ে বিব্রতকরভাবে খারাপ।



এআই কন্টেন্ট ডিটেক্টর কতটা সঠিক?

আপনি যদি মার্কিন যুক্তরাষ্ট্রে থাকেন, তাহলে 'AI কন্টেন্ট ডিটেক্টর'-এর জন্য প্রথম Google সার্চের ফলাফল হল writer.com (আগে কোরডোবা নামে পরিচিত; এটি একটি AI কন্টেন্ট প্ল্যাটফর্ম যার নিজস্ব ডিটেক্টরও রয়েছে)। কিন্তু যখন আপনি এই র্যান্ডম একটি অংশ পেস্ট সহকারী ছাপাখানা টুলটিতে নিবন্ধ, এটি দাবি করে যে এটি কৃত্রিম বুদ্ধিমত্তা দ্বারা উত্পন্ন হওয়ার খুব ভাল সুযোগ রয়েছে।

ইউটিউব ছাড়া অন্য ভিডিও সার্চ ইঞ্জিন
  writer.com's AI content detector, screenshot

সুতরাং, writer.com এটি ভুল পেয়েছে।





ন্যায্যভাবে বলতে গেলে, অন্যান্য এআই কন্টেন্ট ডিটেক্টর কমই ভালো। তারা শুধুমাত্র মিথ্যা ইতিবাচক উত্পাদন করে না, তারা AI সামগ্রীকে মানুষ হিসাবে চিহ্নিত করে। এবং এমনকি যখন তারা না করে, AI-উত্পাদিত টেক্সটে ছোটখাটো পরিবর্তন করা উড়ন্ত রঙের সাথে পাস করার জন্য যথেষ্ট।

ফেব্রুয়ারী 2023-এ, ইউনিভার্সিটি অফ উলংগং-এর প্রভাষক আরমিন আলিমারদানি এবং ইউএনএসডব্লিউ সিডনির সহযোগী অধ্যাপক এমা এ. জেন বেশ কয়েকটি জনপ্রিয় AI কন্টেন্ট ডিটেক্টর পরীক্ষা করেছেন, যেগুলির মধ্যে একটিও নির্ভরযোগ্য নয়। তাদের বিশ্লেষণে, যা প্রকাশিত হয়েছিল কথোপকথোন , আলীমর্দানি এবং জেন উপসংহারে পৌঁছেছেন যে টেক্সট জেনারেটর এবং ডিটেক্টরের মধ্যে এই এআই 'অস্ত্রের প্রতিযোগিতা' ভবিষ্যতে একটি উল্লেখযোগ্য চ্যালেঞ্জ তৈরি করবে, বিশেষ করে শিক্ষাবিদদের জন্য।

কিন্তু এটা শুধু শিক্ষক এবং শিক্ষকদেরই নয় যাদের উদ্বেগের কারণ আছে: প্রত্যেকেই তা করে। যেহেতু AI-উত্পন্ন পাঠ্য সর্বব্যাপী হয়ে ওঠে, কোনটি 'বাস্তব' এবং কোনটি নয় তার মধ্যে পার্থক্য করতে সক্ষম হয়, অর্থাৎ আসলে AI দ্বারা কিছু লেখার সময় দেখা , আরো কঠিন হয়ে যাবে। এটি কার্যত সমস্ত শিল্প এবং সমাজের ক্ষেত্রে, এমনকি ব্যক্তিগত সম্পর্কের উপর ব্যাপক প্রভাব ফেলবে।

সাইবার নিরাপত্তা এবং গোপনীয়তার জন্য AI এর প্রভাব

কোন কিছু সফ্টওয়্যার বা একজন মানুষের দ্বারা তৈরি করা হয়েছে কিনা তা নির্ধারণ করার জন্য কোন নির্ভরযোগ্য প্রক্রিয়া নেই যে সাইবার নিরাপত্তা এবং গোপনীয়তার জন্য গুরুতর প্রভাব রয়েছে।

ইতিমধ্যেই হুমকি অভিনেতারা ম্যালওয়্যার লিখতে ChatGPT ব্যবহার করে , ফিশিং ইমেল তৈরি করুন, স্প্যাম লিখুন, স্ক্যাম সাইট তৈরি করুন এবং আরও অনেক কিছু। এবং যখন এর বিরুদ্ধে রক্ষা করার উপায় রয়েছে, এটি অবশ্যই উদ্বেগজনক যে জৈব এবং বট সামগ্রীর মধ্যে নির্ভরযোগ্যভাবে পার্থক্য করতে সক্ষম এমন কোনও সফ্টওয়্যার নেই।

জাল খবর, এছাড়াও, ইতিমধ্যে একটি বিশাল সমস্যা. ছবিতে জেনারেটিভ এআই সহ, বিভ্রান্তিকর এজেন্টরা তাদের ক্রিয়াকলাপগুলি অভূতপূর্ব উপায়ে স্কেল করতে সক্ষম হয়৷ একজন নিয়মিত ব্যক্তি, ইতিমধ্যে, জানার কোন উপায় নেই যে তারা অনলাইনে কিছু পড়ছেন তা সফ্টওয়্যার বা মানুষ দ্বারা তৈরি করা হয়েছে কিনা।

আপনি কোথায় বিনামূল্যে মুদ্রণ করতে পারেন?

গোপনীয়তা সম্পূর্ণ ভিন্ন বিষয়। উদাহরণস্বরূপ, ChatGPT নিন। ইহা ছিল 300 বিলিয়নেরও বেশি শব্দ খাওয়ানো হয়েছে এর লঞ্চের আগে। এই বিষয়বস্তু বই, ব্লগ এবং ফোরাম পোস্ট, নিবন্ধ, এবং সামাজিক মিডিয়া থেকে তুলে নেওয়া হয়েছে. এটি কারও সম্মতি ছাড়াই সংগ্রহ করা হয়েছিল এবং গোপনীয়তা এবং কপিরাইট সুরক্ষার জন্য আপাতদৃষ্টিতে সম্পূর্ণ উপেক্ষা করে।

তারপর মিথ্যা ইতিবাচক সমস্যা আছে. যদি বিষয়বস্তু ভুলভাবে AI-উত্পাদিত হিসাবে পতাকাঙ্কিত হয়, তবে এটি কি সেন্সরশিপের দিকে নিয়ে যেতে পারে না, যা যাইহোক একটি বিশাল সমস্যা? এআই-তৈরি পাঠ্য ব্যবহার করার জন্য অভিযুক্ত হওয়া ক্ষতির কথা উল্লেখ না করা অনলাইন এবং বাস্তব উভয় ক্ষেত্রেই একজনের খ্যাতির ক্ষতি করতে পারে।

যদি প্রকৃতপক্ষে জেনারেটিভ এআই এবং কন্টেন্ট ডিটেক্টরের মধ্যে অস্ত্রের প্রতিযোগিতা হয়, তবে প্রাক্তনটি বিজয়ী হয়। কি খারাপ, কোন সমাধান আছে বলে মনে হচ্ছে. আমাদের অর্ধেক বেকড পণ্য রয়েছে যা অর্ধেক সময়ও কাজ করে না, বা খুব সহজেই প্রতারিত হতে পারে।

কিভাবে roblox এ একটি গেম তৈরি করবেন

কীভাবে এআই সামগ্রী সনাক্ত করবেন: সম্ভাব্য সমাধান

বর্তমানে আমাদের কাছে এই সমস্যার প্রকৃত উত্তর আছে বলে মনে হচ্ছে না এর মানে এই নয় যে ভবিষ্যতে আমাদের কাছে কোনো উত্তর থাকবে না। আসলে, ইতিমধ্যে বেশ কয়েকটি গুরুতর প্রস্তাব রয়েছে যা কাজ করতে পারে। ওয়াটারমার্কিং একটি।

যখন AI এবং গভীর ভাষার মডেলের কথা আসে, তখন ওয়াটারমার্কিং বলতে বোঝায় এআই-জেনারেট করা টেক্সটে (যেমন শব্দের প্যাটার্ন, বিরাম চিহ্নের শৈলী) মধ্যে গোপন কোড এম্বেড করা। এই ধরনের একটি জলছাপ খালি চোখে অদৃশ্য হবে, এবং এইভাবে অপসারণ করা অসম্ভব, তবে বিশেষ সফ্টওয়্যার এটি সনাক্ত করতে সক্ষম হবে।

আসলে, 2022 সালে, মেরিল্যান্ড বিশ্ববিদ্যালয় গবেষকরা কৃত্রিম নিউরাল নেটওয়ার্কের জন্য একটি নতুন ওয়াটারমার্কিং পদ্ধতি তৈরি করেছেন। প্রধান গবেষক টম গোল্ডস্টেইন সেই সময়ে বলেছিলেন যে তার দল 'গাণিতিকভাবে প্রমাণ করতে' সক্ষম হয়েছে যে তাদের ওয়াটারমার্ক পুরোপুরি মুছে ফেলা যাবে না।

আপাতত, একজন নিয়মিত ব্যক্তি যা করতে পারে তা হল তাদের প্রবৃত্তি এবং সাধারণ জ্ঞানের উপর নির্ভর করে। আপনি যে বিষয়বস্তুটি পড়ছেন তাতে যদি কিছু বন্ধ থাকে—যদি এটি অপ্রাকৃতিক, পুনরাবৃত্তিমূলক, অকল্পনীয়, সাধারণ মনে হয়—সেটি সফ্টওয়্যার দ্বারা তৈরি করা হতে পারে৷ অবশ্যই, আপনি অনলাইনে যে কোনও তথ্য দেখেন তাও আপনার যাচাই করা উচিত, উত্সটি দুবার পরীক্ষা করুন এবং ছায়াময় ওয়েবসাইটগুলি থেকে দূরে থাকুন৷

এআই বিপ্লব চলছে

কেউ কেউ যুক্তি দেন যে পঞ্চম শিল্প বিপ্লব ইতিমধ্যেই এখানে রয়েছে, কারণ কৃত্রিম বুদ্ধিমত্তাকে কেন্দ্রীভূত করা হয়েছে যা ডিজিটাল এবং ভৌতিকের মিলন হিসাবে বর্ণনা করা হচ্ছে। সেটা আসলেই হোক বা না হোক, আমরা যা করতে পারি তা হল মানিয়ে নেওয়া।

ভাল খবর হল, সাইবার নিরাপত্তা শিল্প এই নতুন বাস্তবতার সাথে মানিয়ে নিচ্ছে, এবং এআই এবং মেশিন লার্নিংকে সামনে রেখে নতুন প্রতিরক্ষা কৌশল বাস্তবায়ন করছে।