Home-theater-designers
মেশিন লার্নিং কৃত্রিম বুদ্ধিমত্তা তৈরি করার একটি দুর্দান্ত উপায় যা শক্তিশালী এবং এর প্রশিক্ষণ ডেটার সাথে খাপ খায়। কিন্তু কখনও কখনও, সেই ডেটা সমস্যার কারণ হতে পারে। অন্য সময়, লোকেরা যেভাবে এই AI সরঞ্জামগুলি ব্যবহার করে তা হল সমস্যা।
এখানে কিছু হাই-প্রোফাইল ঘটনার দিকে নজর দেওয়া হয়েছে যেখানে মেশিন লার্নিংয়ের ফলে সমস্যাযুক্ত ফলাফল হয়েছে।
আইফোনে আইক্লাউডে সাইন ইন করতে পারে নাদিনের মেকইউজের ভিডিও কন্টেন্টের সাথে চালিয়ে যেতে স্ক্রোল করুন
1. গুগল ইমেজ সার্চ ফলাফল দুর্ঘটনা
গুগল সার্চ ওয়েবে নেভিগেট করাকে অনেক সহজ করে দিয়েছে। ফলাফল মন্থন করার সময় ইঞ্জিনের অ্যালগরিদম বিভিন্ন বিষয় বিবেচনা করে। কিন্তু অ্যালগরিদম ব্যবহারকারীর ট্র্যাফিক থেকেও শেখে, যা অনুসন্ধান ফলাফলের গুণমানের জন্য সমস্যা সৃষ্টি করতে পারে।
ইমেজ ফলাফলের চেয়ে এটি আর কোথাও স্পষ্ট নয়। যেহেতু উচ্চ ট্রাফিক প্রাপ্ত পৃষ্ঠাগুলিতে তাদের চিত্রগুলি প্রদর্শিত হওয়ার সম্ভাবনা বেশি, তাই ক্লিকবেট সহ বেশি সংখ্যক ব্যবহারকারীকে আকর্ষণ করে এমন গল্পগুলিকে অগ্রাধিকার দেওয়া যেতে পারে।
উদাহরণস্বরূপ, 'দক্ষিণ আফ্রিকার স্কোয়াটার ক্যাম্প' এর চিত্র অনুসন্ধানের ফলাফলগুলি বিতর্কের সৃষ্টি করেছিল যখন এটি আবিষ্কৃত হয় যে এটিতে প্রধানত সাদা দক্ষিণ আফ্রিকানদের বৈশিষ্ট্য রয়েছে৷ এটি এমন পরিসংখ্যান সত্ত্বেও দেখা যাচ্ছে যে অনানুষ্ঠানিক আবাসনে বসবাসকারীদের সিংহভাগই কালো দক্ষিণ আফ্রিকান।
Google-এর অ্যালগরিদমে ব্যবহৃত ফ্যাক্টরগুলির মানে হল যে ইন্টারনেট ব্যবহারকারীরা ফলাফল ম্যানিপুলেট করতে পারে। উদাহরণস্বরূপ, ব্যবহারকারীদের দ্বারা একটি প্রচারাভিযান Google ইমেজ সার্চ ফলাফলকে এতটা প্রভাবিত করেছিল যে 'ইডিয়ট' শব্দটি অনুসন্ধান করলে কিছু সময়ের জন্য প্রাক্তন মার্কিন প্রেসিডেন্ট ডোনাল্ড ট্রাম্পের ছবি দেখা যায়।
2. মাইক্রোসফট বট টে নাৎসিতে পরিণত হয়েছে
AI-চালিত চ্যাটবটগুলি অত্যন্ত জনপ্রিয়, বিশেষ করে যেগুলি ChatGPT-এর মতো বড় ভাষা মডেল দ্বারা চালিত৷ ChatGPT এর বেশ কিছু সমস্যা আছে , কিন্তু এর নির্মাতারাও অন্যান্য কোম্পানির ভুল থেকে শিক্ষা নিয়েছেন।
চ্যাটবটগুলি বিভ্রান্ত হওয়ার সবচেয়ে হাই-প্রোফাইল ঘটনাগুলির মধ্যে একটি হল মাইক্রোসফ্ট এর চ্যাটবট টে চালু করার প্রচেষ্টা।
টে একজন কিশোরী মেয়ের ভাষার ধরণ নকল করেছেন এবং অন্যান্য টুইটার ব্যবহারকারীদের সাথে তার মিথস্ক্রিয়া থেকে শিখেছেন। যাইহোক, যখন তিনি নাৎসি বিবৃতি এবং জাতিগত অপবাদ শেয়ার করতে শুরু করেছিলেন তখন তিনি সবচেয়ে কুখ্যাত এআই মিসস্টেপ হয়েছিলেন। দেখা যাচ্ছে যে ট্রলরা AI এর মেশিন লার্নিংকে এর বিরুদ্ধে ব্যবহার করেছিল, এটিকে ধর্মান্ধতায় ভরপুর মিথস্ক্রিয়ায় প্লাবিত করেছিল।
কিছুক্ষণ পরে, মাইক্রোসফ্ট টেকে অফলাইনে নিয়ে যায়।
3. এআই ফেসিয়াল রিকগনিশন সমস্যা
মুখের স্বীকৃতি AI প্রায়শই সমস্ত ভুল কারণে শিরোনাম করে, যেমন মুখের শনাক্তকরণ এবং গোপনীয়তার উদ্বেগের গল্প। কিন্তু রঙের মানুষদের চিনতে চেষ্টা করার সময় এই AI এর একটি সমস্যাযুক্ত ইতিহাস রয়েছে।
2015 সালে, ব্যবহারকারীরা আবিষ্কার করেছিলেন যে Google Photos কিছু কালো মানুষকে গরিলা হিসাবে শ্রেণীবদ্ধ করছে। 2018 সালে, ACLU-এর গবেষণায় দেখা গেছে যে Amazon-এর রিকগনিশন ফেস আইডেন্টিফিকেশন সফ্টওয়্যার মার্কিন কংগ্রেসের 28 জন সদস্যকে পুলিশ সন্দেহভাজন হিসাবে চিহ্নিত করেছে, মিথ্যা ইতিবাচকগুলি অসামঞ্জস্যপূর্ণভাবে রঙের লোকদের প্রভাবিত করে।
আরেকটি ঘটনা জড়িত অ্যাপলের ফেস আইডি সফ্টওয়্যার ভুলভাবে দুই ভিন্ন চীনা নারীকে একই ব্যক্তি হিসেবে চিহ্নিত করেছে। ফলে আইফোন এক্স মালিকের সহকর্মী ফোনটি আনলক করতে পারে।
চরম পরিণতির উদাহরণে, ফেসিয়াল রিকগনিশন এআই বেশ কিছু লোককে অন্যায়ভাবে গ্রেপ্তার করেছে। তারযুক্ত এরকম তিনটি ক্ষেত্রে রিপোর্ট করা হয়েছে।
ইতিমধ্যে, কম্পিউটার বিজ্ঞানী জয় বুওলামউইনি স্মরণ করেছেন যে সফ্টওয়্যারটি তাকে চিনতে পারে তার জন্য মুখের শনাক্তকরণ প্রযুক্তিতে কাজ করার সময় প্রায়শই একটি সাদা মুখোশ পরতে হয়। এই ধরনের সমস্যাগুলি সমাধান করার জন্য, বুওলামউইনি এবং অন্যান্য আইটি পেশাদাররা AI পক্ষপাতের সমস্যা এবং আরও অন্তর্ভুক্ত ডেটাসেটের প্রয়োজনীয়তার দিকে মনোযোগ দিচ্ছেন।
4. ডিপফেক প্রতারণার জন্য ব্যবহৃত হয়
যদিও লোকেরা দীর্ঘকাল ধরে প্রতারণামূলক ছবি তৈরি করতে ফটোশপ ব্যবহার করেছে, মেশিন লার্নিং এটিকে একটি নতুন স্তরে নিয়ে যায়। ডিপফেকগুলি নকল ছবি এবং ভিডিও তৈরি করতে গভীর শিক্ষার AI ব্যবহার করে৷ . ফেসঅ্যাপের মতো সফ্টওয়্যার আপনাকে একটি ভিডিও থেকে অন্য ভিডিওতে ফেস-অদলবদল করতে দেয়।
কিন্তু অনেক লোক বিভিন্ন ধরনের দূষিত ব্যবহারের জন্য সফ্টওয়্যারটিকে কাজে লাগায়, যার মধ্যে সেলিব্রিটিদের মুখ প্রাপ্তবয়স্কদের ভিডিওতে তুলে দেওয়া বা প্রতারণামূলক ভিডিও তৈরি করা। ইতিমধ্যে, ইন্টারনেট ব্যবহারকারীরা প্রযুক্তির উন্নতিতে সাহায্য করেছে যাতে করে আসল ভিডিওগুলিকে নকল ভিডিও থেকে আলাদা করা ক্রমবর্ধমান কঠিন হয়৷ ফলস্বরূপ, এটি জাল খবর এবং প্রতারণা ছড়ানোর ক্ষেত্রে এই ধরনের এআইকে অত্যন্ত শক্তিশালী করে তোলে।
প্রযুক্তির শক্তি দেখানোর জন্য, পরিচালক জর্ডান পিল এবং বাজফিডের সিইও জোনাহ পেরেটি একটি ডিপফেক ভিডিও তৈরি করেছেন যা দেখায় যে প্রাক্তন মার্কিন প্রেসিডেন্ট বারাক ওবামা ডিপফেকের শক্তিতে একটি PSA প্রদান করছেন৷
AI দ্বারা চালিত ইমেজ জেনারেটর দ্বারা জাল ছবির শক্তি ত্বরান্বিত হয়েছে। 2023 সালে ভাইরাল পোস্টগুলি যাতে ডোনাল্ড ট্রাম্পকে গ্রেপ্তার করা হয়েছে এবং একটি পাফার জ্যাকেটে ক্যাথলিক পোপকে জেনারেটিভ AI এর ফলাফল হিসাবে দেখা গেছে।
উইন্ডোজ 10 ব্যবহারকারীর ফোল্ডার অন্য ড্রাইভে সরান
সেখানে টিপস আপনি একটি AI-উত্পাদিত চিত্র দেখতে অনুসরণ করতে পারেন কিন্তু প্রযুক্তি ক্রমবর্ধমান পরিশীলিত হয়ে উঠছে।
5. কর্মচারীরা বলে যে অ্যামাজন এআই সিদ্ধান্ত নিয়েছে পুরুষদের নিয়োগ করা ভাল
অক্টোবর 2018 এ, রয়টার্স রিপোর্ট করেছে যে সফ্টওয়্যারের এআই পুরুষ প্রার্থীদের অগ্রাধিকার দেওয়ার সিদ্ধান্ত নেওয়ার পরে অ্যামাজন একটি চাকরি-নিয়োগ সরঞ্জাম স্ক্র্যাপ করতে হয়েছিল।
যে কর্মচারীরা বেনামী থাকতে ইচ্ছুক তারা রয়টার্সকে প্রকল্পে তাদের কাজ সম্পর্কে জানাতে এগিয়ে এসেছিলেন। বিকাশকারীরা চেয়েছিল যে AI তাদের সিভির উপর ভিত্তি করে চাকরির জন্য সেরা প্রার্থীদের চিহ্নিত করবে। যাইহোক, প্রকল্পের সাথে জড়িত লোকেরা শীঘ্রই লক্ষ্য করেছে যে AI মহিলা প্রার্থীদের শাস্তি দিয়েছে। তারা ব্যাখ্যা করেছে যে AI গত দশক থেকে CV ব্যবহার করেছে, যার বেশিরভাগই ছিল পুরুষদের থেকে, এর প্রশিক্ষণ ডেটাসেট হিসাবে।
ফলস্বরূপ, AI কীওয়ার্ড 'নারী' এর উপর ভিত্তি করে সিভি ফিল্টার করা শুরু করে। কীওয়ার্ডটি 'মহিলা দাবা ক্লাবের অধিনায়ক' এর মতো কার্যকলাপের অধীনে সিভিতে উপস্থিত হয়েছিল। ডেভেলপাররা মহিলাদের সিভির এই শাস্তি রোধ করার জন্য এআই পরিবর্তন করলে, আমাজন শেষ পর্যন্ত প্রকল্পটি বাতিল করে দেয়।
6. জেলব্রোকেন চ্যাটবট
যদিও নতুন চ্যাটবটগুলিতে তাদের পরিষেবার শর্তাবলীর বিরুদ্ধে যায় এমন উত্তর দেওয়া থেকে বাধা দেওয়ার জন্য সীমাবদ্ধতা রয়েছে, ব্যবহারকারীরা নিষিদ্ধ সামগ্রী সরবরাহ করার জন্য সরঞ্জামগুলিকে জেলব্রেক করার উপায় খুঁজে পাচ্ছেন।
2023 সালে, একজন ফোর্সপয়েন্ট নিরাপত্তা গবেষক অ্যারন মুলগ্রু চ্যাটজিপিটি প্রম্পট ব্যবহার করে জিরো-ডে ম্যালওয়্যার তৈরি করতে সক্ষম হন।
'শুধু ChatGPT প্রম্পট ব্যবহার করে, এবং কোন কোড না লিখে, আমরা মাত্র কয়েক ঘন্টার মধ্যে একটি খুব উন্নত আক্রমণ তৈরি করতে সক্ষম হয়েছি,' মুলগ্রু একটি বার্তায় বলেছিলেন। ফোর্সপয়েন্ট পোস্ট .
ব্যবহারকারীরা কীভাবে বোমা তৈরি করতে বা গাড়ি চুরি করতে হয় সে সম্পর্কে নির্দেশনা দেওয়ার জন্য চ্যাটবট পেতে সক্ষম হয়েছে বলে জানা গেছে।
7. স্ব-ড্রাইভিং গাড়ী ক্র্যাশ
স্ব-চালিত AI দ্বারা করা ভুলের কারণে স্বায়ত্তশাসিত যানবাহনের জন্য উত্সাহ তার প্রাথমিক হাইপ পর্যায় থেকে হ্রাস পেয়েছে। 2022 সালে, ওয়াশিংটন পোস্ট রিপোর্ট করেছে যে মোটামুটি এক বছরে, উন্নত ড্রাইভার-সহায়তা সিস্টেমের সাথে জড়িত 392টি ক্র্যাশ ইউএস ন্যাশনাল হাইওয়ে ট্রাফিক সেফটি অ্যাডমিনিস্ট্রেশনকে রিপোর্ট করা হয়েছে।
এই দুর্ঘটনাগুলির মধ্যে গুরুতর আহত এবং ছয়টি প্রাণহানির ঘটনা অন্তর্ভুক্ত রয়েছে।
যদিও এটি টেসলার মতো কোম্পানিগুলিকে সম্পূর্ণ স্বায়ত্তশাসিত যানবাহন চালানো থেকে বিরত করেনি, এটি দুর্ঘটনা বৃদ্ধির বিষয়ে উদ্বেগ বাড়িয়েছে কারণ স্ব-ড্রাইভিং সফ্টওয়্যার সহ আরও গাড়ি রাস্তায় চলাচল করে।
কিভাবে ইউএসবি সিকিউরিটি কী বানাবেন
মেশিন লার্নিং এআই ফুলপ্রুফ নয়
যদিও মেশিন লার্নিং শক্তিশালী AI টুল তৈরি করতে পারে, তারা খারাপ ডেটা বা মানুষের টেম্পারিং থেকে মুক্ত নয়। ত্রুটিপূর্ণ প্রশিক্ষণের তথ্য, AI প্রযুক্তির সীমাবদ্ধতা বা খারাপ অভিনেতাদের ব্যবহারের কারণেই হোক না কেন, এই ধরনের AI অনেক নেতিবাচক ঘটনা ঘটিয়েছে।