یافتن راهی برای جلوگیری از مدل‌های صوتی گمراه‌کننده برای یادگیری ماشینی هوش مصنوعی – ScienceDaily

[ad_1]

هشدارهایی در مورد غیرقابل اعتماد بودن نشانگرهای مورد استفاده برای تشخیص اینکه آیا تداخل صوتی طراحی شده برای گمراه کردن مدل‌های هوش مصنوعی توسط انسان قابل درک است یا خیر، ظاهر شده است. محققان دانشگاه UPV/EHU از کشور باسک نشان می‌دهند که نشانگرهای اعوجاج مورد استفاده برای تشخیص تداخل عمدی در سیگنال‌های صوتی معیار قابل اعتمادی برای درک انسان نیستند و یک سری پیشرفت‌ها را پیشنهاد کرده‌اند. این اختلالات که به صورت نامرئی طراحی شده اند، می توانند برای ایجاد پیش بینی های اشتباه در هوش مصنوعی مورد استفاده قرار گیرند. شاخص های اعوجاج برای ارزیابی میزان موثر بودن روش ها در ایجاد چنین حملاتی استفاده می شود.

هوش مصنوعی (AI) به طور فزاینده ای مبتنی بر مدل های یادگیری ماشینی است که با استفاده از مجموعه داده های بزرگ آموزش دیده اند. به طور مشابه، تعامل انسان و رایانه به طور فزاینده ای به ارتباطات گفتاری وابسته است، که عمدتاً به دلیل عملکرد قابل توجه مدل های یادگیری ماشین در وظایف تشخیص گفتار است.

با این حال، این مدل‌ها را می‌توان با مثال‌های «متضاد» گمراه کرد، به عبارت دیگر، ورودی‌هایی که عمداً مختل می‌شوند تا یک پیش‌بینی اشتباه تولید کنند بدون اینکه تغییرات توسط انسان‌ها متوجه شوند. «فرض کنید ما مدلی داریم که صدا را طبقه بندی می کند (مثلاً تشخیص فرمان صوتی) و می خواهیم آن را گمراه کنیم، به عبارت دیگر، تداخلی ایجاد کنیم که به طور مخرب مانع از عملکرد صحیح مدل شود. اگر سیگنال به درستی شنیده شود، شخص می تواند متوجه شود که آیا سیگنالی مثلاً «بله» می گوید یا خیر. جان وادیلو گفت: وقتی مخالفت را به تداخل اضافه کنیم، همچنان “بله” می شنویم، اما مدل شروع به شنیدن “نه” یا “چرخش به راست” به جای چپ یا هر دستور دیگری می کند که من نمی خواهم اجرا کنم. یک محقق در بخش علوم کامپیوتر و هوش مصنوعی در UPV / EHU.

وادیلو افزود، این می‌تواند «عواقب بسیار جدی برای سطح کاربرد این فناوری‌ها در موضوعات واقعی یا بسیار حساس» داشته باشد. هنوز مشخص نیست که چرا این اتفاق می افتد. چرا مدلی که اینقدر هوشمندانه رفتار می‌کند، وقتی سیگنال‌های حتی اندکی تغییر یافته را دریافت می‌کند، ناگهان از کار کردن به درستی دست می‌کشد؟

با استفاده از تداخل غیرقابل شناسایی مدل را فریب دهید

این محقق از دانشکده انفورماتیک افزود: دانستن اینکه آیا یک مدل یا برنامه دارای آسیب پذیری است یا خیر، بسیار مهم است. ابتدا، ما در حال بررسی این آسیب‌پذیری‌ها هستیم تا ببینیم آیا وجود دارند یا خیر و چون این اولین گام برای رسیدگی به آنها است.» در حالی که بسیاری از مطالعات بر توسعه تکنیک‌های جدید برای تولید ضد تداخل متمرکز شده‌اند، توجه کمتری به جنبه‌هایی که تعیین می‌کنند انجام شده است، شده است. این اختلالات را انسان می تواند درک کند و چه جنبه هایی دارد. این موضوع مهم است زیرا راهبردهای ضد تداخل پیشنهادی تنها در صورتی تهدید هستند که تداخل توسط انسان قابل شناسایی نباشد.

این مطالعه به بررسی میزانی می‌پردازد که معیارهای اعوجاج ارائه‌شده در ادبیات به‌عنوان نمونه‌هایی از مخالفت صوتی می‌توانند به‌طور قابل اعتمادی درک فرد از تداخل را اندازه‌گیری کنند. در آزمایشی که در آن 36 نفر نمونه های مخالف یا اختلالات صدا را با توجه به عوامل مختلف ارزیابی کردند، محققان نشان دادند که «شاخص های استفاده شده توسط قرارداد در ادبیات کاملاً پایدار یا قابل اعتماد نیستند. به عبارت دیگر، آنها به اندازه کافی ادراک شنیداری مردم را نشان نمی دهند. آنها ممکن است به شما بگویند که این اختلال قابل تشخیص نیست، اما وقتی آن را با مردم ارزیابی می کنیم، مشخص می شود که قابل تشخیص است. بنابراین، می‌خواهیم این هشدار را صادر کنیم که به دلیل عدم اطمینان این شاخص‌ها، بررسی این حملات صوتی به خوبی انجام نمی‌شود.»

علاوه بر این، محققان روشی پایدارتر برای ارزیابی پیشنهاد کرده‌اند که نتیجه «تجزیه و تحلیل برخی ویژگی‌ها یا عوامل موجود در صدا است که در ارزیابی تشخیص مهم هستند، مانند بخش‌هایی از صدا که تداخل در آنها بیشتر قابل تشخیص است.» مشکل همچنان باز است زیرا ارائه یک شاخص ریاضی که قادر به مدل سازی ادراک شنیداری باشد بسیار دشوار است. بسته به نوع سیگنال صوتی، ممکن است به نشانگرهای مختلفی نیاز باشد یا عوامل مختلفی در نظر گرفته شود. وادیلو در پایان گفت: دستیابی به معیارهای صوتی رایج که نماینده هستند، کار پیچیده ای است.

منبع تاریخ:

مواد ارائه شده توسط دانشگاه کشور باسک. توجه: محتوا را می توان برای سبک و طول ویرایش کرد.

[ad_2]

https://20khababr.ir
https://afkharebartar.ir
https://akhabarebartar.ir
https://andnews.ir
https://avatefepak.ir
https://baranmajale.ir
https://behtaringam.ir
https://daltek.ir
https://elmitarin.ir
https://fardayeashena.ir
https://forbos.ir
https://foxirani.ir
https://gisoon.ir
https://hodhodirani.ir
https://iranisard.ir
https://kahkashani.ir
https://lasttimes.ir
https://lilaki.ir
https://livejame.ir
https://magirani.ir
https://majaleiranian.ir
https://mervina.ir
https://mineralnews.ir
https://modirezard.ir
https://momon.ir
https://moniseh.ir
https://nationaliran.ir
https://netcrafti.ir
https://news-single.ir
https://newsexpress.ir
https://newslife.ir
https://newsspot.ir
https://newsteen.ir
https://nikmag.ir
https://officemag.ir
https://okaziyon.ir
https://one-news.ir
https://pandamag.ir
https://parsroids.ir
https://patris-fun.ir
https://senatornews.ir
https://seratmag.ir
https://sibala.ir
https://sohanian.ir
https://sosokan.ir
https://tazekhabari.ir
https://technoirani.ir
https://timesirani.ir
https://yamorani.ir
https://yandexkhabari.ir
https://abdoosnews.ir
https://zehnenoandinsh.ir
https://abestanews.ir
https://abtinnews.ir
https://akhbarebartaaar.ir
https://akhbaremaaaa.ir
https://akhbareshomaaa.ir
https://akhshijnews.ir
https://atrinnews.ir
https://atroticnews.ir
https://atshnews.ir
https://bashariatemrooz.ir
https://dastesalamatt.ir
https://dostemansalam.ir
https://elementorsite.ir
https://emrooztafahom.ir
https://ensanedirooooooz.ir
https://etelaresankhabar.ir
https://examplenews.ir
https://fardaalefba.ir
https://gisooyekhabar.ir
https://halohekayatha.ir
https://hashtadonoh.ir
https://hekayatfardayeemaaa.ir
https://honarmandkhabar.ir
https://istgaheshomareyek.ir
https://ketabkhoooon.ir
https://kimyagaaaar.ir
https://markazeakhbar.ir
https://masternewss.ir
https://mohamadrezasite.ir
https://morvarideasia.ir
https://mramins.ir
https://naserinews.ir
https://nasermr.ir
https://newsamins.ir
https://newsatropat.ir
https://newscenterals.ir
https://newsmineral.ir
https://newsouls.ir
https://newspishgamannn.ir
https://newssalam.ir
https://newsshans.ir
https://newsworlds.ir
https://parinews.ir
https://patris-music.ir
https://poshtibannews.ir
https://powernewss.ir
https://recordejadid.ir
https://salamnewws.ir
https://23ncfst.ir/
https://amiran-carpet.ir/
https://armanenergytec.ir/
https://blogenews.ir/
https://blogkhoon.ir/
https://bvfars.ir/
https://charsounews.ir/
https://chsnews.ir/
https://dezfil.ir/
https://dmwebmaster.ir/
https://dota2news.ir/
https://erfanhd.ir/
https://etminan110.ir/
https://faratarazkhabar.ir/
https://farsgardi20.ir/
https://footynews.ir/
https://goto98.ir/
https://ilyarkhabar.ir/
https://ir2khabar.ir/
https://iranalmanac.ir/
https://irandaryafest.ir/
https://khabarehaft.ir/
https://khabarontime.ir/
https://lolsms.ir/
https://maadgig.ir/
https://masoudtb.ir/
https://mp3news.ir/
https://music-ha.ir/
https://nakhlestankhabar.ir/
https://newcharge.ir/
https://news-links.ir/
https://news180.ir/
https://pimn.ir/
https://prmf.ir/
https://pvnews.ir/
https://rejawnews.ir/
https://sahab-co.ir/
https://samanbarg.ir/
https://semanews.ir/
https://shirinonews.ir/
https://soheilesonghor.ir/
https://tacity.ir/
https://taktanews.ir/
https://tarabaranmag.ir/
https://telegram-persian.ir/
https://tfcenter.ir/
https://trika.ir/
https://velninews.ir/
https://vidnaz.ir/
https://wajnews.ir/
https://your-news.ir/
https://zangannews.ir/
https://2016downloadnew.ir/
https://paxsolomusic.ir/
https://daryamedia.ir/
https://andikakhabar.ir/
https://seo-pbn.ir/
https://ghezelwich.ir
https://panaztebtabriz.ir
https://shayna-net.ir
https://kanooneslamshahr.ir
https://raynuts.ir
https://honare2.ir
https://itsama.ir
https://flingpet.ir
https://foreverpro.ir
https://fraeesi.ir
https://gkhabar.ir
https://18amlak.ir
https://pooyesh-khabar.ir
https://matsef.ir
https://photo-land.ir
https://tabarestan118.ir
https://disachain.ir
https://chikaapp.ir
https://mahestan18.ir
https://radyaabkala.ir
https://c-civil.ir
https://saeeed.ir
https://copytops.ir
https://modirsearch.ir
https://shz1music.ir
https://m-khosravi.ir
https://iranhayashi.ir
https://iranian-dress.ir
https://gigblog.ir
https://basitcg.ir
https://mashhadhekmat.ir
https://rahetamin.ir
https://radolyamani.ir
https://bnemati.ir
https://face-wood.ir
https://tourvare.ir
https://centertasisat.ir
https://bidarirafsanjan.ir
https://namahaa.ir
https://30pp.ir
https://script-tabadol-link.ir
https://simayesarbedar.ir
https://pakdashtiha.ir
https://rentacars.ir
https://2019movies.ir
https://ekar24.ir
https://saber-ramezani.ir
https://teb-saharsina.ir