ماشین‌های بینایی که فریب نمی‌خورند
فریب دادن شبکه‌های عصبی
مجهز کردن ماشین‌ها به سامانه‌های هوشمند بینایی یکی از اهداف مهم محققان است. معمولا برای اینکه سامانه‌های هوشمند قادر به شناسایی و درک بصری محیط اطراف خود باشند، آن‌ها را با داده‌های تصویری نظیر عکس یا ویدیو آموزش می‌دهیم. اما این نوع آموزش باید با دقت بیشتری انجام شود زیرا سامانه‌های فعلی که با داده‌های متعارف آموزش داده می‌شوند به راحتی فریب می‌خورند. اینکه سامانه هوشمند بینایی قادر به تحلیل صحیح تصاویر نامتعارف باشد کمک زیادی خواهد کرد تا در آینده با اطمینان بیشتری از این سامانه‌ها در ماشین‌های خودکار استفاده کنیم. بنابراین به ماشین بینایی نیاز داریم که بتواند با اطمینان بالا جهان بصری اطراف خود را درک کند و فریب نخورد.

در سال‌های اخیر از هوش مصنوعی بطور گسترده‌ای در شناسایی تصاویر استفاده شده است. با این‌حال، تحقیقات نشان داده است که سامانه‌های هوشمند شناسایی تصاویر، به سادگی فریب می‌خورند. گروهی از محققان دانشگاه آبُرن آلاباما با همکاری  Adobe Systems نشان داده‌اند که می‌توان با اندکی جابجایی اشیا در تصویر، شبکه‌های عصبی تشخیص تصاویر را گمراه کرد. در بررسی‌های گذشته، مشخص شده بود که با دستکاری بافت اشیا یا نورپردازی، می‌توان چنین شبکه‌های عصبی را فریب داد اما این برای نخستین بار است که محققان با دستکاری نحوه قرار گرفتن شیء در فضای سه بعدی یک عکس، اقدام به فریب دادن سامانه هوشمند کرده‌اند. این تحقیق به خوبی نشان داد که لازم است سامانه‌های هوشمند تشخیص تصاویر، درک بهتری از ساختارهای سه بعدی بدست آورند. 

فریب دادن شبکه های عصبیشکل1- شبکه Inception v.3  گوگل، اشیاء در موقعیت‌های متعارف را به خوبی تشخیص می‌دهد (ستون a)؛ اما در شناسایی موقعیت‌های نامتعارف دچار اشتباه می‌شود ( ستون‌های b تا d) 
 محققان در این بررسی از ۱۰۰ مدل سه بعدی کامپیوتری کمک گرفتند. آن‌ها با قرار دادن این اشیا سه بعدی در حالت‌های غیرطبیعی موفق شدند شبکه Inception v.3 گوگل را گمراه کنند. به‌طوریکه این شبکه، در شناسایی ۳۰ مورد، موفقیتی حدود سه درصد داشت. این محققان دریافتند که تنها چند درجه چرخاندن یک شی (به‌طور مثال یک خودروی آتش نشانی) در تصویر کافی است تا شبکه عصبی در شناسایی آن دچار اشتباه شود. 
محققان یکی از دلایل بروز چنین نقصی در شبکه‌های عصبی را نحوه آموزش دادن آن‌ها می‌دانند. این شبکه‌ها معمولا با عکس‌هایی آموزش داده می‌شوند که بی‌نقص هستند و توسط عکاسان گرفته شده‌اند. از جمله راهکارهای پیشنهادی برای رفع چنین مشکلی، افزودن مثال‌های غیرمعمول به این داده‌های آموزشی است تا شبکه عصبی، چیدمان غیرمعمول اشیا در یک عکس را بیاموزد. اما این، کار چندان ساده‌ای نیست زیرا تهیه مجموعه داده‌های آموزشی متشکل از مدل‌های سه‌بعدی با کیفیت بالا، پرهزینه و پرزحمت است.


ماهنامه شبکه را از کجا تهیه کنیم؟
ماهنامه شبکه را می‌توانید از کتابخانه‌های عمومی سراسر کشور و نیز از دکه‌های روزنامه‌فروشی تهیه نمائید.

ثبت اشتراک نسخه کاغذی ماهنامه شبکه         ثبت اشتراک نسخه  آنلاین 

کتاب الکترونیک +Network راهنمای شبکه‌ها

  • برای دانلود تنها کتاب کامل ترجمه فارسی +Network اینجا کلیک کنید.

کتاب الکترونیک دوره مقدماتی آموزش پایتون

  • اگر قصد یادگیری برنامه‌نویسی را دارید ولی هیچ پیش‌زمینه‌ای ندارید اینجا کلیک کنید.

برچسب: 

مطالب پربازدید

پشتیبانی توسط ایران دروپال