گوگل گوریل‌ها را سانسور می‌کند!
در سال 2015 یک برنامه‌نویس سیاه‌پوست مدعی شد سرویس آنلاین عکس گوگل موسوم به Photos عکس او و یکی از دوستانش را با عنوان گوریل (gorillas) برچسب زده است. در آن زمان گوگل مجبور شد به‌دلیل این اشتباه الگوریتم خود، از این فرد پوزش بخواهد و وعده داد که این مشکل را حل خواهد کرد.

 حالا با گذشت بیش از 2 سال از این داستان، ظاهراً تنها راهکار عملی که گوگل به کار برده است، حذف کلماتی نظیر «گوریل» از دایره لغات سرویس Photos است. به‌عقیده نویسنده وایرد، اتخاذ چنین راهکاری از سوی گوگل نشان می‌دهد گوگل و سایر شرکت‌های حوزه فناوری، در مسیر توسعه فناوری‌های مرتبط با شناسایی تصاویر با مشکلات جدی مواجه هستند. اهمیت آنی موضوع زمانی پررنگ‌تر می‌شود که بدانیم، بخش بزرگی از آینده‌ای که شرکت‌هایی نظیر گوگل برای خود ترسیم کرده‌اند به موفقیت در عرضه محصولاتی نظیر خودران‌ها و دستیارهای دیجیتال وابسته‌ است و فناوری‌های مربوط به شناسایی تصاویر در این محصولات، از اهمیت بالایی برخوردار هستند. وایرد سعی کرده است موضوع سانسور واژه‌‌ها در سرویس عکس گوگل را با کمک مجموعه‌ای از هزاران عکس بیازماید. نتیجه این بررسی نشان داد این سرویس در یافتن حیواناتی نظیر پاندا یا حتی سگ‌ها مشکلی ندارد، اما در یافتن گوریل یا حتی شامپانزه با مشکل مواجه می‌شود و نتیجه‌ای را برنمی‌گرداند. 
سرویس Photos گوگل که هم از طریق یک نرم‌افزار موبایلی و هم از طریق صفحه اینترنتی در دسترس است، به 500 میلیون کاربر اجازه می‌دهد تا عکس‌های خود را مدیریت و سپس بایگانی کنند. این سرویس با استفاده از فناوری یادگیری ماشینی قادر است به طور خودکار عکس‌هایی که محتوای مشابه دارند را گروه‌بندی کند. از سوی دیگر کاربران می‌توانند با استفاده از کلمات کلیدی، مجموعه‌ عکس‌های خود را بیابند. وایرد مدعی است استفاده از کلمات کلیدی نظیر black man یا black woman و حتی black person باعث می‌شود گوگل تصاویر سیاه و سفیدی از انسان‌ را بازگرداند. اگرچه این سرویس مرد یا زن بودن را به‌درستی تشخیص می‌دهد، اما عکسی با محتوای «نژاد سیاه» بازنمی‌گرداند و فقط عکس‌هایی که به‌عنوان نتیجه بازمی‌گرداند، سیاه و سفید هستند. گوگل تأیید کرده است که بعد از اتفاق سال 2015 و به‌منظور جلوگیری از تکرار اتفاق مشابه، کلمه کلیدی گوریل (gorilla) از فرآیند جست‌وجو و برچسب‌گذاری عکس‌ها خارج شده است و کلماتی نظیر chimp و chimpanzee و monkey نیز در حال حاضر مسدود شده‌اند. یکی از سخنگویان گوگل در یک نامه الکترونیکی این طور توضیح داده است: «فناوری برچسب‌گذاری تصاویر، یک فناوری نوپا است و هنوز راه زیادی دارد تا تکامل یابد.» او یادآوری می‌کند که اگر کاربران در برچسب‌گذاری عکس‌ها، نقصی در سرویس Photos گوگل مشاهده کردند می‌توانند آن‌ها را گزارش دهند. به نوشته وایرد مشکلی که اکنون گوگل با آن مواجه شده است نشان می‌دهد فناوری فعلی یادگیری ماشینی نقایصی دارد و هرچند با در اختیار داشتن داده‌های کافی و توان پردازشی مناسب، نرم‌افزار می‌تواند بیاموزد چطور تصاویر را دسته‌بندی کند، اما نمی‌تواند فراتر از آن چیزی برود که یاد گرفته است. اردنز رومن استاد دانشگاه ویرجینیا می‌گوید: «بسیار دشوار است همه آنچه سامانه شما قرار است در آینده ببیند را پیش‌بینی کنید.»

برچسب: