IPU پردازنده‌ای با معماری چشم‌نواز

 گراف‌کور مدعی است، واحد پردازش هوشمند این شرکت IPU نخستین پردازنده‌ای است که به‌طور ویژه برای بارکاری هوش ماشینی طراحی شده و قادر است ضعف تراشه‌های فعلی را مرتفع کند. حمایت شرکت‌هایی نظیر بی‌اِم‌و و مایکروسافت در کنار دل (Dell) بزرگ‌ترین تأمین‌کننده سرور جهان، بوش (Bosch) بزرگترین تأمین‌کننده قطعات الکترونیک برای صنعت خودروسازی و سامسونگ بزرگ‌ترین شرکت فعال در حوزه محصولات مصرفی الکترونیکی نشان دهنده میزان جذابیت ایده این شرکت نوپا در حوزه پردازش هوش مصنوعی است.
شرکت انگلیسی گراف‌کور  توسط نایجل تون (Nigel Toon ) و سیمون ناولز (Simon Knowles) در سال ۲۰۱۶ تأسیس شده است.

شکل۱- نایجل تون (سمت راست) و سیمون ناولز ، بنیانگذاران شرکت گراف‌کور.
Knowles و تون تا پیش از این دو شرکت فعال در حوزه نیمه‌هادی‌ها تأسیس کرده‌اند که هر دو شرکت را به ارزش بیش از ۱ میلیارد دلار فروخته‌اند. این دو، شرکت قبلی خود، Icera را در سال ۲۰۱۱ به شرکت انویدیا فروختند. حالا امیدوارند که بتوانند تحول بزرگ‌تری در صنعت نیمه هادی‌ها ایجاد کرده و به انحصار شرکت‌هایی نظیر انویدیا در حوزه هوش مصنوعی پایان دهند. انویدیا با تکیه بر پردازنده‌های گرافیکی‌اش بازیگری مهم حوزه هوش مصنوعی است. اگر چه شرکت‌های دیگری نیز در این حوزه حضور دارند، اما به اعتقاد تون، این فقط انویدیاست که در این حوزه استراتژی منجسم و روشنی دارد و بر بازار مسلط‌تر است. با اینکه شرکت‌هایی نظیر گوگل با معرفی تراشه‌های اختصاصی هوش مصنوعی وارد این بازار شده‌اند اما تون معتقد است گراف‌کور  با تراشه IPU تحول بزرگی در این حوزه ایجاد خواهد کرد. 

شکل‌گیری شرکت گراف‌کور

شکل‌گیری گراف‌کور به مجموعه‌ جلساتی بر می‌گردد که طی سال‌های ۲۰۱۱ و ۲۰۱۲  در دانشگاه کمبریج برگزار می‌شد و هرمن هاوزر، یکی از بنیانگذاران شرکت آرم ( ARM) آن‌را سازمان‌دهی کرد (۱). در یکی از جلسات که استیو یانگ، استاد مهندسی اطلاعات (۲) در مورد محدودیت‌های سامانه‌های پردازش گفتار سخنرانی می‌کرد ناولز از او سؤالاتی در مورد بهره‌وری مصرف انرژی پرسید که «برای انجام محاسباتش از چه میزان دقت استفاده کرده؟» یانگ نتوانست پاسخ دقیقی به آن بدهد. ناولز تأکید می‌کند که دقت محاسبات، نقشی بسیار تعیین‌کننده در میزان مصرف انرژی تراشه دارد. یانگ روز بعد در ایمیلی به اطلاع  ناولز اطلاع می‌دهد که دانشجویانش موضوع را بررسی کرده‌اند و دریافتند محاسبات با دقت ۶۴ بیت انجام شده و این موضوع را فهمیده است که می‌توان تنها با  ۸ بیت به همین عملکرد دست یافت. در مغز انسان روش پردازش به این صورت است که به‌طور مثال برای یافتن یک رستوران، به‌جای استفاده از مختصات دقیق، تنها کافی است نام آن رستوران و همسایگانش را به خاطر بیاورد. ناولز می‌گوید: «اگر بتوانیم پردازنده‌ای با عملکرد مشابه با مغز انسان طراحی کنیم، قادر به ساخت پردازنده‌هایی خواهیم بود که چند صد برابر بهتر از پردازنده‌های مرسوم کار می‌کنند.»
طبق معمول در اینجا هم با ایده‌ بزرگی مواجهیم که در ابتدا سرمایه‌گذاران به دید تردید به‌ آن نگاه می‌کردند. مت میلر یکی از اعضای هیأت مدیره گراف‌کور در این باره می‌گوید: « سرمایه‌گذاران معمولاً برای ورود به حوزه نیمه‌هادی، شک و تردید زیادی دارند، زیرا یک سرمایه‌گذار در همان ابتدای کار و بدون اینکه مطمئن باشد نتیجه نهایی چه خواهد شد، باید پول هنگفتی سرمایه‌گذاری کند و تا زمانی‌که طرح تولید نشود، هیچ ایده‌ای از نتیجه وجود ندارد. این چشم‌انداز ترسناکی برای یک سرمایه‌گذار است.»  شاید سرمایه‌گذاران زمانی متوجه اهمیت بازار آینده تراشه‌های هوش مصنوعی شدند که شرکت گوگل در سال ۲۰۱۶ اعلام کرد روی توسعه تراشه‌ای اختصاصی برای هوش مصنوعی کار می‌کند. ناولز می‌گوید: «گوگل همه آن چیزی را که سعی کردیم ظرف چند سال جا بیندازیم در یک چشم بر هم زدن نشان داد. » از آن پس، ده‌ها استارت‌آپ اعلام کردند که روی تراشه‌های هوش مصنوعی کار می‌کنند که از آن جمله می‌توان به شرکت آمریکایی Cerebras و شرکت چینی Horizon Robotics اشاره کرد. این استارت‌آپ‌ها در حوزه تراشه‌های اختصاصی هوش مصنوعی نه تنها با گوگل بلکه با آمازون و اپل نیز رقابت می‌کنند. 

IPU: پردازنده هوش

تفاوت تراشه گراف‌کور با تراشه‌هایی نظیر آن‌چه گوگل عرضه کرده این است که تراشه‌های گراف‌کور چند‌منظوره هستند و از پایه، برای هوش ماشینی طراحی شده‌اند.  بنابر ادعای گراف‌کور مزیت معماری جدید این است که نه تنها بسیاری از روش‌های یادگیری ماشین امروزی نظیر CNN را پوشش می‌دهد بلکه نیازهای آینده این حوزه را نیز پشتیبانی خواهد کرد. قابلیتی که از جمله نقاط ضعف رقبای این تراشه است. IPU مجهز به بیش از هزار هسته مستقل پردازشی است و از آنجاییکه واحد حافظه را هم شامل می‌شود، می‌توان کل مدل عصبی را روی تراشه قرار داد. از سوی دیگر اتلاف توان برای جابجایی داده بین واحد حافظه و واحد پردازش هم به حداقل ممکن می‌رسد. 
در حال حاضر پردازنده‌های گرافیکی انویدیا در عرصه یادگیری ماشین رقبا را کنار زده‌اند، اما گراف‌کور معتقد است که در آینده، بازی عوض خواهد شد. زیرا در یادگیری ماشین ساختار داده متفاوت است و در نتیجه برای کار کردن با این داده‌ها به روش‌های متفاوتی هم نیاز داریم.  اگرچه پردازنده‌های گرافیکی قدرت زیادی دارند، اما لزوماً برای کار با این نوع داده‌ها مناسب نیستند. بنابر ادعای گراف‌کور، IPU قادر است با سرعتی ۱۰ تا ۱۰۰ برابر پردازنده‌های فعلی با چنین داده‌هایی کار کند.  امروزه برخی از تراشه‌سازان، تراشه‌ها را طوری طراحی می‌کنند که به منظور صرفه‌جویی در مصرف توان،  فقط بخشی از پردازنده بر حسب نیاز کار کند (۳). اما گراف‌کور از طراحان خود خواست تراشه‌ای طراحی کنند که بتواند در آنِ واحد، همه توان پردازشی خود را عرضه کرده و در عین حال توان کمتری نسبت به پردازنده‌های گرافیکی پیشرفته مصرف کند. سامانه مبتنی بر ایده گراف‌کور می‌تواند در هر دو مرحله آموزش و تفسیر عمل کند. 
باید توجه داشت که سرعت، تنها عامل پیش افتادن در این رقابت نیست. به عنوان مثال، موفقیت انویدیا در حوزه یادگیری ماشین فقط به این دلیل نیست که پردازنده‌های گرافیکی قدرتمندی دارد. بخش مهمی از موفقیت این شرکت در مقابل رقبا، در سمت نرم‌افزار رخ می‌دهد. کتابخانه‌هایی که برنامه‌نویسان را قادر می‌سازد روی بهینه‌سازی الگوریتم‌های یادگیری ماشین، پارامترها و فرآیندها متمرکز شوند و این بخش مهمی از موفقیت انویدیا است. گراف‌کور به اهمیت نرم‌افزار در موفقیت راهکارش برای یادگیری عمیق توجه دارد به‌طوری‌که نخستین زنجیره‌ ابزار(tool chain) نرم‌افزاری ویژه هوش ماشینی موسوم به Poplar را توسعه داده است (شکل ۲). 

شکل۲- شرکت گراف‌کور مدعی است که Poplar، نخستین زنجیره‌ ابزار نرم‌افزاری ویژه هوش ماشینی است.

چارچوب Poplar

چارچوب Poplar بر مفهوم گراف‌ها پایه‌ریزی شده است. گراف‌ها به شما اجازه می‌دهند فرآیند پردازش را تعریف کنید. در اینجا رأس‌های گراف، عملیات را انجام می‌دهند و یال‌های گراف، ارتباطات بین این عملیات را تعریف می‌کنند. به عنوان مثال،  اگر بخواهیم دو عدد را با هم جمع کنیم باید رأسی با دو ورودی، عملی که آن رأس انجام می‌دهد و یک خروجی را تعریف کنید ( شکل 3).

شکل۳- تنوع اتصالات بین رأس‌های گراف‌ها این امکان را به ما می‌دهد که محاسبات پیچیده‌تری را پیاده‌سازی کنیم. در این مثال ساده برای جمع دو عدد، از یک رأس ( جمع‌کننده) استفاده شده است. با تکرار همین گراف ساده و استفاده از اتصالات، می‌توان جمع‌های بزرگ‌تری را انجام داد. 

البته در عمل، پردازشی که در رأس‌ها انجام می‌شود پیچیده‌تر از این است.  ساده‌سازی فرآیند پردازش بر اساس گراف از این جهت جذاب است که به تعریف ساختار پردازش نیازی ندارد. مزیت دیگر استفاده از این روش این است که می‌توان فرآیند محاسبه را به قطعاتی خرد کرد و این، برای پردازنده‌ای نظیر IPU که ذاتاً موازی است امکان استفاده بهینه‌تر از منابع تراشه را فراهم می‌کند (شکل ۴‌).

شکل۴- نمایی از پردازشگر IPU

Poplar مبتنی بر سی‌پلاس‌پلاس بوده و مجهز به مجموعه‌ای منبع‌باز از کتابخانه‌های گراف برای یادگیری ماشین است. در نتیجه برنامه‌های تهیه شده در چارچوب‌های  استانداردی نظیر تنسورفلو روی IPU نیز کار خواهند کرد. Poplar دو بخش اصلی دارد: کامپایلر گراف (Graph Compiler) و موتور گراف (Graph Engine). کامپایلر گراف امکان تولید گراف برای یک مدل یادگیری ماشین را فراهم کرده و با ترجمه عملیات موردنیاز در قالب گراف، کد لازم برای پیاده‌سازی روی IPU را تولید می‌کند ( شکل ۵‌).  از سوی دیگر، موتور گراف هم امکان اجرای این گراف تولید شده را روی تراشه فراهم خواهد کرد. 

 گراف تولید شده توسط Poplar بر اساس خروجی TensorFlow با بیش از ۱۸ میلیون رأس و بیش از ۱۱۵ میلیون یال. در این تصویر، سطح بالای موازی‌سازی گراف به خوبی نمایان است.

 گرافی از  یک مدل یادگیری ماشین قابل استفاده در اخترفیزیک.

برنامه‌نویسی در عصر رایانش ۲ 

تون می‌گوید وقتی شرکت گراف‌کور آغاز به کار کرد چارچوب‌هایی نظیر تنسورفلو هنوز وجود نداشتند با اینحال کاملاً روشن بود که روش‌های تولید نرم‌افزار برای ریزپردازنده‌ها جوابگوی نیازهای یادگیری ماشین نخواهند بود. حالا برنامه‌نویسان به جای این‌که همه چیز را بر اساس بردارها و اسکالرها بیان کنند باید بر اساس گراف‌ها و تنسورها بیان کنند. در این دنیای جدید، زنجیره ‌ابزارهای سنتی نمی‌توانند آن‌چه برنامه‌نویس نیاز دارد را در اختیارش قرار دهند؛ دوره‌ای که گراف‌کور از آن با اصطلاح رایانش۲ (Compute 2.0) یاد می‌کند (شکل ۶ ).

شکل۶- آنچه گراف‌کور بعنوان رایانش ۲ از آن یاد می‌کند.
 

در این دوره مدل‌ها و نرم‌افزارها به طور چشم‌گیری موازی‌‌اند و متکی بر میلیون‌ها محاسبه مشابهی هستند که باید به طور همزمان اجرا شوند. تون در توضیح این دوره جدید رایانش می‌گوید: «در طول دهه‌ها، به کامپیوتر گفتیم که در هر گام چه کاری انجام دهد، حالا کامپیوتر از داده‌ها می‌آموزد. اکنون به جای این‌که ماشین را برنامه‌ریزی کنیم، ماشین می‌آموزد و این سبب ایجاد تحولی بنیادین در توسعه و رفتار نرم‌افزارها خواهد شد.»

آغاز نوآوری مبتنی بر گراف و جهان منبع باز 

 گراف بهترین روش برای توصیف مدل‌هایی است که در سامانه یادگیری ماشین ساخته می‌شوند. یکی از جنبه‌های مشترک همه چارچوب‌هایی یادگیری ماشین نظیر تنسورفلو استفاده آن‌ها از مفهوم گراف محاسباتی (computational graph) است. کامپیوتری که با هدف کار روی گراف‌ها طراحی شود، یک سامانه پردازشی ایده‌آل برای مدل‌‌‌هایی است که توسط چارچوب‌های یادگیری ماشین تولید می‌شوند. این گراف‌های محاسباتی از رأس‌هایی تشکیل شده‌اند که عناصر محاسباتی هستند و از طریق یال‌هایی به هم متصل می‌شوند.  برخلاف پردازنده‌های مرکزی که مبتنی بر اسکالر هستند و پردازنده‌های گرافیکی که مبتنی بر بردار هستند، واحد پردازش هوشمند شرکت گراف‌کور، یک پردازنده گراف (graph processor) است. برگ برنده گراف‌کور این است که با گراف‌هایی بسیار پیچیده‌تر از رقبا کار می‌کند زیرا می‌تواند گراف‌ها را با سطح بسیار بالایی از موازی‌سازی روی تراشه بریزد. تون وعده داده است که در آینده برنامه‌نویسانی که روی IPU کار می‌کنند دسترسی کاملاً رایگان و منبع باز به کتابخانه‌های گراف بهینه‌سازی شده این شرکت خواهند داشت (شکل ۷).

شکل۷- فریم‌ورک Poplar در عمل.

کسب و کار

شرکت‌های دل، مایکروسافت و سامسونگ  از جمله سرمایه‌گذاران گراف‌کور هستند و شنیده‌ها حاکی از آن است که تراشه این شرکت به تازگی توسط شرکت‌های اوبر و  دیپ‌مایند ( بخش هوش مصنوعی گوگل) آزمایش شده است.  مدیر ارشد اجرایی شرکت دیپ‌مایند و نیز، ژوبین قهرمانی از  شرکت اوبر از سرمایه‌گذاران شخصی این شرکت هستند. گراف‌کور به طور دقیق اعلام نکرده که تراشه‌اش چه کاربردهایی خواهد داشت. اما سرورهای ابری، خودران‌ها و دستیارهای صوتی از جمله کاربردهای بالقوه این تراشه هستند. با اینحال ناولز علاقه‌مند است که این تراشه در حوزه‌هایی پزشکی یا مطالعات مربوط به تغییرات اقلیمی استفاده شود که بر کیفیت زندگی بشر تأثیر مثبتی دارند. شرکت بی‌اِم‌و، از دیگر سرمایه‌گذاران گراف‌کور گفته است از IPU در مراکز داده و خودروهای این شرکت استفاده خواهد کرد. خودران‌ها باید قادر باشند در لحظه به موقعیت‌های حساس واکنش نشان دهند و در چنین کاربردهایی، پردازش محلی نسبت به  پردازش ابری اولویت زیادی دارد. همین موضوع باعث می‌شود بازار خودران‌ها بازاری کلیدی برای تراشه‌های IPU باشد. گراف‌کور برای کمک به مشتریانش برای این‌که درکی از نحوه طراحی کامپیوترهای نسل آینده مبتنی بر IPU  به‌دست آورند،  طراحی سرورهای مبتنی بر این پردازنده‌ها را به همراه ابزارهای نرم‌افزاری رایگان در اختیارشان قرار می‌دهد ( شکل ۸ ). تون می‌گوید: «ستورالعمل چگونگی طراحی کامپیوتر مناسب برای این تراشه‌ها را در اختیار شما قرار داده و سپس قطعات مورد نیاز برای پیاده‌سازی این کامپیوتر را به شما می‌فروشیم.»

شکل۸- گراف‌کور معتقد است که سامانه‌های پردازشی مبتنی بر IPU در حوزه هوش ماشین، رقبا را پشت‌ سر خواهند گذاشت.

فصل سوم پردازنده‌ها

پیش‌بینی شده که رشد درآمد جهانی حاصل از تراشه‌های هوش مصنوعی تا سال ۲۰۲۱ به ۳۵ میلیارد دلار خواهد رسید، یعنی شش برابر آن‌چه در سال ۲۰۱۶ شاهد بودیم. شرکت گراف‌کور معتقد است که طی دهه‌ آینده همه صنایع پیشرفته، از صنعت خودروسازی گرفته تا حوزه سلامت، امنیت و کارخانجات مجبور خواهند شد که سامانه‌های خود را به یادگیری ماشین مجهز کنند  به طوری‌که ماشین‌ها در میان مجموعه‌های بزرگ داده الگوها را بیابند و کشف کنند. دستیابی به این قابلیت‌ها نیازمند سخت‌افزارهای ویژه‌ای است که قادر به پشتیبانی از این حجم پردازش باشند. اریک ویشریا (Eric Vishria ) از سرمایه‌گذارانی که در شرکت رقیب گراف‌کور،  Cerebras سرمایه‌گذاری کرده اعلام کرده است: « این یک فرصت چندین میلیون دلاری منحصربه‌فرد است. معتقدیم که بارکاری یادگیری ماشین نیازمندی‌های بسیار ویژه‌ای دارد که با آن‌چه تراشه‌های امروزی برایش طراحی شده بسیار متفاوت است.  بنابراین همان‌گونه که در مورد اینتل، انویدیا، آرم و کوالکام دیده‌ایم، حال شاهد ظهور یک شرکت بزرگ مستقل دیگر هستیم. » هرمن هاوزر  هم‌بنیانگذار  شرکت آرم بر این باور است که تراشه شرکت گراف‌کور مقدمه‌ساز موج بعدی رایانش خواهد بود. به عقیده او فقط سه مقطع در تاریخ کامپیوتر را می‌توان نام برد که در آن مجبور به ارائه معماری جدید پردازشی شده‌ایم؛ معرفی پردازنده‌های مرکزی (CPU) در دهه هفتاد میلادی، معرفی پردازنده‌های گرافیکی ( GPU) در دهه نود میلادی و حالا تراشه‌ای برای پردازش هوش. او می‌گوید: « معماری تراشه‌ گراف‌کور از جمله معماری‌های قابل توجه در جهان است.»
 یکی از کارشناسان مؤسسه تحقیقاتی گارتنر معتقد است: « گراف‌کور موقعیت خوبی برای خود دست‌ و پا کرده ولی در مقایسه با شرکت‌های بزرگی که بازار را در اختیار دارند نظیر انویدیا، هنوز یک رقیب کوچک محسوب می‌شود. از این رو هرچند ممکن است پردازنده‌های هوشمند این شرکت برای این نوع بارکاری بهتر از پردازنده‌های گرافیکی انویدیا عمل کنند اما آن‌ها با این خطر مواجه هستند که مشتریان، محصولی را انتخاب می‌کنند که کارشان را راه بیندازد نه چیزی که انقلابی باشد.» چالش مهم دیگری که باید به آن توجه داشت، بحث اخلاقی استفاده از پردازنده‌هایی نظیر IPU است. اگر آن‌گونه که گراف‌کور وعده داده توان عملیاتی ماشین‌های مجهز به IPU صدبرابر کامپیوترهای امروزی باشد باید نگران سوءاستفاده‌های احتمالی از این توان پردازشی هم باشیم. گراف‌کور به ویژه نگران سوءاستفاده‌ از چنین فناوری در کاربردهایی نظیر جنگ و جاسوسی است. 

پی‌نوشت‌ها:
۱- شرکت آرم از جمله نخستین سرمایه‌گذاران  شرکت گراف‌کور بود.
۲- او بعدها سامانه پردازش گفتاری را به شرکت اپل فروخت که اکنون در سیری ( Siri) دستیار دیجیتال این شرکت استفاده می‌شود.
۳- بخش‌های استفاده نشده در تراشه به dark silicon معروفند.