خطوط انتقال داده‌ها
یک مهندس داده به چه مهارت‌ها و دانشی نیاز دارد؟
مهندسان داده، مخازنی را برای داده‌ها می‌سازند و در مدیریت این مخازن و مدیریت داده‌هایی که در حجم زیاد به واسطه فعالیت‌های دیجیتالی تولید می‌شوند، نقش کلیدی دارند. آن‌ها وظیفه توسعه، ساخت، آزمایش و مدیریت معماری ذخیره‌سازی داده‌ها همچون پایگاه داده و سیستم‌های پردازش داده‌‌‌ها در مقیاس بزرگ را بر عهده دارند. همانند مهندسی که یک ساختمان را می‌سازد، یک مهندس بزرگ داده‌ها، خطوط لوله (Pipeline) مرتبط با یکدیگر را پیاده‌سازی می‌کند که حجم زیادی از اطلاعات فیلتر شده را مبادله می‌کنند. این خطوط انتقال اطلاعات به دانشمندان داده‌ها اجازه می‌دهند مجموعه داده‌های کاربردی را برای تجزیه و تحلیل به این مخازن وارد یا از آن خارج کنند. به بیان دقیق‌‌تر، اصلی‌ترین وظیفه یک مهندس داده ساخت کانال‌های انتقال اطلاعات است که به آن‌ها خطوط لوله می‌گویند و ما نیز در این مقاله از اصطلاح خطوط لوله برای توصیف کانال‌ها و جریان‌های اطلاعاتی استفاده می‌کنیم.

ثبثبثب.gif

به‌طور معمول، مهندسان داده مدرک کارشناسی در رشته ریاضی، علوم کامپیوتر یا رشته‌ای مرتبط با فناوری اطلاعات دارند. تخصصی که به واسطه این نوع مدرک حاصل می‌شود به آن‌ها امکان استفاده از زبان‌های برنامه‌نویسی جهت استخراج و پرس‌وجوی داده‌ها از طریق پیاده‌سازی محاوره‌های اس‌کیو‌ال را فراهم می‌کند. به‌طور معمول مهندسان داده‌ بر مبنای یک برنامه‌ریزی پنج مرحله‌ای موفق می‌شوند به عنوان یک مهندس داده شغلی پیدا کنند. این پنج مرحله به شرح زیر هستند:

  1.  اخذ مدرک کارشناسی و شروع به کار روی پروژه‌های مرتبط با تحلیل داده‌ها. 
  2.  تقویت مهارت‌های تجزیه و تحلیل بزرگ داده‌ها. 
  3. مطالعه عمیق در ارتباط با تکنیک‌ها و الگوریتم‌هایی که در زمینه پردازش داده‌ها استفاده می‌شوند. 
  4.  دریافت گواهینامه‌‌های تخصصی در زمینه مهندسی حرفه‌ای بزرگ داده‌ها. 
  5. دریافت مدرک کارشناسی ارشد در رشته علوم کامپیوتر، مهندسی، ریاضی کاربردی، فیزیک یا زمینه‌های مرتبط با هدف ارتقا شغلی.

اطلاعاتی که اداره آمار کار ایالات متحده در سال 2020 منتشر کرد نشان می‌دهد با توجه به اهمیت مهندسی داده‌ها و بزرگ داده‌ها در بخش‌های مختلف، افراد دارای مهارت‌های کامپیوتر و فناوری اطلاعات متقاضی زیادی دارند. مهندسان داده‌ها که تجربه، مدرک تحصیلی و گواهینامه‌های تخصصی داشته باشند شانس بیشتری برای استخدام دارند. 

مهندسی داده چیست و مهندس داده کیست؟

مهندسی داده‌ها یک حوزه دائما در حال تغییر است که تمرکز اصلی آن پیاده‌سازی زیرساخت‌ها و مکانیسم‌های قابل اعتماد برای جمع‌آوری داده‌ها است. مهندس داده به فردی گفته می‌شود که وظیفه مدیریت و کنترل روندهایی که برای ذخیره‌سازی داده‌ها استفاده می‌شوند را بر عهده دارد. مهندسان داده‌ها اغلب وظیفه دارند بزرگ داده‌ها را به شکل مفیدی برای تجزیه و تحلیل تبدیل کنند. برای انجام این‌کار، آن‌ها سیستم‌های مدیریت داده با مقیاس‌پذیری بالا را طراحی، ایجاد، نصب، آزمایش و نگه‌داری می‌کنند. 

چگونه یک مهندس داده‌ها شویم؟

فرصت‌های شغلی زیادی در ارتباط با مهندسی داده‌ها وجود دارد. مهندسان داده به کسب‌وکارها، شرکت‌های فعال در حوزه فناوری، استارتاپ‌های کوچک و حتا صنایعی نظیر بهداشت و درمان کمک می‌کنند از منابع داده‌ای به بهترین شکل استفاده کنند. با این‌حال، مهم است درباره ورود به عرصه مهندسی داده‌ها گام‌های هوشمندانه‌ای بردارید. دیوید بیانکو، مهندس داده‌ها و نویسنده سایت insidebigdata که تجارب ارزشمندی در ارتباط با ساخت و پیاده‌سازی خطوط انتقال داده‌ها دارد به مهندسان داده پیشنهاد می‌کند به سراغ یادگیری زبان‌های برنامه‌نویسی و ابزارهایی بروند که  به استخدام آن‌ها کمک می‌کنند. او می‌گوید: «مهم است به عنوان مهندس داده بدانید که چگونه باید از ابزارهای تخصصی استفاده کنید. زبان‌ها می‌آیند و می‌روند، بنابراین بهتر است شناخت کاملی از مفاهیم ساخت یک خط لوله یا همان کانال انتقال‌دهنده اطلاعات قوی داشته باشید.» اگر می‌خواهید به عنوان یک مهندس داده‌ها مشغول به کار شوید، بهتر است به توصیه بیانکو و نکاتی که در ادامه مشاهده می‌کنید دقت کنید تا در کار خود موفق شوید. 

1. مدرک کارشناسی بگیرید و کار روی پروژه‌هایی هرچند کوچک را آغاز کنید

هر کسی که قصد ورود به این حوزه را دارد به مدرک کارشناسی در رشته علوم کامپیوتر، ریاضی کاربردی، فیزیک، آمار یا رشته‌های مرتبط نیاز دارد. مهندسان داده‌ برای آن‌که بتوانند موقعیت‌های شغلی تخصصی را به دست آورند به تجربه کار در دنیای واقعی نیاز دارند. دوره‌های کارآموزی بهترین انتخاب در این زمینه هستند. افرادی که علاقه‌مند به این حوزه هستند، اما رشته تحصیلی آن‌ها مغایر با رشته‌های فنی است، این شانس را دارند تا به عنوان یک مهندس داده در سازمان‌های بزرگ مشغول به کار شوند، البته این افراد باید در ارتباط با ساختار داده‌ها، الگوریتم‌ها، مدیریت پایگاه داده و برنامه‌نویسی مهارت لازم را کسب کنند. 

2. به دنبال ارتقا مهارت‌های مرتبط با تجزیه و تحلیل بزرگ داده‌ها باشید

بهتر است به دنبال بهبود سطح مهارت‌های خود در ارتباط با اس‌کیو‌ال باشید. SQL یکی از زبان‌های بنیادین کار با بانک‌های اطلاعاتی است که مهندسان داده برای پیشبرد اهداف کاری خود باید شناخت دقیقی در ارتباط با آن داشته باشند. این کار ضروری است، زیرا بیشتر داده‌ها در سیستم‌های پایگاه داده رابطه‌ای ذخیره می‌شوند. مهندسان داده‌ها از SQL برای ساخت و پیاده‌سازی پرس‌و‌جوها و واکشی داده‌ها از مخازنی نظیر Apache Hive با هدف ‌تجزیه و تحلیل داده‌ها استفاده می‌کنند. علاوه بر این، مهندسان داده‌ها باید در مورد زبان‌های برنامه‌نویسی نظیر پایتون و آر که به تجزیه و تحلیل آماری و مدل‌سازی کمک می‌کنند اطلاعات کافی داشته باشند. تسلط بر Spark، Hadoop و Kafka نیز ضروری است. غیر از تسلط بر زبان‌های برنامه‌نویسی، مهارت‌های دیگری نیز وجود دارند که باید به فکر یادگیری آن‌ها باشید. از جمله این مهارت‌ها می‌توان به چگونگی پیاده‌سازی یک معماری قدرتمند برای پایگاه داده، یادگیری ماشین، پیاده‌سازی راه‌حل‌هایی برای ذخیره‌سازی داده‌ها، داده کاوی، ساخت پایپ لاین داده‌ها و استفاده از زیرساخت‌های ابری نظیر  Amazon Web Services اشاره کرد. فناوری مدیریت داده‌ها دائم در حال پیشرفت و تکامل است، بنابراین مهم است که مهندسان داده از اتفاقات حوزه کاری خود خبر داشته باشند.

3. اگر اولین شغلی که انتخاب می‌کنید مرتبط با داده‌ها نیست، ایرادی ندارد

اولین شغلی که در آن مشغول به کار می‌شوید، ممکن است مرتبط با حوزه پردازش داده‌ها یا حتا مهندسی نباشد. اگر شغلی که انتخاب می‌کنید مرتبط با حوزه کاری‌تان نیست، اما به فناوری اطلاعات مرتبط است، اطلاعات ارزشمندی در ارتباط با چالش‌های سازمانی و چگونگی غلبه بر آن‌ها در اختیارتان قرار می‌دهد. اولین شغل‌تان شما را به چالش می‌کشد تا خلاقانه فکر کنید و راه‌های غیرمعمول برای حل مشکلات پیدا کنید. چرا این موضوع مهم است؟ زیرا خیلی زود یاد می‌گیرید که مهندسان داده‌ نمی‌توانند تمام کارها را به تنهایی انجام دهند. مهندسان داده برای پیشبرد اهداف خود باید با مدیران ارشد، دانشمندان داده و معماران داده در ارتباط باشند تا بتوانند در قالب یک تیم همکاری کنند. 

4. به دنبال کسب گواهینامه‌های اضافی در حوزه مهندسی حرفه‌ای یا کلان داده‌ها باشید

برای پیشرفت در حرفه مهندسی داده، بهتر است به دنبال کسب گواهینامه‌های تخصصی باشید. اگر قصد دارید روی مهارت‌ خاصی متمرکز شوید، بهتر است به دنبال دریافت گواهی‌نامه‌های خاصی باشید که توسط شرکت‌هایی نظیر اوراکل، مایکروسافت، آی‌بی‌ام در حوزه پردازش و تحلیل داده‌ها ارائه می‌شود. گزینه‌های زیادی در این زمینه وجود دارد که گواهی‌نامه حرفه‌ای مدیریت داده‌ها CDMP سرنام ‌ Certified Data Management Professional یکی از آن‌ها است. CDMP که توسط انجمن بین‌المللی مدیریت داده‌ها (DAMA) توسعه یافته یک گواهی‌نامه جامع برای تمام متخصصانی است که حوزه فعالیت آن‌ها مرتبط با بانک‌های اطلاعاتی است. 

بسیاری از کارفرمایان با مشاهده حروف اختصاری این گواهی‌نامه در رزومه متوجه می‌شوند که متقاضی مهارت زیادی در کار با داده‌ها دارد. 

5. کسب مدارج تحصیلی بالاتر در رشته علوم کامپیوتر، مهندسی، ریاضی کاربردی، فیزیک یا رشته‌های مرتبط

بسیاری از مهندسان داده بدون داشتن مدرک ارشد هم می‌توانند موفق باشند، زیرا همه مشاغل مرتبط با داده‌ها نظیر مهندسی داده‌ها به مدرک کارشناسی ارشد نیاز ندارند. برخی کارفرمایان تجربه کاری و مدارکی که اثبات‌کننده تخصص فنی هستند را به مدارک کارشناسی ارشد و بالاتر ترجیح می‌دهند.

 یک مهندس داده چه مسئولیت‌هایی دارد؟

مهندسی داده یک شغل راهبردی با مسئولیت‌های زیاد است که از ساخت الگوریتم‌ها با عملکرد بالا، مدل‌های پیش‌بینی‌کننده و اثبات مفاهیم گرفته تا توسعه مجموعه داده‌ها که برای مدل‌سازی و کاوش داده‌ها ضروری هستند را شامل می‌شود. از مهم‌ترین مسئولیت‌های یک مهندس داده به موارد زیر می‌توان اشاره کرد:

  •  حصول اطمینان از این موضوع که سیستم ذخیره‌سازی و جمع‌آوری داده‌ها با نیازهای کسب‌و‌کار و استانداردهای صنعت مربوطه مطابقت دارد. 
  •  ادغام نرم‌افزار‌ها و فناوری‌های جدید مدیریت داده‌ها با ساختارهای فعلی شرکت و پژوهش در ارتباط با فرصت‌های جدیدی که در ارتباط با داده‌برداری (data acquisition) در اختیار کسب‌و‌کار قرار دارد. 
  •  به‌کارگیری ابزارها و فناوری‌های نوین که به کسب‌وکارها اجازه می‌دهد داده‌ها را به شکل هوشمندانه‌تری از مشتریان دریافت کند. 
  •  ساخت سفارشی مولفه‌های نرم‌افزاری با استفاده از طیف گسترده‌‌ای از زبان‌ها و ابزارهای در دسترس نظیر زبان‌های اسکریپت‌نویسی. مولفه‌های نرم‌افزاری این قابلیت را دارند تا با سامانه‌های مختلف ادغام شوند و یک زیرساخت تحلیلی قوی برای ارزیابی داده‌هایی که قرار است توسط کسب‌وکار ذخیره شوند ارائه کنند. 
  •  ذخیره و پردازش داده‌ها به صورت ایمن در شرایط مختلف. مهندسان داده در خط مقدم دفاع سایبری یک شرکت هستند و پروتکل‌های بازیابی پس از فاجعه(disaster recovery)  را پیاده‌سازی و به‌روزرسانی می‌کنند. علاوه بر این، با ارائه راه‌حل‌های دقیق قابلیت اطمینان و کیفیت داده‌ها را بهبود می‌بخشند.

مقایسه مهندس داده و دانشمند داده

در حالی که مهندس داده وظیفه ساخت، آزمایش، حفظ و نگه‌داری از معماری‌هایی را دارد که روی بزرگ داده‌ها تاثیرگذار هستند، در نقطه مقابل دانشمند داده مسئول سازمان‌دهی بزرگ داده‌هایی است که قرار است در تجزیه و تحلیل‌ عمیق داده‌ها به کار گرفته شوند و بینشی دقیق در ارتباط با راه‌حل‌های تجاری ارائه کنند. این دو متخصص اغلب همکاری نزدیکی با یکدیگر دارند. یک دانشمند داده نمی‌تواند چیزی را تفسیر کند مگر آن‌که مهندس داده زیرساخت لازم و ابزارهای مناسب برای ذخیره‌سازی و پردازش داده‌ها را آماده کرده باشد. 

فرصت‌های شغلی پیش‌روی مهندسان داده‌ها

مهندسی داده‌ها از جمله مشاغلی است که پیوسته در تکامل است و می‌تواند زندگی کاری جذاب و البته چالش‌برانگیزی را برای مهندسان داده‌ها به وجود آورد. به رغم پیچیدگی‌های زیاد، فرصت‌های شغلی زیادی در دسترس مهندسان داده‌ها قرار دارد. شما می‌توانید به عنوان یک مهندس داده، مهندس داده ارشد، مهندس بزرگ داده‌ها و مشاغل مرتبط با داده‌ها در سازمان‌ها یا شرکت‌ها مشغول کار شوید. اگر عاشق کار با ابزارهای جدید هستید و می‌توانید به چیزهایی فراتر از یک پایگاه داده رابطه‌ای فکر کنید، پس صلاحیت آن‌را دارید تا به شرکت‌ها کمک کنید نیازهای دائما در حال تغییر و روبه‌رشد خود را با تحولات دنیای فناوری‌اطلاعات هماهنگ کنند. 

 فهرست بازبینی یک مهندس داده

در انتها مراحلی که باید برای تبدیل شدن به یک مهندس داده پشت سر بگذارید را مرور می‌کنیم: 

  • اخذ مدرک کارشناسی: اخذ مدرک کارشناسی در رشته علوم کامپیوتر یا برنامه‌نویسی یا یک رشته مرتبط یک روش خوب برای آشنایی با رشته مهندسی داده است. 
  • مهارت‌های مرتبط با بزرگ داده‌ها را تقویت کنید: کارفرمایان این شغل به دنبال افرادی هستند که مهارت‌های منحصر به فردی داشته باشند و به زبان برنامه‌نویسی و نرم‌افزار تسلط کامل داشته باشند. بر همین اساس مهم است با روش‌های مختلف تحلیل بزرگ داده‌ها آشنا باشید. برای کسب مهارت و تخصص بیشتر در کار به دنبال اخذ گواهینامه‌های مرتبط با این حوزه باشید. دریافت گواهینامه‌های تخصصی شانس شما برای احراز شغل مهندسی داده‌ها را بیشتر می‌کند. 
  • اخذ مدرک کارشناسی ارشد: کسب مدارک تحصیلی عالی یک راه مطرح شدن و به چشم آمدن در بازار کار رقابتی امروز است. مدارک تحصیلی عالی نشان می‌دهند که گام‌های بیشتری را در جهت دانش و پیشرفت خود برداشته‌اید

 

ماهنامه شبکه را از کجا تهیه کنیم؟
ماهنامه شبکه را می‌توانید از کتابخانه‌های عمومی سراسر کشور و نیز از دکه‌های روزنامه‌فروشی تهیه نمائید.

ثبت اشتراک نسخه کاغذی ماهنامه شبکه     
ثبت اشتراک نسخه آنلاین

 

کتاب الکترونیک +Network راهنمای شبکه‌ها

  • برای دانلود تنها کتاب کامل ترجمه فارسی +Network  اینجا  کلیک کنید.

کتاب الکترونیک دوره مقدماتی آموزش پایتون

  • اگر قصد یادگیری برنامه‌نویسی را دارید ولی هیچ پیش‌زمینه‌ای ندارید اینجا کلیک کنید.

ایسوس

نظر شما چیست؟