Understanding pipelining Perforamce

 شناخت پردازش خط لوله اي

 بنا به دلايلي پنتيوم يك طراحي اصلي حياتي بود اما احتمالاً وسيله ارتباط غيرعادي آن ويژگي اعتصابي و جالب و بحث برانگيز آن بود. پس از طي حدود 20 مرحله، ارتباط و خط لوله ي پنتيوم 4 تقريباً دو برابر عميق تر و پيچيده تر از ديگر رقباي خود بود. اخيراً پرس كات (Prescott) با يك جانشين 90 نانومتري به پنتيوم 4 راه ارتباطي را به سطح بعدي با افزوده شدن يك 10 مرحله اي ديگر به پنتيوم 4، كه هم اكنون نيز كانال ارتباطي طولاني تري است را دارد. استراتژي Intel براي پيچيده سازي كانال ارتباطي پنتيوم 4 كه به نام بيش ارتباط يا hyperpipelining در عملكرد خود موفق بوده است اما بدون نقص و كاستي نيز نمي باشد. در مقاله قبلي در مورد پنتيوم 4 و پرسكات من به معايب كانال هاي ارتباطي پيچيده اشاره كاستي نيز نمي باشد. در مقاله قبلي در مورد پنتيوم 4 و پرسكات، من به معايب كانال هاي ارتباطي پيچيده اشاره كردم و تلاش نموده ام تا در مقالات بزرگتر فني در Netburst اين معايب را و ديگر مطالب را توضيح دهم. در مجموعه مقالات حاضر، قصد من استفاده از تاكيد بيشتر براي توضيح كانال ارتباطي تاثيرات آن بر عملكرد ريزپردازنده و بخش هاي زيرين بالقوه آن، مي باشد. من شما را از طريق مقدمه اساسي به تصور كانال ارتباطي خواهم برد و سپس توضيح خواهم داد كه براي ارتباط موفقيت آميز چه چيزهايي نياز است و چه مخاطراتي در آن اختلال ايجاد مي كند. در انتهاي مقاله، شما كاملاً متوجه خواهيد شد كه چگونه عمق و پيچيدگي كانال ارتباطي به راههاي مختلفي از كدها دقيقاً روي عملكرد ريز پردازنده تاثير مي گذارد، چنانچه مقاله قبلي من را با  نام شناخت كانال ارتباطي و اجراي سوپر اسكالر (understanding pipelinigl supascalar eyecution) خوانده باشيد، بخش اول اين مقاله براي شما قابل فهم تر خواهد بود. در واقع اين مقاله، همان قبلي است اما بسيار واضح تر، دقيق تر و امروزي تر.

چرخه زندگي يك دستورالعمل

فعاليت اصلي هر ريزپردازنده در حال عبور از دستورات را مي توان در مجموعه 4 گام ساده كاهش داد. كه هر دستور به شكل كد به ترتيب مي رود تا اجرا مي شود :

1ـ دستور بعدي را از آدرس ذخيره شده در شمارشگر برنامه را بيارويد (fetch)

2ـ اين دستور را در ريجستر دستور ذخيره كنيد و آن را رمز گشايي كنيد و نشاني را در شمارشگر برنامه افزايش دهيد.

3ـ دستور ريجستر را اجرا كنيد (Execute)   چنانچه دستور شاخه اي نيست به ALU (واحد محاسبه و منطق) مناسب بفرستيد.

a) محتواي ورودي ريجسترها را بخوانيد (Read)

b) محتواي ريجسترهاي ورودي را اضافه كنيد (ADD)

4ـ نتايج دستور را از ALU به ريجستر مقصد بنويسيد (Wrie)

 در يك پردازنده مدرن و جديد، چهار گام بالا بقدري تكرار مي شوند تا اجراي برنامه تمام شود. اينها در حقيقت 4 مرحله در كانال ارتباطي (pipeline) RISC مي باشد. اكنون در اينجا 4 مرحله را بطور خلاصه مي آوريم :

1ـ Fetch (آوردن)

2ـ Decode (رمزگشايي كردن)

3ـ Execate (اجرا كردن)

4ـ Write يا «Write - bock» (نوشتن)

هر كدام از اين مراحل را مي توان يك فاز در چرخه زندگي دستور، به شمار آورد. يك دستور با فاز آوردن شروع مي شود به فاز رمز گشايي رفته و بعد به فاز اجرا و نهايتاً به فاز نوشتن مي رود. هر فاز زمان ثابتي و نه مساوي را صرف مي كند. در اغلب پردازنده هاي مثال كه در اين مقاله به آنها خواهيم پرداخت. تمام 4 مرحله زمان يكساني را صرف مي كنند اما اين موضوع براي پردازنده هاي واقعي اينگونه نيست. در هر مورد، اگر يك پردازنده ساده آزمايشگاهي دقيقاً 1 نانوثانيه براي تكميل هر فاز صرف كند، اين پردازنده براي تمام كردن يك دستور 4 نانو ثانيه وقت صرف مي كند.

اساس كار خط لوله اي (pipelining) مقايسه

در بخش حاضر براي توضيح ارتباط از مقايسه كارخانه استفاده مي شود. ديگر افراد از مقايسه هاي ساده تري مثل شستن رخت ها براي توضيح اين تكنيك استفاده مي كنند اما دلايل اندكي در انتخاب من براي اين مقايسه وجود دارد. ابتدا، تجسم كارخانجات با خطوط اسمبلي براي خواننده راحت تر است و فضاهاي زيادي براي جذب نقاط و نكات مختلف توسط خواننده وجود دارد. دوم، و احتمالاً مهمترين دليل، مشكلات منابع مديريتي و زمان بندي صف داده ها كه طراحان كارخانه در ساخت كامپيوتر با آن مواجه هستند، مي باشند. در بسياري از موارد مشكلات و راه حل ها دقيقاً مشابهند، و به سادگي به قلمرو (domain) مختلفي ترجمه مي شود. (توجه داشته باشيد كه مشكلات / راه حل هاي مربوط به صف داده ها كه مشابهند نيز در سرويس كارخانه بوجود مي آيد. و اين دليلي است كه چرا قياس با رستورانهاي فست فود و سوپر ماركت ها مورد علاقه من است.)

بهتر است بگوييم من و دوستانم تصميم گرفتيم وارد تجارت ساخت خودروهاي موتوري شويم و محصول اوليه ما يك وسيله نقليه اسپورت (Suv) باشد. پس از تحقيقات و بررسي ما به اين نتيجه مي رسيم كه در پروسه ساخت SUV 5 مرحله وجود دارد :

مرحله 1) ساخت شاسي اتومبيل

مرحله 2) قراردادان موتور شاسي

مرحله 3) قراردادن درها، كاپوت و لفاف ها

مرحله 4) قراردادن چرخها

مرحله 5) رنگ زدن SUV

انجام هر كدام از مراحل فوق، نياز به استفاده از كارگران ماهر به همراه مجموعه وسايل پيشرفته دارد و اينكه كارگران مسئول ساخت شاسي چندان از موتور، بدنه، چرخها يا رنگ آميزي اطلاعي ندارد و اين در مورد بقيه قسمتها نيز اين  چنين است. پس زمانيكه ما تصميم گرفتيم كه يك كارخانه  SUV را راه بياندازيم، 5 گروه متخصص هر كدام در هر يك مرحله از ساخت را به خدمت گرفتيم. يك گروه براي ساخت شاسي، يكي براي موتور، يك  گروه ديگر براي چرخها و يك گروه هم براي رنگ آميزي. نهايتاً بعلت اينكه گروه ها حرفه اي متخصص بودند هر مرحله پروسه ساخت SUV دقيقاً يك ساعت طول مي كشيد تا كامل شود.

اكنون، از آنجايي كه من و دوستانم در زمينه موتورهاي صنعتي سر رشته نداريم، بايستي در مورد منابعي كه كارخانه را سودآور مي كند بسيار ياد بگيريم. ما اساس اولين ساخت را روي نقشه زير قرار داديم : در زمينه كارخانه هر 5 گروه را در يك خط قرار دهيم، و ابتدا گروه  1 مرحله 1 را انجام دهد. پس از اتمام مرحله 1، گروه كارگران 1، SUV نيمه تمام را به مرحله 2 مي دهند و اتاق شاسي بعدي تا گروه دوم موتور را ساخته و درون آن بگذارد. به محض اتمام كار گروه  SUV به مرحله 3 برسد و در آنجا كار مرحله 1 و2 را تكميل مي كند. SUV در امتداد خط پائين مي رود و هر 5 مرحله روي آن انجام مي شود بدين شكل كه فقط يك گروه در حال كار بر روي SUV است و بقيه كارگران بيكار هستند. با اين سرعت دقيقاً  ساعت طول مي كشد تا يك SUV آماده شود و در واقع كارخانه ماهر  ساعت يكبار يك SUV توليد مي كند.

موفقيت در طي سال ماشين SUV ما به خوبي فروش داده و ما با ارتش آمريكا قرارداد بسته ايم. ارتش سفارش چند ماشين در زمان را مي دهد. يك سفارش ممكن است شامل SUV10 باشد و ديگري ممكن است شامل 500 ماشين SUV شد. هر چقدر ميزان سفارشات ما در سال مالي بيشتر باشد پول بيشتري عايد ما خواهد شد. البته اين بدين معني است كه بايد به دنبال راهي براي افزايش SUV در ساعت باشيم. با تكميل SUV هاي بيشتري در هر ساعت، مي توانيم سفارشات ارتش را سريعتر آماده كرده و به پول خود سريعتر برسيم. يك راه تلاش براي كاهش زمان توليد SUV است. چنانچه بتوانيم كارگران را وادار كنيم با دو برابر سرعت كار كنند. مي توانيم در زمان مشابه دو برابر توليد داشته باشيم. كارگران با سرعت هر چه تمامتر كار مي كنند، و فقط براي افزايش بازدهي استراحت كوتاهي مي كنند، باز هم از جدول حذف شده است.

از آنجايي كه بيشتر از اين نمي توانيم سرعت كارگران را بالا ببريم. مي توانيم يك خط اسمبلي ديگر نيز به راه بياندازيم. اگر 5 گروه ديگر را به خدمت گرفته و آموزش دهيم، قادر هستيم در 5 ساعت دو تا SUV توليد كنيم. اين موضوع نه تنها سبب دو برابر شدن توليد مي شود بلكه تعداد كارگران در حال كار يا در حال استراحت را نيز دو برابر مي كند. در نتيجه بايد دنبال يك راه بهتر باشيم.

با كمبود اختيارات و امكانات، ما يك تيم مشاوره را به خدمت گرفتيم تا يك راه مناسب بودن و دو برابر شدن تعداد كارگران و افزايش ميزان بهره وري، پيش پاي ما بگذارد. يكسال و هزاران ساعت وقت صرف شد تا تيم مشاوره بتواند راه حل مناسبي بيابد. چرا بگذاريم كارگران 5/4 وقت خو د را در اتاق استراحت بگذرانند؟ و پس از اين مدت آيا مي توانند مفيد باشند و بازدهي مناسبي داشته باشند؟ با برنامه ريزي مناسب بر 5 گروه كاركنان كارخانه ما قادر بود هر SUV در يك ساعت كامل كند و به نحو حيرت آوري كارآيي و خروجي خط اسمبلي را بهبود بخشد. جريان كاري بازبيني شده به شرح زير است : كارگران مرحله 1 شاسي را مي سازند، به محض اتمام شاسي آن را به كارگران مرحله 2 مي فرستند. كارگران مرحله 2 مشغول قرار گرفتن موتور درون شاسي مي شوند و در همين حين كارگران مرحله 1 شروع به ساخت يك شاسي جديد ديگر مي كنند. زماني كه كار هر دو گروه 1 و 2 تمام شد آن را به مرحله 3 مي فرستند و كارگران گروه 1 دوباره ساخت يك شاسي جديد را شروع مي كنند.

بنابراين زماني كه خط اسمبلي شروع به توليد SUV در مراحل مختلف مي كند، بيشترين كارگران همزمان در حال كار هستند در حاليكه همه كارگران روي وسيله نقليه متفاوتي در مراحل مختلف توليد كار مي كنند. اگر بتوانيم خط اسمبلي را پر نگهداريم و همزمان همه كارگران مشغول بكار باشند مي توانيم طي يك ساعت يك SUV توليد كنيم. در واقع سرعت توليد را 5/1 رسانده ايم. اين، بطور خلاصه، يعني را ه ارتباطي (pipelining)

در حاليكه زمان كل توليد هر يك sav از 5 ساعت تغيير نيافته است. اما سرعت توليد و تكميل افزايش يافته و بنابراين سرعت اجراي معامله و قرارداد با ارتش افزايش يافته است. راه ارتباطي با استفاده مجهز از تمام منابع موجود ،‌جادو م يكند . ما نيازي به افزايش سرعت انفرادي هر مرحله توليد نداريم همچنين نيازي به افزايش منابع خود كه ما را دچار مشكل كرده بودند نيز نداريم . تنها چيزي كه لازمست گرفتن كار بيشتر از منابع موجود است.

اكنون به بحث خود درباره ريز پردازنده ها مي پردازيم ، حالا تصور 4 مرحله (فاز) سيكل زندگي يك دستور راحت است. دقيقاً مشابه صاحبان كالا كارخانه د رمثال بالا كه مي خواستند تعداد suv  توليدي در زمان را افزايش دهند طراحان ريز پردازنده نيز هميشه به دنبال راههايي هستند كه تعداد دستوراتي را كه cpu  مي تواند در زمان داده شده كامل كند ، را افزايش دهند . زماني كه بخاطر مي آوريم كه يك برنامه مجموعه دستورات متوالي و منظم است آنگان روشن مي شود كه افزايش تعداد دستورات انجام شده در هر واحد زماني يك راه براي كاهش ميزان كل زماني است كه براي اجراي برنامه طول مي كشد. در مثال بالا ، يك برنامه مشابه سفارش گرفتن از ارتش است ، دقيقا افزايش خروجي كارخانه در هر ساعت ما را قادر مي ساخت كه سريعتر معاملات را تمام كنيم . و افزايش سرعت تكميل دستورات پردازنده ما را قادر مي سازد كه برنامه را سريعتر انجام دهيم.

يك مثل خط لوله اي ( Anon-pipelined  exampel ) 

يك پردازنده غير خط لوله اي در يك زمان روي يك دستور كار مي كند . و هر دستور از طريق تمام 4 فاز سيكل در طي يك سيكل ساعتي عبور مي دهد. از اين رو پردازشگرهاي اين چنيني را به نام پردازشگرهاي تك سيكلي نيز مي نامند زيرا تمام دستورات فقط يك سيكل ساعت طول مي كشند تا كاملا اجرا شوند.

از آنجايي كه پردازشگر دستورات را با سرعت يك در هر سيكل ساعت كامل مي كند . ساعت cpu  نيز تا حد امكان بايستي كار كند تا سرعت تكميل دستورات پردازنده بيشتر شود . بنابراين نياز به محاسبه حداقل ميزان زماني اجراي يك دستور را داريم و بايستي زمان سيكل ساعتي را با آن طول زمان برابر كنيم. اين موضوع دقيقاً در cpu  آزمايشگاهي يابند اتفاق مي افتد 4 فاز سيكل زيست دستور ، كل 4 نانوثايه طول مي كشد . بنابراين بايستي طول سيكل ساعتي cpu  را به 4 نانوثانيه تنظيم كنيم تا از دستور fetd ( اوردن ) تا wnite  ( نوشتن ) يك سيكل ساعتي طول بكشد. ( سيكل ساعتي cpu  را اغلب به اختصار ساعت clock  مي نامند)

در دياگرام بالا،به دستور آبي از محل ذخيره كه خارج مي شود و وارد پردازشگر مي شود و سپس از طريق فازها يك سيكل 4 نانومتري را طي مي كند تا در انتهاي ِِ چهارمين نانو ثانيه فاز آخر را تمام كند و كل سيكل تمام شود . انتهاي چهارمين نانو ثانيه انتهاي اولين سيكل ساعتي نيز مي باشد . بنابراين اكنون اولين سيكل ساعتي تمام شده و دستور آبي اجراي خود را تمام كرده است و دستور قرمز وارد پردازشگر شده ، سيكل زندگي خود را شروع مي كند و پروسه يكساني را طي مي كند . اين گامهاي متوالي 4 نانو ثانيه اي تا زماني تكرار مي شود كه پس از 16ns  ( 4 سيكل ساعتي ) پردازشگر تمام 4 دستور را با سرعت 25/0 دستور / ns ( نانو ثانيه ) كامل كند .

پردازشگرهاي تك سيكلي مثل شكل PIPELINVING  ، طراحي ساده اي دارند اما منابع سخت افزاري زيادي را تلف مي كند. تمام منطقه سفيد در دياگرام نمايانگر سخت افزار پردازشگر است كه در زمان انتظار براي تكميل اجراي پردازشگر بيكار مي ماند. با ارتباط دهي پردازشگر بالا ،‌مي توان از اين سخت افزار در هر نانو ثانيه استفاده بيشتري نمود و بدنبال آن افزايش كارآيي پردازشگر و عملكرد آن در اجراي برنامه ها پيش مي آيد.

قبل از اينكه ادامه بدهيم ، بايستي جنبه هاي اندك دياگرام بالا را كه ممكن است گيج كننده به نظر برسد را شفاف توضيح دهيم. در انتهاي دياگرام يك ناحيه باعنوان (( دستورات تكميل شده / Completed  Instructions  )) وجود دارد . اكنون ،‌دستورات تكميل شده حقيقتاً هيچ كجا نمي روند ت به محض اتمام كارشان كه گفتن به پردازشگر چگونگي بهبودبخشي داده است ،‌به سادگي از پردازشگر حذف مي شوند . بنابراين ، جعبه ((  Completed  Instructions  ))  در انتهاي دياگرام ،‌حقيقتاً نمايانگر بخشي از كامپيوتر نيستند و اين به اين خاطر است كه من آن را داخل نقطه چين گذاشته ام . اين مكان فقط جايي براي ماست كه بدانيم چند دستور در زمان مشخص توسط پردازشگر انجام شده يا سرعت تكميل دستورات توسط پردازشگر را بدانيم بنابراين هنگام مقايسه گونه هاي مختلف پردازشگر جائي هست كه با نگاه كردن به آن مي توانيم سريع بفهميم كار كدام بهتر بوده است. هر چقدر تعداد دستورات كامل شده توسط پردازنده در زمان مشخص بيشتر باشد،اجراي برنامه ها بهتر مي شود كه ترتيب منظم دستورات است. بنابراين در نظر بگيريد كهجعبه دستورات كامل شده بعنوان نوعي اسكور برد براي سنجش سرعت كامل سازي پردازنده بكار مي رود.

با پيروي از نكته بالا ، ممكن است كنجكاو شويد كه چرا دستور آبي كه در چهارمين نانوثانيه كامل شده است در اين جعبه ديده نمي شود تا زمان پنجمين نانوثانيه در آن ديده مي شود . دليل آن ماهيت و ذات دياگرام مي باشد . زيرا يك دستور يك نانوثانيه وقت صرف مي كند ( از شروع تا اتمام ) ، در هر مرحله اجرا به دستور آبي وارد فاز نوشتن ( write)  در ابتداي چهارمين ns مي شود و فاز نوشتن در انتهاي چهارمين ns پايان مي يابد. اين بدين معناست كه پنجمين ns  اولين نانوثانيه كامل است كه دستور آبي كامل شده است . بنابراين در شروع پنجمين ns پردازشگر يك دستور را كامل نموده است.

يك مثال خط لوله اي ( A  pipeline  exampele) 

پردازشگر خط لوله اي يعني شكستن پروسه اجراي دستور به سري هاي مراحل ارتباطي مجزا كه مي توان با تخصصي كردن سخت افزار آن را به ترتيب انجام داد. بخاطر بياوريد راهي را كه ما در خط اسمبلي خود كاهش ايجاد نموديم.

از آنجايي كه سكيل زيست دستور شامل 4 فاز مجزاي مشخص است ، مي توان آن را با شكستن پروسه اجراي دستور توسط پردازشگر تك سيكل شروع نمود.

مرحله 1 ) دستور را از ذخيره كه بياور (Fetch)

مرحله 2 ) دستور را رمزگشايي كن (Decode)

مرحله 3 ) دستور را اجرا كن  ( Execate)

مرحله 4 ) نتايج دستور را در فايل ديجستر بنويس (write)

بخاطر داشته باشيد كه تعداد مراحل ارتباط به عمق آن بستگي دارد . بنابراين ارتباط 4 فازه ما عمق 4 دارد. براي حفظ راحتي بهتر است بگوييم كه مراحل ارتباط بالا دقيقاً يك ns براي يك دستور طول مي كشد درست مثل قياس با كارخانه suv كه يك ساعت طول مي كشيد. بنابراين پردازشگر تك سيكل اصلي ما ، زمان پردازش 4 نانوثانيه اي دارد و به 4 مرحله مجزا و متوالي ارتباطي ns  شكسته مي شود.