۱-۵ – ضرب­هادمارد^[۲۰]
و ماتریس و با بعدهای مساوی را در نظر بگیرید، ضرب هادمارد و را با نماد نشان می دهیم. امین درآیه ماتریس را به صورت زیر تعریف می کنیم:
در واقع درایه های متناظر ماتریس و را در هم ضرب می کنیم.
۱-۵-۱- ویژگی های ضرب هادمارد
۱- اگر ودو ماتریس باشد انگاه ، یعنی ضرب هادمارد
دارای ویژگی جابجایی است.
۲- اگر یک ماتریس باشد، انگاه معکوس هادمارد را که با نشان می دهیم، وجود دارد اگر و فقط اگر
≠ ۰ و
۳- فرض کنید عدد صحیح باشد و و ماتریس های باشند، انگاه داریم:
الف-
ب–
۴- اگر و فقط اگر ماتریس و قطری باشند.
۵) اگر و ماتریس های باشد و و ماتریس های قطری به ترتیب با بعدهای و باشند، انگاه داریم:
۶) ماتریس همانی تحت ضرب هادمارد، ماتریسی که تمام درایه های ان یک باشد.
برای جزئیات بیشتر در مورد ضرب هادمارد به مقاله ضرب هادمارد نوشته الیزابت^[۲۱] (۲۰۰۷) مراجعه کنید.

(( اینجا فقط تکه ای از متن درج شده است. برای خرید متن کامل فایل پایان نامه با فرمت ورد می توانید به سایت feko.ir مراجعه نمایید و کلمه کلیدی مورد نظرتان را جستجو نمایید. ))

در فصل سوم از این ضرب برای محاسبه مقدار آماره PRESS استفاده می شود.
فصل دوم
تعدیل کردن برآوردگرها در رگرسیون ریج
همانطور که در فصل قبل اشاره کردیم، رگرسیون ریج یکی از روش های انقباضی برای حل مشکل هم خطی چندگانه است. در رگرسیون ریج، یکی از مشکلات انتخاب (پارامتر ریج) می باشد. بنابراین، در این فصل روش های بدست آوردن پارامتر ریج را معرفی می کنیم و در ادامه به تعدیل کردن برآوردگرهای ریج می پردازیم. سپس با بهره گرفتن از شبیه سازی مونت کارلو و استفاده از معیار به مقایسه برآوردگرهای اولیه و برآوردگرهای بهینه شده می پردازیم.
۲-۱ – روش های بدست آوردن پارامتر ریج
همانطور که در فصل یک ذکر شد، برآوردگر تابع پیچیده از می باشد. برای یافتن روش های مختلفی توسط محققین معرفی شده است، که در این بخش این روش ها را بیان می کنیم:
۲-۱-۱ – روش نموداری برای بدست آوردن پارامتر ریج
در ابتدا برآوردگر ریج که در (۱- ۷) معرفی شد را دوباره در نظر بگیرید:
یک روش عملی برای پیدا کردن مقدار که توسط هوئرل و کنارد در سال ۱۹۷۰ پیشنهاد شد این است که ابتدا برآورد ضرایب رگرسیونی ریج را به ازای های مختلف بین صفر و یک بدست آورده، سپس نمودار هر یک از این براوردهای جداگانه برای ضرایب را در مقابل رسم نموده (اصطلاحا به این نمودار اثر ریج^[۲۲] گویند) و با بهره گرفتن از این نمودار، کوچکترین مقدار یی که به ازای آن برآوردهای ضرایب به حالت پایدار می رسند را انتخاب کنیم. انتخاب ثابت با بهره گرفتن از روش بحث شده، بستگی به قضاوت و انتخاب تحلیل گر دارد، لذا محققین به دنبال روش های محاسباتی برای انتخاب می باشند که در بخش بعد این روش ها را بیان می کنیم.
۲-۱-۲ – روش محاسباتی برای بدست آوردن پارامتر ریج
انتخاب با بهره گرفتن از روش نمودار، یک دستورالعملی است که به قضاوت تحلیل گر نیاز دارد. بیشتر پژوهشگران آماری با بهره گرفتن از محاسبه، شیوه هایی را برای انتخاب در سالهای مختلف پیشنهاد کردند که در کاربرد عملکرد بهتری دارند. از آنجائیکه این روش های محاسباتی بر اساس رگرسیون ریج تعمیم یافته ارائه می شود، در ابتدا رگرسیون ریج تعمیم یافته را معرفی می کنیم، سپس روش های مختلف برآورد را مورد بررسی قرار می دهیم.
۲-۱-۲-۱ – رگرسیون ریج تعمیم یافته^[۲۳]
رگرسیون ریج تعمیم یافته حالت کلی از رگرسیون ریج معمولی است که به وسیله هوئرل وکنارد در سال ۱۹۷۰معرفی شد، بدین صورت که برای هر متغیر رگرسیونی پارامتر ریج جداگانه ای را در نظر می گیرد. اگر داده ها را به فضایی از متغیر های رگرسیونی متعامد تبدیل کنیم، بحث رگرسیون ریج تعمیم یافته تا حدی ساده می شود، پس شکل کانونی مدل (۱-۱) را در نظر می گیریم.
مدل (۱-۱) معرفی شده در فصل قبل، دارای شکل کانونی به صورت زیر می باشد:
وقتیو یک ماتریس متعامد به طوریکه
با مقادیر ویژه ماتریس و بردارهای ویژه متناظر با آنها می باشند. (با فرض اینکه مقادیر ویژه در حالت تئوری صفر نباشند، به عبارت دیگر همبستگی بالا بین متغیرهای رگرسیونی را در نظر می گیریم.)
برآوردگر رگرسیون ریج تعمیم یافته بر اساس شکل کانونی فوق، به صورت زیر بدست می اید:
که K یک ماتریس قطری با اعضای روی قطر می باشد.
ضرایب ریج تعمیم یافته بر حسب مدل کانونی به صورت زیر محاسبه می شود:
بنابراین:
(۲ – ۳)
توجه داشته باشید که اگر ، آنگاه همان می شود.
با بهره گرفتن از شکل کانونی، می توان برآوردگر حداقل مربعات را با بهره گرفتن از معادله زیر بدست آورد:
که در نتیجه:
(۲ – ۴)
بعد از معرفی رگرسیون ریج تعمیم یافته، به هدف اصلی این فصل که روش های مختلف انتخاب پارامتر است، می پردآزیم.
۲ – ۱ – ۳ – روش­های مختلف برآورد پارامتر ریج
هوئرل و کنارد در سال ۱۹۷۰ پیشنهاد دادند با مینیمم کردن می توان برآورد بهینه را به صورت زیر بدست آورد، یعنی:
(۲ – ۵)
در نتیجه
+ (I)
برای محاسبه ، ابتدا و سپس جمله اول سمت راست را بدست می آوریم:
در نتیجه