การเปรียบเทียบวิธีประมาณค่าสัมประสิทธิ์ถดถอย เมื่อเกิดปัญหาความสัมพันธ์เชิงเส้นพหุ

Abstract

The purpose of this research is to compare 7 regression coefficient estimation methods with the presence of multicollinearity: ordinary least squares method (OLS), ridge regression method based on Hoerl and Kennard method (k1), Lawless and Wang method (k2), Kibria method (k3), Muniz and Kibria method (k4 and k5) and robust ridge regression method. The average mean square error (AMSE) is used as criterion for comparison. Data are simulated under the situation of 2 and 3 independent variables; 3 levels of correlation coefficient as low, moderate and high; 4 levels of sample size as 10, 30, 50 and 100; 3 levels of error variance as 1, 3 and 5. Each situation is repeated 1,000 times. The results indicate that, for 2 and 3 independent variables and correlation coefficients between pairs of variables in low, moderate and high level, the robust ridge regression mostly yields the least AMSE in all situations under study.

งานวิจัยนี้มีวัตถุประสงค์เพื่อเปรียบเทียบวิธีประมาณค่าสัมประสิทธิ์ถดถอยเมื่อเกิดปัญหาความสัมพันธ์เชิงเส้นพหุ 7 วิธี ได้แก่ วิธีกำลังสองน้อยที่สุด (OLS) วิธีการถดถอยแบบริดจ์ด้วยวิธีของ Hoerl และ Kennard (k1) วิธีของ Lawless และ Wang (k2) วิธีของ Kibria (k3) และวิธีของ Muniz และ Kibria (k4 และ k5) และวิธีการถดถอยแบบริดจ์ที่มีความแกร่ง โดยใช้ค่าเฉลี่ยของความคลาดเคลื่อนกำลังสองเฉลี่ย (AMSE) เป็นเกณฑ์ในการเปรียบเทียบ ข้อมูลที่ใช้ในการศึกษาได้จากการจำลองข้อมูล กำหนดจำนวนตัวแปรอิสระเท่ากับ 2 และ 3 ตัว สัมประสิทธิ์สหสัมพันธ์ระหว่างคู่ของตัวแปร 3 ระดับ คือ ต่ำ ปานกลาง และสูง ขนาดตัวอย่างเท่ากับ 10, 30, 50 และ 100 ความแปรปรวนของความคลาดเคลื่อนเท่ากับ 1, 3 และ 5 โดยแต่ละสถานการณ์กระทำซ้ำ 1,000 รอบ ผลการวิจัยพบว่า กรณีที่มีตัวแปรอิสระ 2 ตัว และ 3 ตัว เมื่อความสัมพันธ์ระหว่างคู่ของตัวแปรอยู่ในระดับต่ำ ปานกลาง และสูง ในทุกสถานการณ์ที่ศึกษา วิธีการถดถอยแบบริดจ์ที่มีความแกร่งให้ค่า AMSE ต่ำที่สุดเป็นส่วนใหญ่