การเปรียบเทียบวิธีคัดเลือกตัวแปรอิสระเข้าสู่ตัวแบบการถดถอยเชิงเส้นพหุโดยใช้การค้นหาแบบขั้นตอนวิธีเชิงพันธุกรรมและการค้นหาแบบจำลองการอบเหนียว

Abstract

The objective of this research is to study the subset selection in multiple linear regression model by using Genetic Algorithm (GA) and Simulated Annealing (SA) and compare the efficiency and rate of convergence of GA and SA in the case of with and without multicollinearity problem between input variables. The data used in this study were simulated under various situations. The numbers of input variables are 5 8 10 15 and 20 respectively, for each input variable, the sample sizes are 50 100 200 and 500 respectively. The efficiency is compared by using correct specification percentage of subset selection while rate of convergence is validated through number of loops spent for each case. The results show that GA and SA perform similarly in the case of with and without multicollinearity problem. Further, GA provide higher percentage of correct specification than SA for small number (5 and 8 variables) of input variable while both methods provide 100% of correct specification when the numbers of input variables are increased (10 15 and 20 variables). In addition, the results reveal that both GA and SA have similar rate of convergence when the number of input variables is small while SA can work much faster than GA when the number of input variables or the dimension of the problem becomes larger.

การวิจัยนี้ มีวัตถุประสงค์เพื่อศึกษาการคัดเลือกตัวแปรอิสระเข้าสู่ตัวแบบการถดถอยเชิงเส้นพหุด้วยวิธีการค้นหาแบบขั้นตอนเชิงพันธุกรรม(Genetic Algorithm: GA) และการค้นหาแบบจำลองการอบเหนียว(Simulated Annealing: SA) และทำการเปรียบเทียบประสิทธิภาพและความรวดเร็วในการทำงานของทั้ง GA และ SA ในสถานการณ์ที่ไม่เกิดและเกิดปัญหาพหุสัมพันธ์เชิงเส้นต่อกันของตัวแปรอิสระ ทำการศึกษาโดยการจำลองข้อมูลและกำหนดจำนวนตัวแปรอิสระเท่ากับ 5 8 10 15 และ 20 ตามลำดับ และแต่ละขนาดของตัวแปรอิสระ กำหนดขนาดตัวอย่างเท่ากับ 50 100 200 และ 500 ตามลำดับ ทำการเปรียบเทียบประสิทธิภาพของ GA และ SA โดยพิจารณาค่าร้อยละความถูกต้องของการคัดเลือกตัวแปรอิสระเข้าสู่ตัวแบบและพิจารณาจำนวนรอบในการทำงานเป็นเกณฑ์ในการเปรียบเทียบความรวดเร็วในการทำงาน ผลการศึกษาพบว่า GA และ SA สามารถทำงานได้ดีทั้งในสถานการณ์ที่ไม่เกิดและเกิดปัญหาพหุสัมพันธ์เชิงเส้นต่อกันของตัวแปรอิสระ โดยที่ GA ให้ค่าร้อยละความถูกต้องของการคัดเลือกตัวแปรอิสระเข้าสู่ตัวแบบสูงกว่า SA ในกรณีที่ตัวแปรอิสระมีจำนวนน้อย (5 และ 8 ตัวแปร) และทั้ง 2 วิธีสามารถคัดเลือกตัวแปรอิสระได้ถูกต้องร้อยละ 100 เมื่อจำนวนตัวแปรอิสระมีค่าเพิ่มขึ้น (10 15 และ 20 ตัวแปร) นอกจากนี้ยังพบว่าทั้ง GA และ SA มีความรวดเร็วในการทำงานใกล้เคียงกันเมื่อจำนวนตัวแปรอิสระมีขนาดเล็ก ในขณะที่ SA สามารถทำงานได้รวดเร็วมากกว่า GA เมื่อจำนวนตัวแปรอิสระหรือมิติของปัญหามีขนาดใหญ่ขึ้น