Pengertian regresi liner, graient descent dan algoritma least mean square

disini saya akan menjelaskan secara singkat apa itu regresi linier , graient descent dan algoritma least mean square

Regresi Linier

apakah itu regresi linier ? Regresi merupakan alat ukur yg digunakan untuk mengetahui ada tidaknya korelasi antarvariabel. Analisis regresi lebih akurat dlm analisis korelasi karena tingkat perubahan suatu variabel terhdp variabel lainnya dpt ditentukan). Jadi pada regresi, peramalan atau perkiraan nilai variabel terikat pada nilai variabel bebas lebih akurat pula.Regresi linier adalah regresi yang variabel bebasnya (variabel X) berpangkat paling tinggi satu. Utk regresi sederhana, yaitu regresi linier yg hanya melibatkan dua variabel (variabel X dan Y). 

Regresi linier adalah pendekatan untuk memodelkan hubungan antara variable terikat Y dan satu atau lebih variable bebas yang disebut X. Salah satu kegunaan dari regresi linier adalah untuk melakukan prediksi berdasarkan data yang telah dimiliki sebelumnya. Hubungan diantara variable bebas, maka regresi linier dapat dibagi menjadi dua, yaitu regresi linier univariate dan regresi linier multivariate. regresi multivariate adalah memiliki variabel yang lebih dari 1 jenis.

Gradient Descent

Algoritma penurunan gradien atau gradient descent merupakan algoritma yang digunakan untuk mencari nilai minimum lokal yang dapat dihasilkan dari suatu fungsi parametrik. Teknik ini didasarkan pada fakta bahwa nilai gradien dari suatu fungsi pada titik tertentu menyatakan kemiringan lereng dari nilai tersebut terhadap titik di sekitarnya sehingga nilai minimum dapat diraih dengan mengurangi nilai titik tersebut dengan nilai gradien. Algoritma ini dapat dibalik untuk tujuan mencari nilai maksimum dengan cara menambahkan suatu nilai titik dengan gradien fungsinya pada titik tersebut. Algoritma ini sangat umum digunakan pada teknik Regresi maupun Pembelajaran mesin untuk mencari variabel pada fungsi galat sehingga suatu fungsi dapat memodelkan data dengan galat yang minimum. nilainya harus jelas dan tidak ambigu.

Algoritma Least Mean Square

Algoritma LMS diperkenalkan oleh Widrow dan Hoff.,1975 yang diaplikasikan untuk proses pembelajaran. Algoritma ini mempunyai kinerja yang dapat menekan noise dari sinyal yang telah terkena noise. Algoritma LMS merupakan pendekatan dari algoritma steepest descant yang menggunakan estimasi sesaat dari gradien vektor sebagai fungsi yang dipertimbangkan. Nilai estimasi gradien didasarkan pada nilai sampel vektor masukan dan nilai galat (error) yang diperoleh. 

#LMS #Gc #RegresiLinear #Penjelasan #Pengertian