本文參考資料列表：

【1】Robust Regression Shrinkage and Consistent?Variable Selection Through the LAD-Lasso?

【2】維基百科?https://en.wikipedia.org/wiki/Least_absolute_deviations

LAD-lasso簡介

LAD-lasso是一種將 lasso的 regression shrinkage and selection 和LAD （least absolute deviation）對于outliers和heavy-tailed errors的穩(wěn)健性結(jié)合起來的辦法。?

LAD-lasso準(zhǔn)則

lasso準(zhǔn)則是：

lasso準(zhǔn)則對所有的變量施加相同的tuning parameter，得到的估計(jì)量是有偏的，修改lasso得到以下準(zhǔn)則：

lasso*準(zhǔn)則中使用的是Ordinary Least Square，對于outliers比較敏感，改為least absolute deviation：

LAD-lasso求解

LAD-lasso可以轉(zhuǎn)化為無懲罰的LAD問題求解：

而LAD問題的求解，最推薦的是線性規(guī)劃方法，如何將LAD問題轉(zhuǎn)化為線性規(guī)劃問題呢？

我們想要：

該問題等價于：

其中的constraints會在最小化目標(biāo)函數(shù)的同時，強(qiáng)制每個 u_i?等于| y_i -a₀-...-a_kx_ik?|，因此等價于原始的目標(biāo)函數(shù)。

LAD-lasso性質(zhì)

待補(bǔ)充。。

線性規(guī)劃

基于單純形的方法是解決最小絕對偏差問題的“首選”方法。單純形法是一種解決線性規(guī)劃問題的方法。 最流行的算法是Barrodale-Roberts modified Simplex算法。

?

轉(zhuǎn)載于:https://www.cnblogs.com/grace-luke/p/9975576.html

總結(jié)

以上是生活随笔為你收集整理的LAD-lasso和线性规划算法的全部內(nèi)容，希望文章能夠幫你解決所遇到的問題。

如果覺得生活随笔網(wǎng)站內(nèi)容還不錯，歡迎將生活随笔推薦給好友。