L2 düzenlenmesi hakkında bunu çok az kişi biliyor: (İpucu: bu sadece bir düzenleme tekniği değildir) Çoğu model, L2 Regularizasyonu'nu sadece bir amaçla kullanmayı planlar: ↳ Aşırı uyumu azalt. Ancak, L2 düzenlenmesi çoklu kollineerlik için harika bir çözümdür. Çok doğrusal yaklaşım şu durumlarda ortaya çıkar: → İki (veya daha fazla) özellik yüksek derecede korelasyonludur, YA DA, → İki (veya daha fazla) özellik başka bir özelliği tahmin edebilir. L2 düzenlileştirmenin çokkollineerliği nasıl ele aldığını anlamak için, iki özellikli ve bağımlı değişkeni (y) olan bir veri seti düşünün: → ÖzellikA → featureB → featureA ile yüksek korelasyonludur. → y = featureA ve featureB'nin doğrusal bir kombinasyonu. Kesişme terimi göz ardı edilirsek, doğrusal modelimiz iki parametreye (θ₁, θ₂) sahip olur. Amaç, karelerin kalıntı toplamını (RSS) en aza indiren belirli parametreleri bulmaktır. O halde, şunu yapalım ↓ 1. (θ₁, θ₂) parametrelerinin birçok farklı kombinasyonu için RSS değerini çizeceğiz. Bu, 3D bir grafik oluşturacaktır: → x-ekseni → θ₁ → y ekseni → θ₂ → z-ekseni → RSS değeri 2. RSS değerini en aza indiren (θ₁, θ₂) kombinasyonunu görsel olarak belirleyeceğiz. L2 cezası olmadan, aşağıdaki resimde ilk grafik ortaya çıkıyor. Bir şey fark ettin mi? 3D arsa bir vadiye sahip. RSS'nin minimum olduğu birden fazla parametre değeri kombinasyonu (θ₁, θ₂) vardır. L2 cezasıyla birlikte, aşağıdaki görselde ikinci grafik ortaya çıkıyor. Bu sefer farklı bir şey fark ettiniz mi? L2 düzenleme kullanmak, daha önce gördüğümüz vadiyi ortadan kaldırdı. Bu, RSS hatasına küresel bir minimum sağlar. Ve işte bu şekilde L2 düzenleme çoklu kollineerliği ortadan kaldırmamıza yardımcı oldu. 👉 Size kalmış: L2 düzenlenmesi hakkında bunu biliyor muydunuz?

Aslında, "sırt regresyonu" da adını buradan alır: L2 cezası kullanmak, doğrusal modelin olasılık fonksiyonundaki RIDGE'i ortadan kaldırır. Şuna👇 bak