Yüksek boyutlu birim topların neredeyse tüm hacimlerini ince bir kabuk içinde sakladığını gördükten sonra, işte daha çılgın bir devam oyunu: Yüksek boyutlu bir Gauss, zirvesinde kütleye sarılmış rahat bir çan değildir; temelde ortası boştur ve neredeyse tüm olasılık, başlangıçtan yaklaşık "boyutun karekökü" mesafede, eğimde ince bir hale halinde yaşar. Bu da yüz boyutlu bir Gauss'tan alınan "tipik" çekimin ortalamaya yakın olmadığı anlamına gelir! 🤯 Yoğunluğu daha düşük ama hacmi çok büyük olan bu halka üzerinde durur. Gerçek hayatta yorumlandığında, bu çok büyük: Gauss ağırlıklarıyla büyük bir sinir ağı başlattığınızda, elde ettiğiniz çoğu ağ yaklaşık aynı genel ağırlık normuna sahiptir ve hepsi bu kabuk üzerinde durur, yani eğitim sıfıra yakın değil, ince bir enerji halkası üzerinde gerçekleşir. #HighDimensionalSpace #MachineLearning #Gaussian

Önceki yazıda, yüksek boyutlarda, bir birim topun neredeyse tüm hacminin sınır yakınında çok ince bir kabukta yaşadığını gördük. Ama başka bir sürpriz daha var! 😄 Uçların çoğu ayrıca sabit bir yönün etrafında dar bir merkezi levhada yer alır. Yani "tipik" bir nokta, genel mesafe açısından orijinalden çok uzaktır, ancak herhangi bir eksen boyunca koordinatı çok küçüktür. Yüksek boyutlu noktalar hem "yüzeyde" hem de "ekvatora yakın"dır, bu yüzden rastgele vektörler yüksek boyutlu makine öğrenimi alanlarında neredeyse dik konumdadır. 🤯 Bunu hatırlattığı için @mutko55'a teşekkürler. #HighDimensionalSpace #MachineLearning

Bu, şimdiye kadar öğrendiğim en tuhaf şeylerden biri. 🤨😦🤯 1, 2 ve 3 boyutlarda düşünmeye o kadar koşullandık ki, sezgilerimiz orada yaşıyor, ama yüksek boyutlara adım attığınızda, mesafe gibi temel bir şey bile yanlış hissettirmeye başlıyor. Yüksek boyutlu bir kürede, neredeyse tüm hacim sınıra yakın ince bir kabukta yaşar... Yarıçapı biraz küçültünce neredeyse her şeyi atmış olursunuz, yani rastgele noktalar ortada hiç durmaz, kenarda mikroskobik bir hale haline ezilirler. Bu, yüksek boyutlu Makine Öğrenimi alanlarında mesafe, en yakın komşular ve geometrik sezginin bu kadar garip davranmasının nedenlerinden biridir. Yüksek boyutlu geometri, düşük boyutlu beyninizin size yalan söylediğini sessizce söylüyor. 🤯 #HighDimensionalSpace #MachineLearning