Bugünkü Extropic lansmanı bazı yeni kırmızı bayrakları gündeme getiriyor. Bu şirketi, inşa ettikleri şeyin girdi/çıktı özelliklerini açıklamayı reddettiklerinde takip etmeye başladım ve bizi açıklama almak için beklettiler.) İşte bugünden itibaren 3 kırmızı bayrak: 1. Kimden "Üretken yapay zeka Örneklemedir. Tüm üretken yapay zeka algoritmaları esasen olasılık dağılımlarından örnekleme prosedürleridir. Üretken bir yapay zeka modelinin eğitilmesi, bazı eğitim verilerinin altında yatan olasılık dağılımının çıkarılmasına karşılık gelir ve çıkarımın çalıştırılması, öğrenilen dağılımdan örnekler oluşturmaya karşılık gelir. TSU'lar örnek aldıkları için üretken yapay zeka algoritmalarını yerel olarak çalıştırabilirler." Bu, insan beynini termodinamik bir bilgisayar olarak adlandırmakla aynı düzeyde gaz aydınlatması olan, en kullanışlı modern yapay zekalara güç veren algoritmalar hakkında oldukça yanıltıcı bir iddiadır. IIUC, herkesin bildiği kadarıyla, yapay zeka hesaplama çalışmalarının çoğu, Extropic'in çipine besleyebileceğiniz giriş/çıkış türüyle eşleşmiyor. Sayfa diyor ki: "Bir sonraki zorluk, bu ilkellerin, yeteneklerin günümüzün LLM'leriyle karşılaştırılabilir bir seviyeye ölçeklendirilmesine olanak tanıyacak şekilde nasıl birleştirileceğini bulmaktır. Bunu yapmak için çok büyük TSU'lar oluşturmamız ve keyfi miktarda olasılıksal bilgi işlem kaynağı tüketebilecek yeni algoritmalar icat etmemiz gerekecek." LLM benzeri uygulamaların bu donanımdan faydalanmasının mümkün olup olmadığını araştırmak için gerçekten büyük TSU'lar oluşturmanız gerekiyor mu? Bu soruyu teori ve modern bulut süper bilgi işlem donanımının bir kombinasyonu aracılığıyla araştırmak için birkaç $million harcamaya değer olacağını düşünürdüm, bunun yerine hiçbir yere köprü olabilecek donanım oluşturmak için 30 milyon dolardan fazla harcamaya değerdi. THRML'leri (açık kaynak kitaplıkları) için kendi belgeleri şöyle diyor: "THRML, seyrek, heterojen grafiklerde blok örnekleme için GPU hızlandırmalı araçlar sağlıyor ve bu da onu bugün prototip oluşturmak ve gelecekteki Extropic donanımlarıyla denemeler yapmak için doğal bir yer haline getiriyor." Donanım ilkellerinizin *prensipte* bir tür yararlı uygulamalara uygulanabileceği bir yoldan yoksun olduğunuzu söylüyorsunuz ve bu kitaplığı, günümüzün GPU'larını kullanarak bu tür araştırmalar yapmanıza yardımcı olmak için oluşturdunuz... Neden Python kütüphanesini daha önce yayınlamıyorsunuz (THRML), daha önce yapılması gerektiğini söylediğiniz darboğaz araştırmasını yapmıyorsunuz ve şimdiye kadar bu kilit soruya yanıt almanıza yardımcı olmak için toplulukla etkileşime geçmiyorsunuz? Neden bunca zaman, bu son derece niş küçük ölçekli donanım prototipini piyasaya sürmek için beklediniz ve bu yap ya da boz darboğazını açıklamak için öne çıktınız ve bunu yapmamanın maliyeti 30 milyon dolar ve 18 ay iken, yalnızca bir tür ilgili "olasılıksal iş yüküne" sahip potansiyel ortaklar arayışınızı duyurmak için beklediniz? 2. Kimden "TSU mimarimizin bir modelini geliştirdik ve bunu yukarıdaki animasyonda gösterilen gürültü giderme işlemini yürütmek için ne kadar enerji gerektiğini tahmin etmek için kullandık. Bulduğumuz şey, TSU'larda çalışan DTM'lerin, GPU'lardaki standart görüntü oluşturma algoritmalarından yaklaşık 10,000 kat daha fazla enerji verimli olabileceğidir." Twitter'da 10.000 kat iddiasını abartan insanları şimdiden görüyorum. Ancak kuantum bilişim şirketlerinin benzer türden abartılı rakamlarla "kuantum üstünlüğü" elde ettiğini iddia ettiği onlarca yıllık destanı takip eden herkes için, bu tür bir kıyaslamayı tanımlamaya ne kadar özen gösterilmesi gerektiğini bilirsiniz. Uygulamada, klasik bir hesaplama yaklaşımının iddia edilen "10.000 kat daha hızlı termodinamik hesaplama" yaklaşımından çok daha hızlı olmadığı durumlara işaret etmek son derece zor olma eğilimindedir. Extropic ekibi bunu biliyor, ancak viral hale gelmesini istedikleri bu yutturmaca kriterini yeniden üretebilecek koşullar hakkında ayrıntılı bilgi vermemeyi tercih etti. 3. Kullandıkları terminoloji "olasılıksal bilgisayar" olarak değiştirildi: "Dünyanın ilk ölçeklenebilir olasılıksal bilgisayarını tasarladık." Bugüne kadar "termodinamik bilgisayar" terimini kullanıyorlardı ve yazılı olarak "beynin termodinamik bir bilgisayar olduğunu" iddia ediyorlardı. Terminolojilerini değiştirmeleri için onlara şüphe avantajı sağlanabilir. Sadece beynin "termodinamik bir bilgisayar" olduğu hakkında her zaman saçma sapan konuşuyorlardı (benim görüşüme göre beyin ne o ne de bir "kuantum bilgisayar"; klasik bir bilgisayar mimarisi üzerinde çalışan bir sinir ağı algoritmasıdır). Ve bu ani terminoloji değişimi, onların bu cephede saçma sapan konuşmalarıyla tutarlı. Şimdi olumlu yönlere gelelim: * Bazı donanımlar gerçekten inşa edildi! * Giriş/çıkışının potansiyel olarak gürültü gidermede nasıl bir uygulamaya sahip olduğunu açıklıyorlar, ancak belirtildiği gibi, bu cephede elde ettikleri sözde "10.000x termodinamik üstünlüğünün" ayrıntıları konusunda belirsizler. Genel: Bu, 18 ay önce girdi çıktısını ilk sormaya başladığımda beklediğim şeyle ilgiliydi. Bir donanım parçası için meşru olarak harika bir fikirleri vardı, ancak onu kullanışlı hale getirmek için bir planları yoktu, ancak onu yararlı hale getirme şansı olan bazı teorik araştırmaların belirsiz başlangıçları vardı. Donanımı üretime sokmak için kayda değer bir ilerleme kaydetmiş görünüyorlar (30 milyon doların size satın aldığı miktar) ve görünüşe göre bu özel donanımın, 10 nesillik ardıl iyileştirmelerden sonra bile neden herkesin işine yarayacağına dair nedenler bulma konusunda daha az ilerleme kaydettiler. İleriye dönük olarak, cihazınızın giriş/çıkışıyla ilgili sorulara insanları "mogging" yaparak ve bunun bir şirket sırrı olduğunu söyleyerek yanıt vermek ve termodinamik tanrınız hakkında aşırı inançları tweetlemek yerine, teknoloji topluluğunun yanıtlamanıza yardımcı olmak isteyebileceği görünüşte dev ölüm kalım sorusu hakkında daha açık olmanızı tavsiye ederim: birisinin simülatörünüzde bir tür yararlı "termodinamik üstünlüğünüze" dair daha güçlü kanıtlarla bir Python programı yazıp yazamayacağı donanım kavramı her zaman bir şey olabilir.