أعتقد أن أحد الاستنتاجات التي يجب أن نستخلص منها من النجاح الهائل لنماذج اللغة الكبيرة هو مدى وجود المعرفة البشرية والمجتمع عند مستويات منخفضة جدا من تعقيد كولموغوروف. نحن ندخل عصرا حيث التمثيل الأدنى لقطعة أثرية ثقافية بشرية... (1/12)

... سيكون، بشكل عام، طلبا لنموذج اللغة الكبير. وهذه المحفزات، بشكل عام، ستكون أكثر تماسكا بمراتب كبيرة من القطع الأثرية نفسها. النجاح الكبير لعملاء الترميز، على سبيل المثال، يشير إلى أن الشيفرة المصدرية لمعظم القطع البرمجية هي من نوع من... (2/12)

... وكانت أكثر تعقيدا بكثير من التمثيل الخوارزمي الأدنى المطلوب لتحديد تلك الأداة البرمجية بشكل لا لبس فيه. وكذلك الحال مع الكثير من الكتابة البشرية، والبحث، والتواصل. كونها فعالة في إزالة ضغط المعلومات الخوارزمية، لديك... (3/12)

... كشفت عن مدى إكلامنا المرعب. جزء من هذا الإطفاء لا شك ينبع من قيود لغاتنا التمثيلية الرسمية (مثل لغات البرمجة). لكن جزءا منه يبدو أيضا جوهريا، على الأرجح كوسيلة لتصحيح الأخطاء البشرية. (4/12)

عندما يكون مزيل الضاغط المقصود ضعيفا جدا (مثل عقل بشري)، يبدو من الحكمة أن يتم تحديد التمثيل بشكل مفرط مع الكثير من المرادفات والسكر النحوي. عندما يكون مزيل الضغط المقصود أقرب إلى فقدان كامل (كما تتحول نماذج اللغة الكبيرة بسرعة)، يصبح الأمر أقل منطقية. (5/12)

تمثل الرياضيات والفيزياء حالات اختبار مثيرة للاهتمام. عملية البديهيات في الرياضيات هي شكل من أشكال الضغط الخوارزمي: جميع النظريات الحقيقية دائما "تحتوي" على تمثيل البديهيات وقواعد الاستدلال، لكن عملية ... (6/12)

... فك ضغط هذا التمثيل يمكن أن يكون صعبا بشكل تعسفي. ومع ذلك، فإن تفاصيل كيفية حدوث عمليات فك الضغط (إثبات النظرية) والضغط (الرياضيات العكسية) هي، إلى حد ما، هي الموضوعات الحقيقية ذات الاهتمام الرياضي. وكذلك الفيزياء. (7/12)

قد يدعي المرء، لو كان ساذجا بما فيه الكفاية، أن الفيزياء تدور حول إيجاد ضغطات خوارزمية دنيا للكون الفيزيائي. مرة أخرى، تفاصيل (فك) الضغط هي في النهاية هي الأهم. مجرد إيجاد تمثيل بسيط للكون... (8/12)

... لن "يحل الفيزياء"، تماما كما لو لم يكن اكتشاف بديهيات ZFC "الرياضيات المحلولة". [إذا كان أحدهم يؤمن، كما أؤمن، بأن الكون يمكن نمذجة الكون في النهاية بمصطلحات حسابية، فهذا التمثيل موجود بالفعل بالفعل: إنه آلة تورينج كونية.] (9/12)

نماذج اللغة الكبيرة فعالة بشكل ملحوظ في إزالة ضغطات المعلومات الخوارزمية، ونجاحها في إثبات النظريات وتطوير البرمجيات دليل على ذلك. قدراتهم في الضغط تبدو أقل وضوحا حاليا. ومع ذلك، يكتشف تمثيلات قليلة,... (10/12)

... سواء كانت أقوال ذكية أو عبارات غريبة (حيث تكون نماذج اللغة الكبيرة الحالية سيئة بشكل موحد)، أو التمثيلات البديهية المضغوطة التي تميز الجمال الرياضي (حيث أن نماذج اللغة الكبيرة الحالية غير مجربة إلى حد كبير)، تشكل واحدة من سمات الذكاء البشري العميق. (11/12)

لذا أعتقد أنه أصبح واضحا بشكل متزايد أن الكفاءة وعدم الفقدان، عبر كل من الضغط والفك الضغط، يمثلان معا أربعة محاور محتملة يمكننا من خلالها البدء في تمثيل مساحة العقول (الذكية) الممكنة. لكن ما هي البقية؟ (12/12)