Trong cuộc thảo luận về AI, dường như có một điệu nhảy vĩnh cửu giữa những người đặt nhiều trọng tâm vào quy trình và những người tập trung vào kết quả. Điều này có vẻ khá rõ ràng trong cuộc tranh luận 'nó có phải là lý luận không?'. Tôi nghĩ cả hai đều đúng theo những cách khác nhau: tất nhiên một mô hình đang lý luận theo một nghĩa nào đó, và về mặt chức năng, tôi thực sự không quan tâm nếu cơ chế dẫn đến CoT và đầu ra không tương tự như cách mà não bộ sinh học thực hiện. Nhưng cũng có những cân nhắc quan trọng về các loại lý luận được sử dụng, lý do cho những chuỗi logic nhất định được chọn, và mức độ mà chúng tổng quát một cách vững chắc trong các tình huống ngoài phân phối. Những 'người chú trọng quy trình' không phải lúc nào cũng là những kẻ phản đối mù quáng, và những người 'tương đương chức năng' cũng không hoàn toàn sai. Tuy nhiên, những thất bại trong quy trình (ví dụ: R trong dâu tây) trước đây dễ bị phát hiện hơn, và nhiều 'nhà hoài nghi ý thức hệ' dựa vào chúng để đưa ra đủ loại tuyên bố không có cơ sở, điều này khiến cho 'các nhà hoạt động kể chuyện' dễ dàng bác bỏ hoàn toàn những mối quan tâm về quy trình. Rõ ràng là các mô hình đang cải thiện với tốc độ đáng kinh ngạc, và điều này thật tuyệt vời. Nhưng vẫn còn những thất bại hoặc khoảng trống trong quy trình mà một kết quả được tạo ra; điều này ít trở thành vấn đề trong lập trình, toán học, logic hình thức hoặc các lĩnh vực mà việc xác minh dễ dàng, nhưng nhiều hơn trong các lĩnh vực mờ nhạt hơn, nơi chúng ta đánh giá sự đa dạng của các quy trình chính xác vì chúng ta không biết 'cách đúng', đến mức có thể có một cách duy nhất. Với con người, bạn có sự tiến hóa văn hóa và khoa học mà theo thời gian tinh chỉnh các quy tắc và cơ chế; tôi nghĩ điều quan trọng là chúng ta duy trì một mức độ đa dạng mô hình và đa dạng nhận thức với các mô hình cũng vậy. Nếu bạn tối ưu hóa đủ mạnh chỉ dựa vào kết quả, bạn có thể dễ dàng hội tụ vào các nền văn hóa lý luận đơn điệu mà hoạt động tốt trong phân phối nhưng thất bại trong chính những tình huống mà các phương pháp lý luận đa dạng sẽ tạo ra tín hiệu hữu ích. Do đó, tôi rất ủng hộ cách tiếp cận 'để hàng ngàn bông hoa nở' trong việc căn chỉnh chuẩn mực, và thường nhấn mạnh rằng một tập hợp rộng hơn nhiều người và nhóm nên có khả năng tùy chỉnh và căn chỉnh các mô hình, vượt ra ngoài bất kỳ ai tình cờ có vị trí để làm điều đó tại các phòng thí nghiệm. Tất nhiên, nhiều sự đa dạng nhận thức của con người cũng có thể là tiếng ồn như lý luận có động cơ, thiên kiến hệ thống, và các phụ thuộc văn hóa không theo dõi sự thật, vì vậy bạn không chỉ muốn sự đa dạng vì mục đích của nó. Bạn cần các cơ chế xác minh thực sự kiểm tra lý luận: ví dụ, các hợp tác đối kháng đang bị sử dụng ít. Bạn cần các tổ chức được thiết kế để thúc đẩy việc tìm kiếm sự thật, điều này thực sự khó xây dựng, cũng như các bảo vệ văn hóa và pháp lý mạnh mẽ cho thị trường ý tưởng, điều này đang ngày càng chịu áp lực. Và bạn cần cơ sở hạ tầng tri thức tốt hơn một cách tổng quát: có một lượng khổng lồ những gì chúng ta có thể làm để cải thiện cách khoa học được thực hiện.