Saya menjadi JAUH lebih bullish bahwa kita mungkin menciptakan AI yang kuat yang dalam arti sebenarnya "mencintai kemanusiaan", dan @AmandaAskell & tim @AnthropicAI mendapatkan banyak pujian untuk ini Sayangnya, ini adalah seni rupa yang hanya sedikit yang dapat dilakukan pada tingkat setinggi itu

"Ini tidak akan berhasil untuk kecerdasan super" adalah tema yang sangat umum dalam tanggapan yang saya dapatkan di sini, dan ... itu mungkin benar. Tetapi orang-orang tampaknya membayangkan kecerdasan super yang misalnya dapat menyimpulkan semua fisika dari satu gambar, yang secara kualitatif akan sangat berbeda dari Claude yang kita lihat hari ini. Pada lintasan saat ini, Claude ~6 mungkin merupakan bentuk kecerdasan super, dan saya tidak merasa jelas bahwa semua orang mati jika mereka membangun Claude 6 seperti itu