Şimdi, Eliezer şiddeti kışkırtmaya çalışmadığını iddia edebilir, ama o zaman neden bilimsel araştırma yapan insanlardan "sizi yok etmeye çalışıyor" diye bahsediyor?

@zackmdavis Gençken benimsediği bir fantezi yüzünden açıkça faydalı araştırma ve geliştirmeyi engellemeye çalışması elbette yeterince kötü. Ancak artık önemli bir çizgiyi aştı. O ve takipçileri artık birçok insanın hayatı için fiziksel bir tehdit haline geliyor.

@zackmdavis Bu, "hayat kurtaran önemli ilaçları engellemek" veya benzeri anlamında "tehdit" bile değil, "takipçilerinin insanları öldürmeye başlayacağı" anlamında "tehdit". Bu artık göz ardı edilemez.

Gerçek dünyada inşa edilen yapay zeka sistemleri "hizalama" gerektirmez; Eliezer'in fantezi sistemlerine hiç benzemiyorlar ve herkesi öldürmelerini engelleyecek bir plan gerekli değil çünkü bu tür sistemlerin bunu yapmakla hiçbir ilgisi olmadığı açık. İnsanlara "çelik fabrikanızın atmosferi tutuşturmasını önlemek için planınız nedir?" derseniz, sizin için bir plan üretmelerine gerek yoktur.