
Pakar masa depan, Ray Kurzweil, telah membuat sejumlah prediksi - beberapa prediksi inspirasional lainnya benar-benar mengkhawatirkan. Salah satunya adalah gagasan yang terdengar seperti fiksi ilmiah menunjukkan bahwa kecerdasan buatan suatu saat akan menjadi lebih kuat daripada kecerdasan manusia, dan memperbaiki dirinya sendiri pada tingkat eksponensial, atau dikenal sebagai 'singularitas'.
Ini jauh dari pandangan mayoritas, namun hanya sedikit yang menyangkal bahwa AI hanya akan menjadi lebih kuat. Jadi, seperti dalam kasus pengeditan genetika, komunitas teknologi dan AI perlu mempertimbangkan implikasi etis dan sosial dari pekerjaan mereka, karena AI hadir untuk membentuk lebih banyak bidang kehidupan kita, mulai dari perawatan kesehatan hingga pasar keuangan.
Seperti skenario cerita kepunahan akhir dunia, ini sejujurnya tidak mungkin - tapi itu seharusnya tidak mengaburkan fakta bahwa AI siap mengubah bagaimana cara kita hidup dan bekerja dengan cara yang mendalam.
Bukan juga tidak mungkin AI tertentu dapat mengalami kegagalan beroperasi atau para pencipta mereka tak bisa mengendalikannya lagi, sehingga menyebabkan bencana manusia, di mana kehidupan punah atau jutaan dolar melayang.