Surat itu dibuat atas nama Future of Life Institute, sebuah organisasi relawan yang berupaya untuk memitigasi risiko yang ada terhadap ancaman peradaban manusia. Di antara mereka ada Stephen Hawking, Elon Musk dan penerima Nobel Fisika, Frank Wilczek.
"Potensi besar dari robot memicu ilmuwan untuk bisa meneliti kemungkinan terburuk sehingga manusia bisa mencegahnya. Potensi baik dan buruk, keduanya penting untuk diteliti dalam waktu dekat," tulis FLI, seperti dikutip The Register, Selasa, 13 Januari 2015.
Surat itu dilampirkan bersamaan dengan sebuah paper penelitian. Dalam paper tersebut digarisbawahi adanya potensi besar yang dipengaruhi oleh perkembangan AI, termasuk meningkatkan ketidakseimbangan ekonomi, hilangnya tenaga kerja manusia, dan ancaman keamanan yang lebih besar.
"Sistem kecerdasan buatan (robot) kita harus menuruti apa yang kita perintahkan. Untuk beberapa sistem kecerdasan buatan, khususnya kendaraan dan persenjataan, harus dilengkapi dengan sistem kendali oleh manusia," tulis paper tersebut.
Hal ini sepertinya menjadi ketakutan tersendiri bagi para ilmuwan. Sebelumnya, Hawking pernah mengatakan kepada BBC jika pengembangan robot berpotensi menghapus peradaban manusia. Oktober lalu, Musk juga pernah mengatakan hal yang serupa dengan menganggap robot sebagai ancaman terbesar.
