Cara memulai kepanikan AI
pekan lalu Center for Humane Technology telah memanggil lebih dari 100 pemimpin dari keuangan, filantropi, industri, pemerintah, dan media ke Kissinger Room di Paley Center for Media di New York City untuk mendengarkan bilamana kecerdasan buatan dapat memusnahkan umat manusia . Kedua narasumber, Tristan Harris dan Aza Raskin, memulai paparan waktu penghakiman dengan slide apa yang kamu baca: “Apa arti senjata nuklir bagi dunia fisik… AI bagi yang lainnya.”
Kami diberi tahu bahwasannya pertemuan ini mempunyai sejarah, yang akan kami ingat dalam jangka waktu bertahun-tahun mendatang karena, dapat terjadi, empat penunggang kuda kiamat, dengan kedok Bing chatbots, akan turun untuk menggantikan kecerdasan kami dengan kecerdasan mereka. Itu memunculkan adegan dari film sci-fi lama ataupun lelucon teranyar janganlah mempunyai pandangan ke atas– di mana para ilmuwan memperoleh ancaman dan berupaya mengguncang populasi yang sedang tidur untuk menjelaskannya Ancaman mematikan ini menuju ke arah kami dan kami akan wafat andai kamu tidak melakukan sesuatu SEKARANG.
Setidaknya itulah yang kelihatannya disimpulkan oleh Harris dan Raskin setelah, dalam akun mereka, beberapa orang yang bekerja di dalam perusahaan yang membuat jadi berkembang kecerdasan buatan mendekati Center dengan kekhawatiran bahwasannya produk yang mereka buat sangat berbahaya, dengan mengutarakan bahwasannya kekuatan luar dibutuhkan untuk mencegahnya. malapetaka. Salah satu pendiri Center telah sering kali mengutip grafik survei yang memperoleh bahwasannya separuh dari peneliti AI yakin setidaknya terdapat 10 persen kemungkinan AI dapat memusnahkan manusia.
Di masa kehebohan dan ketidakpastian AI ini, Harris dan Raskin memecahkan kaca dan membunyikan alarm. Ini bukan pertama kalinya mereka menyalakan sirene. Perencana teknologi menjadi komunikator media, mereka ikut mendirikan Pusat untuk memberi tahu dunia bahwasannya media sosial yakni ancaman bagi masyarakat. Ungkapan terakhir dari keprihatinan mereka dapat dilihat dalam keterlibatan mereka dalam film dokumenter Netflix yang termasyhur air mani film horor mempunyai judul Dilema sosial. meskipun film ini bernuansa dan agak histeris, saya sepakat dengan banyak keluhannya tentang perebutan perhatian media sosial, insentif untuk memecah belah kita, dan mempersenjatai data pribadi. Ini disajikan melalui wawancara, grafik dan grafik. Tetapi dokter merusak kredibilitasnya sendiri dengan memangkas narasi fiktif yang diagungkan secara langsung Kegilaan Wasityang menunjukkan bilamana keluarga jantung yang sehat (yang dibuat-buat) dihancurkan – satu anak diradikalisasi dan dipenjara, yang lain depresi – oleh postingan jejaring sosial media facebook.
Keberpihakan ini juga menjadi ciri kampanye Call Center baru, coba tebak, dilema AI. (Pusat merasa malu bahwasannya dokumen Netflix lain sedang dikerjakan.) Seperti dilema sebelumnya, banyak poin Harris dan Raskin yang valid, seperti ketidakmampuan kami saat ini untuk semuanya memahami bilamana bot seperti ChatGPT menghasilkan keluarannya. Mereka juga memberikan ringkasan yang bagus tentang bilamana AI begitu cepat menjadi cukup kuat untuk melakukan pengerjaan pekerjaan rumah, membuat jadi kuat pencarian Bing, dan mengungkapkan cinta Waktu New York kolumnis Kevin Roose, antara lain.
Saya tidak ingin mengabaikan skenario terburuk yang dianjurkan oleh Harris dan Raskin. grafik yang mengkhawatirkan tentang pakar AI yang yakin bahwasannya teknologi mereka berpotensi membunuh kita semua benar-benar terlihat, tiba batas tertentu. Pada Agustus 2022, sebuah organisasi menelepon Dampak AI menjangkau 4.271 orang yang menulis ataupun ikut menulis makalah yang dipresentasikan di dua konferensi AI dan meminta mereka mengisi survei. Hanya sekitar 738 yang menjawab, dan beberapa hasilnya agak kontradiktif, tetapi, tentu saja, 48% responden mempunyai pandangan setidaknya 10% kemungkinan hasil yang sangat negatif, yaitu kepunahan manusia. Dampak AI, saya diharuskan menyebutkan, didukung sebagian oleh Pusat Altruisme efektif dan organisasi lain yang telah menunjukkan kesukaan pada skenario AI jarak jauh. Bagaimanapun, jajak pendapat itu tidak menanyakan kepada penulis mengapa, andai mereka yakin musibah itu dapat terjadi terjadi, mereka menulis makalah untuk memajukan ilmu yang kelihatannya merusak ini.
