ChatGPT berhasil lolos uji anti-bot dengan berpura-pura buta

semenjak awal, banyak yang menyatakan keprihatinan tentang keselamatan, keamanan, serta moralitas alat serta robot AI. Para skeptis hanya semakin keras pada saat barang yang memasuki pasar pada tahun 2022 memperlihatkan tanda-tanda kepekaan serta menjadi cukup pintar buat nyaris tak lulus beberapa silabus terberat di planet ini. Sekarang, alarm semakin memekakkan telinga. Insiden ini termasuk fenomena yang disebut “halusinasi”, yang menggambarkan kecenderungan AI buat mengarang informasi serta berbohong.

Beberapa chatbot AI sudah berdebat dengan tuan manusia mereka pada saat diminta buat memberikan informasi palsu, menolak buat percaya bahwa itu dapat melakukan kesalahan ataupun falibilitas. Menipu manusia buat menyiasati Captcha sederhana yaitu satu hal. Apa yang terjadi jikalau terkait dengan rekening bank seseorang ataupun email agen pemerintah?

Masalahnya tampaknya tak rawan dalam penahanan, tetapi mengingat para peneliti mengawinkan inovasi bayi ini dengan kasus pemakaian dunia riil, seperti konsep pasukan polisi robot, sangat krusial bagi para insinyur buat menyelidiki kesalahan langkah paling kecil sekalipun. jikalau seorang polisi robot salah mengira orang yang tak bersalah sebagai ancaman mematikan, apakah dia dapat menahan diri? jikalau seorang orang yang memainkan catur yang ditingkatkan AI mematahkan jari anda sebab mengira dia sedang melakukan pengambilan bidak catur, dapatkah dia diyakini buat menggertakkan persnelingnya sebelum kehilangan anggota tubuh? Mengesampingkan kendala ekonomi, robot yang menggantikan orang yang bekerja McDonald’s tak akan memberi kita istirahat, tetapi banyak hal berubah pada saat nyawa dalam ancaman. Inilah pertanyaan-pertanyaan yang seharusnya dijawab jikalau kita ingin menerima kenyataan baru ini.