mengapa anda boleh jadi tidak menginginkan bot obrolan AI yang terlalu manusiawi

Chatbot kecerdasan buatan (AI) semakin mirip manusia setiap hari, tetapi tidak seluruh orang memikirkan demikian.

Menurut penelitian yang sedang berlangsung oleh Marat Bakpayev, seorang profesor pemasaran di Sekolah Bisnis dan Ekonomi Labovitz Universitas Minnesota-Duluth, agen AI yang menjadikan lelucon bisa tampak mengancam. Studinya menambah pendapat yang memberikan peningkatan di antara para ahli bahwasannya ketika chatbots semakin viral, mereka perlu dibatasi.

“Jenis interaksi ini masih cukup baru bagi banyak orang,” kata Tom Andriola, chief digital officer di University of California Irvine, yang saat ini sedang melakukan pengerjaan proyek menggunakan chatbot mirip manusia, dalam wawancara email dengan Lifewire. “Sebagian besar populasi tumbuh menggunakan panggilan telepon dan pertukaran email sebagai alat komunikasi utama mereka. Bahkan chatbot berbasis teks telah mendapat reaksi beraneka ragam ketika mereka diperkenalkan dalam jangka waktu dekade terakhir.”

AI yang terlalu manusiawi

Salah satu keterangan mengapa orang tidak menyukai chatbot mirip manusia adalah disebabkan terlalu banyak fasad manusia yang secara langsung membandingkan objek dengan seseorang, kata Bakpayev.

“dan terdapat keterputusan persepsi antara apa yang mampu diprediksi orang dan apa yang mereka lihat,” tambahnya. “Ini mengarah pada pelanggaran impian. Studi teranyar dalam riset konsumen menunjukkan bahwasannya ketika chatbot bersifat antropomorfik, ekspektasi efektivitas chatbot meningkat.

Semakin banyak chatbot terlihat dan bertindak seperti manusia, semakin tidak nyaman suasana hati orang, kata David Ciccarelli, CEO Voices.ai, sebuah perusahaan yang berspesialisasi dalam teknologi AI, dalam email. Dia menunjuk ke contoh proyek baru-baru ini di mana chatbot diprogram untuk klien dan mereka membuatnya semirip boleh jadi dengan manusia.

“Klien sangat bahagia, tetapi pelanggan mereka menganggap bot itu terlalu menyeramkan,” tambahnya. “Kami belajar dari pengalaman ini dan mengubah pendekatan kami. untuk menjadikan orang lebih nyaman dengan chatbot, pemrogram AI perlu menemukan sweet spot untuk menjadikan mereka berperilaku seperti manusia dan memastikan bahwasannya mereka sesungguhnya bukan manusia.”

Sebuah omongan baru-baru ini menjadikah lebih kuat gagasan bahwasannya banyak pengguna merasa tidak nyaman dengan teknologi AI generatif yang memberikan dukungan chatbot. Studi Disqo menemukan bahwasannya 60% orang kurang memercayai konten buatan AI daripada konten buatan manusia, dengan lebih dari setengahnya menjelaskan mereka kurang memercayainya.

Bukan AI kakekmu

Ketidaknyamanan dengan chatbot bisa jadi disebabkan perbedaan generasi, kata Andriola.

“Orang tua saya membenci mereka; Anak-anak saya, di sisi lain, tidak tahu mengapa anda ingin ataupun perlu mengungkapkan dengan siapa pun,” tambahnya. “Generasi muda merasa lebih nyaman dengan interaksi yang ditingkatkan secara digital ini. Mereka tumbuh berinteraksi dengan karakter dalam video permainan dan mengubah wajah mereka dengan filter media sosial.”

tetapi Andriola menjelaskan beberapa orang memandang interaksi chatbot sebagai hal yang aneh, canggung, ataupun berpotensi mengancam privasi. “Ambil contoh kesehatan,” tambahnya. “Apakah saya benar-benar merasa nyaman mengungkapkan dengan orang yang salah tentang pemulihan penggantian pinggul saya? Apakah anda merekam itu? Kemana perginya data ini? Apakah itu akan mengakibatkan saya ditolak liputan ataupun layanan?

Salah satu area di mana chatbot diberikan anggapan mengerikan adalah ketika dipakai dalam jangka waktu perekrutan. HireVue, yang menggunakan teknologi AI untuk pekerjaan, menemukan dalam sebuah penelitian bahwasannya 39 persen orang yang kerja merasa tidak nyaman menggunakan chatbot untuk menjawab pertanyaan awal dalam proses perekrutan, kata Lindsey Zuloaga, kepala ahli ilmu data perusahaan, berasal dari email.

“Pada titik ini, sebagian besar dari kita telah berinteraksi dengan chatbot dalam beberapa cara (seperti mengembalikan barang ke pengecer online, menjadikan reservasi konsumsi malam, ataupun menanyakan status aplikasi),” kata Zuloaga. “Interaksi seperti ini adalah kasus penggunaan chatbot jinak yang khas, tetapi ChatGPT dan alat AI generatif lainnya menimbulkan kekhawatiran yang memang pantas didapatkan.”

untuk menjadikan hilang rasa takut, programmer wajib memastikan chatbots tidak berperilaku seperti manusia, kata Andriola.

“Tujuannya bukan untuk membuat jadi bingung orang ataupun menipu orang agar memikirkan bahwasannya mereka berinteraksi dengan manusia lain, tetapi untuk menjadi sadar bahwasannya chatbot manusia digital bisa sangat efektif pada tugas ataupun jenis pertanyaan tertentu yang lebih layak waktu ataupun nyaman bagi pengguna akhir.” dia memberikan tambahan. “Itu tidak menggantikan kebutuhan untuk mengungkapkan dengan manusia, itu hanya melengkapinya untuk kegunaan tertentu.”