anda tidak diharuskan menjadikan bajingan buat memberikan perlawanan robot
Pada suatu ketika seorang asisten virtual bernama Ms. Dewey, seorang pustakawan cantik yang diperankan oleh Janina Gavankar yang memberikan bantuan menjawab pertanyaan anda tentang percobaan perdana Microsoft di mesin pencari. Ms. Dewey diluncurkan pada tahun 2006, komplit dengan lebih dari 600 baris rekaman dialog. Dalam beberapa hal, hal itu mendahului waktunya, tetapi satu contoh yang terabaikan ditangkap oleh sarjana informasi Miriam Sweeney dalam disertasi doktoralnya pada tahun 2013, di mana dia merinci implikasi gender serta rasial dari tanggapan Dewey. Ini termasuk kalimat seperti, “Hei, ibarat kata kamu bisa meretas komputermu, kamu bisa melakukan apapun yang kamu mau padaku.” atau bilamana menelusuri “blowjob” membikin klip dirinya sedang konsumsi pisang, atau memasukkan istilah seperti “ghetto” menjadikannya nge-rap dengan lirik yang menyertakan permata seperti “tidak, gigi emas , mutha-fucker ghetto yang luar biasa BIP langkah ke bagian ini dari [ass] BERBUNYI.” Sweeney menjabarkan yang sudah cerah: bahwa Dewey dirangkai buat melayani orang yang mempergunakan pria kulit putih yang lurus. lagi pula, blog-blog saat itu memberikan pujian sifat genit Dewey.
Nona Dewey dipecat oleh Microsoft pada tahun 2009, tetapi kritikus, termasuk saya sendiri, nantinya akan mengidentifikasi pola bias yang serupa dalam cara beberapa orang yang mempergunakan berinteraksi dengan asisten virtual seperti Siri atau Cortana. ketika insinyur Microsoft mengungkapkan bahwa mereka memprogram Cortana buat menolak pertanyaan atau rayuan seksual, terdapat kemarahan besar di Reddit. Satu posting yang mendapat banyak suara berbunyi: “Apakah orang-orang ini serius ?! Seluruh tujuan “dia” yaitu buat melakukan apa yang orang katakan padanya! Hei jalang, tambahlah ini ke kalenderku… Hari ketika Cortana menjadikan ‘wanita mandiri’ yaitu hari ketika perangkat lunak menjadikan tidak bermanfaat. Kritik terhadap perilaku seperti itu mempunyai peningkatan, bahkan dari koresponden anda yang rendah hati.
Sekarang, di tengah penolakan terhadap ChatGPT serta sejenisnya, pendulum telah berayun kembali serta kami diperingatkan memberikan perlawanan berempati dengan hal-hal ini. Itu yaitu poin yang saya buat sesudah kegagalan AI LaMDA tahun lalu: Bot tidak perlu memiliki pengetahuan buat dapat melakukan antropomorfisasi, serta fakta ini akan dieksploitasi oleh pencatut. Saya mengindahkan peringatan itu. Tetapi beberapa telah melangkah lebih jauh, memperlihatkan bahwa kritik sebelumnya terhadap orang-orang yang menyalahgunakan asisten virtual mereka yaitu pemberdayaan retrospektif yang naif. tidak mustahil orang-orang yang sering kali menyebut Cortana sebagai “perempuan jalang” sedang melakukan sesuatu!
tidak mustahil membuat terkejut anda tahu bahwa bukan itu masalahnya. tidak hanya kritik masa lalu terhadap penyalahgunaan AI yang benar, mereka juga mengantisipasi lanskap digital yang lebih berbahaya yang kita hadapi sekarang. Alasan sesungguhnya kritik telah melakukan pergeseran dari “orang terlalu kejam terhadap robot” menjadikan “orang terlalu baik kepada mereka” yaitu dikarenakan ekonomi politik AI tiba-tiba serta secara dramatis berubah, serta dengan itu, proposisi penjualan dari perusahaan teknologi. Di mana robot pernah diperjualkan kepada kita sebagai pelayan yang luar biasa, sekarang mereka akan diperjualkan kepada kita sebagai sahabat kita. tetapi bagaimanapun juga, respons patologis terhadap setiap generasi bot secara implisit mengharuskan kita buat memanusiakannya. Pemilik bot selalu mempersenjatai impuls terjelek serta terbaik kami.
Kebenaran yang berlawanan dengan intuisi tentang kekerasan yaitu bahwa, meskipun tidak manusiawi, sesungguhnya pelakunya diharuskan menonton anda sebagai manusia. Ini yaitu kenyataan yang menyedihkan, tetapi seluruh orang mulai dari penjahat perang hingga pub, tiba taraf tertentu, bersuka ria dengan gagasan bahwa korban mereka kesakitan. Dehumanisasi tidaklah ketidakmampuan buat menonton seseorang sebagai manusia, tetapi keinginan buat menonton seseorang lebih rendah dari manusia serta bertindak sesuai dengan itu. Jadi, pada satu tingkat, hanya sejauh mana orang salah mengira asisten virtual mereka sebagai manusia riil yang memberi dorongan mereka buat melecehkan mereka. Itu tidak akan menjadikan senang sebaliknya. Ini membawa kita ke saat ini.
Generasi sebelumnya kecerdasan buatan telah diperjualkan kepada kita sebagai pelayan yang luar biasa: PA yang canggih atau tidak mustahil komputer Starship Enterprise milik Majel Barrett. Mengalah, maha tahu, selalu siap melayani. Mesin pencari chatbot baru juga membawa beberapa asosiasi yang sama, tetapi seiring perkembangannya, mereka juga akan diperjualkan kepada kami sebagai orang kepercayaan baru kami, bahkan terapis baru kami.
