Keinginan sekarat seorang pahlawan privasi: sebuah lembaga untuk melakukan perubahan rute hari esok AI
Kemarin, ratusan personil komunitas teman dan kolega Eckersley memadati bangku untuk jenis upacara peringatan yang tak biasa di tempat suci seperti gereja di dunia maya Archive di San Francisco, sebuah simposium yang menampilkan serangkaian pembicaraan yang ditujukan tak hanya untuk mengenang Eckersley sebagai seseorang tetapi tur pekerjaan hidupnya. Di depan sebuah kuil untuk Eckersley di bagian belakang ruangan yang dipenuhi dengan tulisannya, sepeda jalan kesayangannya dan beberapa contoh pakaian punk Victorian Gothic-nya, Turan, Gallagher dan 10 pembicara lainnya mempresentasikan daftar panjang kontribusi dari Eckersley: His bertahun-tahun memberikan dorongan Silicon Valley ke arah teknologi perlindungan privasi yang lebih baik, pendiriannya bergabung proyek terobosan untuk mengenkripsi seluruh web, dan poros akhir hidupnya untuk meningkatkan keamanan dan akhlak privasi AI.
Acara tersebut juga bermanfaat sebagai semacam peluncuran awal untuk AOI, organisasi yang sekarang akan meneruskan pekerjaan Eckersley sesudah kematiannya. Eckersley membayangkan institut tersebut sebagai inkubator dan laboratorium terapan yang akan melakukan pekerjaan dengan laboratorium AI tersohor untuk mengatasi masalah yang diyakini Eckersley, tak mustahil, bahkan lebih sangat berarti daripada pekerjaan privasi dan keamanan dunia maya yang telah dia dedikasikan selama puluhan tahun dalam karirnya untuk mengarahkan kembali hari esok kecerdasan buatan jauh dari kekuatan yang mengakibatkan penderitaan di dunia, menuju apa yang dia gambarkan sebagai “keberkembangan manusia”.
“Kita diwajibkan menjadikan AI bukan hanya siapa kita, tetapi apa yang kita cita-citakan,” kata Turan dalam pidatonya di acara peringatan, sesudah memutar rekaman panggilan telepon di mana Eckersley telah merekrutnya. “Jadi itu bisa mengangkat kita ke arah itu.”
Misi yang dibayangkan Eckersley untuk AOI muncul dari emosi yang memberikan peningkatan selama dekade paling akhir bahwasannya AI memiliki “masalah penyelarasan”: bahwasannya evolusinya maju dengan kecepatan yang semakin cepat, tetapi dengan tujuan sederhana yang tak sejalan dengan kesehatan manusia dan kebahagiaan. Alih-alih mengantarkan surga yang melimpah dan rekreasi kreatif untuk semua, Eckersley yakin bahwasannya, dalam lintasannya saat ini, AI akan jauh lebih tak mustahil untuk membuat jadi kuat semua kekuatan yang telah menghancurkan dunia: perusakan lingkungan, eksploitasi orang miskin, dan nasionalisme yang merajalela. . , untuk beberapa nama.
Tujuan AOI, seperti yang dijelaskan oleh Turan dan Gallagher, tidaklah untuk melakukan percobaan mengekang kemajuan AI, tetapi untuk mendorongnya. sasaran jauh dari kekuatan yang tegas dan destruktif itu. Mereka berpendapat bahwasannya itu yaitu dambaan terbaik umat manusia untuk melakukan pencegahan, misalnya, perangkat lunak hiperintelijen yang mampu mencuci otak manusia bersumber dari iklan atau propaganda, perusahaan dengan strategi dan kekuatan seperti dewa untuk memanen setiap hidrokarbon paling akhir dari bumi atau sistem peretasan otomatis yang mampu menembus jaringan mana pun di dunia. dunia untuk mengakibatkan kekacauan global. “tak berhasil AI tak akan tampak seperti robot nano yang tiba-tiba merayap ke arah kita,” kata Turan. “Ini yaitu bencana ekonomi dan lingkungan yang akan terasa sangat mudah dikenali, serupa dengan yang terjadi saat ini.”
Gallagher, sekarang direktur eksekutif AOI, memperlihatkan bahwasannya visi Eckersley untuk institut tidaklah visi Cassandra yang bersifat kenabian, tetapi tentang seorang pendeta yang mampu memberikan dorongan AI menuju impian idealisnya untuk hari esok. “Dia tak pernah memikirkan tentang bagaimana melakukan pencegahan distopia. Pemikiran optimisnya yang kekal yaitu, ‘bagaimana kita mencapai utopia?’” adiknya. “Apa yang bisa kita lakukan untuk membangun dunia yang lebih baik dan bagaimana kecerdasan buatan melakukan pekerjaan untuk kemakmuran manusia?”
