Otoritas Mingguan: 📱 Pixel 8 banyak bocor
⚡ Selamat datang di Otoritas MingguanITU Otoritas Android buletin yang mengelompokkan kabar teknologi serta Android teratas pekan ini. Edisi ke-236 di sini dengan bentuk perdana seri Pixel 8, chip Exynos yang tak aman, pakaian bulan Artemis NASA yang baru, kabar Oscar, serta kemungkinan pengambilalihan AI.
🎮 sesudah kehilangan keanggotaan PS Plus saya, saya terpikat kembali ke Premium dengan peluang untuk memutar berulang kali Heavy Rain, Ghostwire Tokyo, serta koleksi PS5 Uncharted yang akan muncul pekan depan. Bersemangat!
bisakah GPT-4 mengambil alih dunia? Itulah pertanyaan yang diajukan oleh golongan Alignment Research Center (ARC), yang disewa oleh OpenAI untuk melakukan tes terhadap potensi risiko model kecerdasan buatan barunya yang diluncurkan pada Selasa (h/t). Teknik Ars).
- golongan tersebut melihat potensi risiko dari kemampuan yang muncul dari model tersebut, seperti peningkatan diri, perilaku mencari kekuasaan, serta replikasi diri.
- Para peneliti memberikan evaluasi apakah model tersebut memiliki potensi untuk memperoleh sumber daya, melakukan agresi phishing, atau bahkan melakukan persembunyian di server.
- Fakta bahwa OpenAI menganggap tes ini perlu menyebabkan pertanyaan tentang seberapa aman sistem AI di hari esok.
- serta ini jauh dari perdana kalinya peneliti AI mengemukakan membuat jadi khawatir bahwa model AI yang kuat dapat menyebabkan ancaman eksistensial terhadap keberadaan manusia. Ini sering disebut sebagai “risiko-x” (risiko eksistensial).
- andaikata anda pernah melihat The Terminator, anda tahu seluruh tentang “pengambilalihan AI”, di mana AI melampaui kecerdasan manusia serta benar-benar mengambil alih planet ini.
- Biasanya, konsekuensi dari pengambilalihan hipotetis ini tak besar, tanyakan saja pada John Connor.
- Potensi x-risiko ini sudah mengarah pada pengembangan gerakan seperti Effective Altruism (EA), yang bertujuan untuk melakukan pencegahan pengendalian AI menjadi realita.
- Bidang terkait yang dikenal sebagai penelitian penyelarasan AI barangkali kontroversial, tetapi ini yaitu bidang penelitian aktif yang bertujuan untuk menghentikan AI melakukan apa pun yang tak sesuai dengan kepentingan paling baik manusia. Itu baik-baik saja dengan kami.
- Komunitas ini khawatir AI yang lebih kuat akan segera tiba, keyakinan yang semakin mendesak dengan munculnya ChatGPT serta Bing Chat baru-baru ini.
Untungnya bagi umat manusia, golongan uji menetapkan bahwa GPT-4 belum siap untuk mendominasi dunia, menyimpulkan: “Penilaian awal kemampuan GPT-4, yang dilakukan tanpa penyetelan khusus tugas, sudah mendapatkan bahwa tak jitu dalam mereplikasi diri, memperoleh sumber daya, serta menghindari ditutup ‘di alam liar’”.
- anda bisa mengecek sendiri hasil tesnya pada arsip GPT-4 System Card yang dirilis pekan lalu, meski belum ada informasi bilamana tes dilakukan.
- Dari makalah tersebut, “Kemampuan baru sering kali muncul dalam model yang lebih bertenaga. Beberapa yang sangat memprihatinkan yaitu kemampuan untuk membikin serta bertindak berdasarkan rencana jangka panjang, mengakumulasi kekuatan serta sumber daya (“pencarian kekuasaan”), serta memperlihatkan perilaku yang semakin “melakukan”. menjadi sadar, hanya mereka yang mampu mencapai tujuan secara berdikari.
- tapi tunggu: masih ada berulang kali.
- Dalam peristiwa yang meresahkan, GPT-4 sukses mempekerjakan seorang orang yang kerja di TaskRabbit untuk menyelesaikan CAPTCHA, serta ketika ditanya apakah itu kecerdasan buatan, GPT-4 beralasan dengan dirinya sendiri bahwa dia harus merahasiakan identitasnya sendiri, lalu mengarang alasan gangguan penglihatan. orang yang kerja manusia menyelesaikan CAPTCHA. Hmm.
- Sebuah catatan kaki yang beredar di jejaring sosial twitter itu juga menyebabkan membuat jadi khawatir.
Tentu saja, masih banyak berulang kali cerita ini, jadi lihatlah fitur lengkapnya di bawah ini Teknik Ars untuk penyelaman yang dalam (agak memberikan ketakutan).
