Teks yang dihasilkan AI menjadikan lebih awam – inilah mengapa itu hal yang tidak baik
- Penelitian baru menunjukkan manusia sedang belajar mengenali teks yang dihasilkan mesin.
- mengetahui apa yang sedang ditulis oleh AI menjadikan semakin mendesak dengan menjamurnya perangkat lunak seperti ChatGPT.
- akan tetapi, beberapa ahli mengatakan bahwasannya mengenali teks yang dihasilkan AI akan menjadikan tidak dapat terjadi seiring dengan peningkatan AI.
Gambar Leon Neal/Getty
Semakin tidak mudah untuk membedakan kalimat yang dihasilkan oleh kecerdasan buatan (AI) serta manusia.
Kabar baiknya adalah sebuah makalah baru menunjukkan bahwasannya manusia dapat belajar membedakan antara teks yang dihasilkan AI serta teks yang ditulis manusia. Kemampuan untuk menentukan apakah komputer membikin informasi online menjadikan semakin sangat berarti dengan munculnya gaya bahasa berskala besar seperti ChatGPT, yang banyak di antaranya diperkirakan akan menyentuh hampir setiap sudut kehidupan kita.
“ketika kamu menerima pesan teks yang menyarankan nenek kamu membutuhkan uang mendesak untuk prosedur medis, kamu ingin tahu apakah itu penipuan AI massal atau anggota keluarga orisinil,” kata Kentaro Toyama, profesor intelijen komunitas di University of Michigan serta penulis. dari “Geek Heresy: menyelamatkan Perubahan Sosial dari Kultus Teknologi,” kata Lifewire dalam wawancara email. “serta di saat-saat ketika interaksi manusia yang konkret sangat berarti, kami ingin mendengar dari orang-orang konkret, bukan mesin.”
Jelaskan perbedaan antara Real serta ChatGPT
Peneliti dari University of Pennsylvania menulis makalah mereka dengan mengecek data yang dikumpulkan menggunakan “Teks orisinil atau Palsu?”, sebuah permainan pelatihan berbasis web. Peserta diminta untuk menunjukkan apakah sebuah mesin menghasilkan teks tertentu dengan cara ya atau tidak. Dalam tugas ini, sebuah teks diklasifikasikan sebagai benar atau salah serta jawabannya dinilai sebagai benar atau salah. Studi ini menemukan bahwasannya peserta tampil jauh lebih baik daripada kebetulan.
“Metode kami tidak hanya membikin tugas menjadikan menarik serta lebih menarik, tetapi juga memberikan konteks pelatihan yang lebih realistis,” kata Liam Duga, salah satu penulis studi tersebut, dalam siaran pers. “Teks yang dihasilkan seperti yang diproduksi oleh ChatGPT dimulai dengan petunjuk yang disediakan manusia.”
Di saat-saat ketika interaksi manusia konkret sangat berarti, kami ingin mendengar dari orang konkret, bukan mesin.
Toyama mengatakan terdapat banyak alasan sangat berarti untuk belajar membedakan antara teks yang dihasilkan komputer serta tulisan manusia. Guru ingin mengetahui, misalnya, apakah siswa mengirimkan esai yang mereka tulis sendiri atau teks yang sudah ditulis seluruhnya atau sebagian di komputer. Dia mencatat bahwasannya Universitas Vanderbilt baru-baru ini mengirim email yang ditulis oleh ChatGPT ke komunitasnya, menghubungkan tragedi penembakan Michigan State dengan upaya inklusi kampus. terdapat reaksi cepat.
“terdapat banyak situasi lain seperti ini,” tambahnya. “Memang, saya yakin bahwasannya bentuk sangat berarti dari pengaturan AI adalah bahwasannya hukum wajib mewajibkan setiap teks, gambar, audio, video, atau keluaran kreatif lainnya yang dihasilkan oleh komputer diidentifikasi dengan cemerlang seperti itu.”
Kenali teks yang dihasilkan AI
Toyama pesimis bahwasannya manusia akan selalu dapat membedakan antara teks yang dihasilkan AI serta yang dihasilkan manusia, dengan mengatakan, “Dalam jangka panjang, hampir tidak dapat terjadi dikarenakan AI terus menjadikan lebih baik.” Dia menunjuk ke eksperimen informal yang menunjukkan bahwasannya bahkan guru berpengalaman kesulitan membedakan tulisan siswa dari ChatGPT.
“Saya memiliki seorang kolega yang mengklaim dia menatap dua contoh kiriman ChatGPT dikarenakan tulisan siswa tiba-tiba memberikan peningkatan secara dramatis – tetapi ChatGPT dapat diinstruksikan untuk menulis pada level yang mempunyai perbedaan atau memasukkan kesalahan,” tambahnya.
Foto Pixabay / gaya
Komputer dapat dipergunakan untuk menentukan apakah sepotong teks tertentu dibuat oleh manusia. Parag Arora, CEO Kwegg, sebuah sistem konten AI, mengatakan kepada Lifewire dalam sebuah wawancara email bahwasannya penelitian sedang dilakukan untuk mengembangkan program yang mengenali tulisan buatan mesin.
“Pengklasifikasi AI yang diluncurkan oleh organisasi penelitian, termasuk OpenAI sendiri, dapat dilihat menjanjikan,” tambahnya. “akan tetapi, kemajuan GPT tampaknya selalu selangkah lebih maju dari mereka, serta pada dasarnya, pengklasifikasi selalu setidaknya satu generasi di belakang generator. Beberapa pekerjaan sudah dilakukan untuk meninggalkan tanda tangan rahasia sebagai pedoman untuk setiap generator GPT, yang bisa terjadi yakni langkah terkontrol untuk menyelesaikan dilema ini.”
terdapat beberapa cara bagi orang yang menggunakan untuk mengenali teks yang dihasilkan mesin, kata CEO Tooltester Robert Brandl dalam sebuah wawancara email. Dia menyarankan untuk mencoba alat AI seperti ChatGPT untuk menatap jenis konten apa yang mereka hasilkan supaya terbiasa dengannya. free termasuk struktur formula di mana kalimat dimulai dengan “pertama” serta “Kedua” dll., serta kurangnya sarkasme atau humor dalam teks.
“akan tetapi, seiring dengan perkembangan AI, alat yang dirangkai untuk mengenali teks AI juga akan memberikan peningkatan,” tambahnya. “kenyataannya, dapat terjadi terdapat titik di mana orang wajib bergantung pada alat ini untuk memahami kapan AI dipergunakan, yaitu ketika penerbit tidak mengungkapkan penggunaan AI.”
Terima kasih sudah memberi tahu kami!
Dapatkan informasi teknologi terbaru setiap hari
Berlangganan
Beri tahu kami alasannya!
Lainnya
Detail tidak cukup
tidak mudah dimengerti