Kecerdasan buatan telah melihatnya menciptakan bahasanya sendiri yang menyeramkan dan membingungkan para peneliti
Program KECERDASAN BUATAN telah mengembangkan bahasanya sendiri dan tidak ada yang dapat memahaminya.
OpenAI adalah pengembang sistem kecerdasan buatan – program mereka adalah contoh superkomputer yang luar biasa, tetapi ada keanehan.
DALLE-E2 adalah OpenAISistem AI terbaru – dapat menghasilkan gambar realistis atau artistik dari deskripsi teks yang dimasukkan oleh pengguna.
DALLE-E2 mewakili tonggak sejarah dalam pembelajaran mesin – situs web OpenAI mengatakan program tersebut “mempelajari hubungan antara gambar dan teks yang digunakan untuk mendeskripsikannya.”
Demo DALLE-E2 disertakan kata kunci interaktif untuk mengunjungi pengguna untuk bermain dengan dan menghasilkan gambar – mengganti kata kunci yang berbeda akan menghasilkan gambar, gaya, dan topik yang berbeda.
Tetapi sistem memiliki satu perilaku aneh – yaitu menulis bahasa pengaturan acak hurufnya sendiri, dan peneliti tidak tahu mengapa.
!['Mesin pencari wajah' AI menimbulkan ketakutan saat menemukan foto Anda di web](https://www.thesun.co.uk/wp-content/uploads/2022/05/ES_SELFIE_COMP.jpg?strip=all&w=360&h=240&crop=1)
![Bisakah kecerdasan buatan BENAR-BENAR memusnahkan umat manusia?](https://www.thesun.co.uk/wp-content/uploads/2022/02/LG-AI-COMP2.jpg?strip=all&w=360&h=240&crop=1)
Giannis Time, Ph.D. mahasiswa di University of Texas, menerbitkan a utas Twitter merinci bahasa baru DALLE-E2 yang tidak dapat dijelaskan.
Daras mengatakan kepada DALLE-E2 untuk membuat gambar “petani berbicara tentang sayuran” dan program tersebut melakukannya, tetapi pidato petani berbunyi “vicootes” – beberapa kata AI yang tidak dikenal.
Kasus Diberi makan “vicootes” kembali ke sistem DALLE-E2 dan dapatkan kembali gambar sayuran.
“Kami kemudian mengucapkan kata-kata: ‘Apoploe vesrreaitars’ dan kami mendapatkan burung.” tulis Daras di Twitter.
“Sepertinya para petani sedang membicarakan burung, mengotak-atik sayuran mereka!”
Daras dan rekan penulis menulis a kertas pada “kosakata tersembunyi” DALLE-E2.
Mereka mengakui bahwa menyuruh DALLE-E2 untuk membuat gambar kata—perintah “gambar kata pesawat” adalah contoh Daras—biasanya mengakibatkan DALLE-E2 mengeluarkan “teks omong kosong”.
Saat dicolokkan kembali ke DALLE-E2, omong kosong itu akan mengarah ke gambar pesawat terbang – yang mengatakan sesuatu tentang cara DALLE-E2 berbicara dan berpikir tentang dirinya sendiri.
!['Penembakan massal' di pemakaman membuat 'setidaknya lima terluka' karena polisi meminta untuk menghindari area tersebut](https://www.thesun.co.uk/wp-content/uploads/2022/06/BB-RACINE-CEMETERY-COMP.jpg?strip=all&w=360&h=240&crop=1)
![Labu putri Mama June (22) memamerkan benjolan dalam pemotretan dengan saudara perempuan](https://www.thesun.co.uk/wp-content/uploads/2022/06/pc-pumpkin-bump-body-positive-shoot-comp.jpg?strip=all&w=360&h=240&crop=1)
Beberapa peneliti AI berpendapat bahwa teks omong kosong DALLE-E2 “kebisingan acak“.
Mudah-mudahan kami tidak mengetahui bahwa bahasa kedua DALLE-E2 adalah kelemahan keamanan yang perlu diperbaiki setelah terlambat.
Kami membayar cerita Anda!
Punya cerita untuk tim The Sun?