Blog Newspaper Innovation

Perangkat lunak kecerdasan buatan penghasil gambar telah terlihat membuat kosa kata sendiri, yang mengarah ke klaim baru-baru ini bahwa itu telah menjadi “setan”.

Pencipta DALLE-2 AI terkejut menemukan bahasa tersembunyinya, tetapi secara eksklusif memberi tahu Matahari bahwa AI lain menimbulkan bahaya yang lebih serius.

1

Fisikawan jenius Stephen Hawking pernah mengungkapkan ketakutan bahwa suatu hari nanti mesin berpikir bisa mengambil alih dunia.

Banyak orang berbagi pandangan ini, jadi tidak mengherankan jika berita tentang sistem bernama DALLE-E2 yang menulis bahasanya sendiri menimbulkan kekhawatiran.

Giannis Time, Ph.D. mahasiswa di University of Texas, menerbitkan a utas Twitter merinci bahasa baru DALLE-E2 yang tidak dapat dijelaskan.

Daras mengatakan kepada DALLE-E2 untuk membuat gambar “petani berbicara tentang sayuran” dan program tersebut melakukannya, tetapi pidato petani berbunyi “vicootes” – kata tak dikenal yang dibuat oleh AI.

Kasus Diberi makan “vicootes” kembali ke sistem DALLE-E2 dan dapatkan kembali gambar sayuran.

“Kami kemudian memberi makan kata-kata: ‘Apoploe vesrreaitars’ dan kami mendapatkan burung,” tulis Daras di Twitter.

“Sepertinya para petani membicarakan tentang burung yang mengotak-atik sayuran mereka!”

Daras dan rekan peneliti Alexandros G. Dimakis memiliki a kertas di “kosakata tersembunyi” DALLE-E2 dan berbicara dengan The Sun tentang penelitian mereka.

Mereka mengatakan kepada The Sun: “Apa yang kami temukan adalah bahwa tampaknya ada beberapa omong kosong khusus yang membuat DALLE-2 menghasilkan objek, dengan beberapa konsistensi. Misalnya, ketika kami meminta pembuat gambar untuk “Apoploe membuat vesrreaitais” (teks omong kosong ) itu memberikan gambar burung di seluruh.

“DALLE-2 terkadang juga dapat menghasilkan gambar dari kata-kata omong kosong ini, dan begitulah cara kami menemukannya.

“Satu penjelasan yang mungkin adalah bahwa mereka adalah gabungan dari kata-kata asli yang berarti spesies burung, misalnya Apoploe bisa menjadi gabungan dari Apodidae dan Ploceidae yang merupakan keluarga burung asli.”

Mereka menambahkan: “Kami ingin menekankan bahwa ini adalah serangan permusuhan dan oleh karena itu tidak perlu bekerja sepanjang waktu.

“Jika suatu sistem berperilaku dengan cara yang sangat tidak terduga, bahkan jika itu terjadi satu dari sepuluh kali dan di bawah masukan yang tidak biasa, itu masih merupakan masalah keamanan dan interpretasi yang sangat besar.”

Meskipun beberapa laporan mengklaim ini adalah contoh pemikiran AI untuk dirinya sendiri dan tidak mematuhi manusia, Daras dan Dimakis tidak terlalu khawatir.

Mereka mengatakan kepada The Sun: “Kami tidak melihat AI menjadi mandiri sebagai sesuatu yang masuk akal dengan teknik saat ini.”

Namun, menurut mereka AI masih menimbulkan beberapa risiko yang sangat serius.

Para peneliti menjelaskan: “Saat ini ada banyak risiko yang sangat serius dari AI yang jauh lebih cepat.

“Keadilan, transparansi, kekokohan, dan interpretasi model AI serta konsentrasi data dan daya komputasi di beberapa organisasi muncul dalam pikiran.”

Mereka menambahkan: “Model AI, seperti teknologi lainnya, pada dasarnya tidak baik atau buruk.

“Namun, model AI sudah dapat memfasilitasi tindakan jahat seperti mendiskriminasi populasi tertentu, memperkuat prasangka, mempolarisasi kelompok sosial, dan meningkatkan hambatan monopoli untuk masuk.”

Jadi kabar baiknya adalah, Anda tidak perlu khawatir tentang mesin AI jahat yang segera mengambil alih dunia.

Ini tidak berarti bahwa AI itu sempurna dan ada masalah yang perlu ditangani sekarang.

Para peneliti mengatakan kepada The Sun: “Kami pikir ada banyak masalah yang perlu ditangani sebelum kami perlu mengkhawatirkan kesadaran AI.

“Temuan penelitian kami menambahkan satu item lagi dalam daftar panjang tantangan keamanan dan interpretabilitas AI yang perlu ditangani.”