Blog Newspaper Innovation

Program KECERDASAN BUATAN telah mengembangkan bahasanya sendiri dan tidak ada yang dapat memahaminya.

OpenAI adalah pengembang sistem kecerdasan buatan – program mereka adalah contoh superkomputer yang luar biasa, tetapi ada keanehan.

3

3

3

DALLE-E2 adalah OpenAISistem AI terbaru – dapat menghasilkan gambar realistis atau artistik dari deskripsi teks yang dimasukkan oleh pengguna.

DALLE-E2 mewakili tonggak sejarah dalam pembelajaran mesin – situs web OpenAI mengatakan program tersebut “mempelajari hubungan antara gambar dan teks yang digunakan untuk mendeskripsikannya.”

Demo DALLE-E2 disertakan kata kunci interaktif untuk mengunjungi pengguna untuk bermain dengan dan menghasilkan gambar – mengganti kata kunci yang berbeda akan menghasilkan gambar, gaya, dan topik yang berbeda.

Tetapi sistem memiliki satu perilaku aneh – yaitu menulis bahasa pengaturan acak hurufnya sendiri, dan peneliti tidak tahu mengapa.

Giannis Time, Ph.D. mahasiswa di University of Texas, menerbitkan a utas Twitter merinci bahasa baru DALLE-E2 yang tidak dapat dijelaskan.

Daras mengatakan kepada DALLE-E2 untuk membuat gambar “petani berbicara tentang sayuran” dan program tersebut melakukannya, tetapi pidato petani berbunyi “vicootes” – beberapa kata AI yang tidak dikenal.

Kasus Diberi makan “vicootes” kembali ke sistem DALLE-E2 dan dapatkan kembali gambar sayuran.

“Kami kemudian mengucapkan kata-kata: ‘Apoploe vesrreaitars’ dan kami mendapatkan burung.” tulis Daras di Twitter.

“Sepertinya para petani sedang membicarakan burung, mengotak-atik sayuran mereka!”

Daras dan rekan penulis menulis a kertas pada “kosakata tersembunyi” DALLE-E2.

Mereka mengakui bahwa menyuruh DALLE-E2 untuk membuat gambar kata—perintah “gambar kata pesawat” adalah contoh Daras—biasanya mengakibatkan DALLE-E2 mengeluarkan “teks omong kosong”.

Saat dicolokkan kembali ke DALLE-E2, omong kosong itu akan mengarah ke gambar pesawat terbang – yang mengatakan sesuatu tentang cara DALLE-E2 berbicara dan berpikir tentang dirinya sendiri.

Beberapa peneliti AI berpendapat bahwa teks omong kosong DALLE-E2 “kebisingan acak“.

Mudah-mudahan kami tidak mengetahui bahwa bahasa kedua DALLE-E2 adalah kelemahan keamanan yang perlu diperbaiki setelah terlambat.