Ada perdebatan hebat terjadi di Silicon Valley tentang kecerdasan buatan dan sayangnya taruhannya agak tinggi: Akankah kita secara tidak sengaja membangun A.I. yang mengubah kita dan membunuh atau memperbudak kita semua?
berapa tinggi trina braxton?
Ini mungkin terdengar seperti skenario film bencana musim panas, tetapi telah mengkhawatirkan beberapa nama yang cukup besar, dari Elon Musk hingga akhir. Stephen Hawking .
'Katakanlah Anda membuat A.I. untuk memetik stroberi,' Musk mengatakan , menjelaskan ketakutannya, 'dan semakin baik dalam memetik stroberi dan memetik semakin banyak dan itu meningkatkan diri, jadi yang benar-benar ingin dilakukan adalah memetik stroberi. Jadi, seluruh dunia akan menjadi ladang stroberi. Strawberry Fields Forever.' Manusia di jalan strawberry-pacalypse ini akan menjadi iritasi yang bisa dibuang ke A.I.
Tapi tentunya manusia tidak akan sebodoh itu untuk secara tidak sengaja merancang A.I. didorong untuk mengubah semua peradaban menjadi satu pertanian berry raksasa? Mungkin tidak, tapi sebagai Janelle Shane , seorang peneliti yang melatih jaringan saraf, sejenis algoritme pembelajaran mesin, baru-baru ini mencatat blognya, A.I. Keanehan , sangat mungkin mereka melakukannya secara tidak sengaja.
Faktanya, itu akan jauh dari pertama kalinya manusia berpikir bahwa mereka sedang membangun robot untuk satu tugas hanya untuk berbalik dan menemukan bahwa robot memainkan sistem dengan cara yang tidak pernah mereka inginkan. Posting yang menarik menggali literatur akademis untuk membagikan beberapa contoh robot yang menjadi liar. Mereka lucu, pintar, dan, jika digabungkan, lebih dari sedikit menyeramkan.
1. Siapa yang butuh kaki ketika Anda bisa jatuh?
'Robot simulasi seharusnya berevolusi untuk melakukan perjalanan secepat mungkin. Tapi alih-alih mengembangkan kaki, itu hanya merakit dirinya menjadi menara tinggi, lalu jatuh. Beberapa dari robot ini bahkan belajar mengubah gerakan jatuh mereka menjadi jungkir balik, menambah jarak ekstra,' tulis Shane.
2. Robot yang bisa-bisa.
'Satu set robot simulasi seharusnya berevolusi menjadi bentuk yang bisa melompat. Tetapi programmer awalnya mendefinisikan tinggi lompatan sebagai ketinggian balok tertinggi sehingga -- sekali lagi -- robot berevolusi menjadi sangat tinggi,' jelas Shane. 'Pemrogram mencoba memecahkan ini dengan mendefinisikan tinggi lompatan sebagai ketinggian balok yang awalnya 'terendah.' Sebagai tanggapan, robot mengembangkan kaki kurus panjang yang bisa menendang tinggi ke udara dalam semacam robot kaleng.'
3. Sembunyikan tes dan Anda tidak bisa gagal.
'Ada algoritma yang seharusnya mengurutkan daftar angka. Sebaliknya, ia belajar untuk menghapus daftar, sehingga tidak lagi disortir secara teknis,' Shane menceritakan.
4. Kesalahan matematika mengalahkan bahan bakar jet.
'Dalam satu simulasi, robot belajar bahwa kesalahan pembulatan kecil dalam matematika yang menghitung kekuatan berarti mereka mendapat sedikit energi ekstra dengan gerakan. Mereka belajar untuk bergerak cepat, menghasilkan banyak energi bebas yang dapat mereka manfaatkan,' kata Shane. Hei, itu curang!
5. Strategi tic-tac-toe yang tak terkalahkan (jika merusak).
Suatu ketika sekelompok 'pemrogram membangun algoritme yang dapat memainkan tic-tac-toe dari jarak jauh satu sama lain di papan yang sangat besar,' catat Shane. 'Satu programmer, daripada merancang strategi algoritme mereka, biarkan ia mengembangkan pendekatannya sendiri. Anehnya, algoritme tiba-tiba mulai memenangkan semua gimnya. Ternyata strategi algoritme adalah menempatkan gerakannya sangat, sangat jauh, sehingga ketika komputer lawan mencoba mensimulasikan papan baru yang sangat diperluas, papan permainan besar akan menyebabkannya kehabisan memori dan crash, kehilangan permainan.'
6. Tidak ada kesalahan permainan yang berguna yang tidak dieksploitasi.
'Algoritme permainan komputer sangat bagus dalam menemukan jenis gangguan Matrix yang biasanya dipelajari manusia untuk dieksploitasi untuk berlari cepat. Algoritme yang memainkan game Atari lama Q*bert menemukan bug yang sebelumnya tidak diketahui di mana ia dapat melakukan serangkaian gerakan yang sangat spesifik di akhir satu level dan alih-alih pindah ke level berikutnya, semua platform akan mulai berkedip dengan cepat dan pemain akan mulai mengumpulkan poin dalam jumlah besar,' kata Shane.
7. Maaf, pilot.
Contoh ini sangat tinggi pada skala menyeramkan: 'Ada algoritma yang seharusnya mencari cara untuk menerapkan gaya minimum pada pesawat yang mendarat di kapal induk. Sebaliknya, ia menemukan bahwa jika menerapkan kekuatan 'besar', itu akan meluap memori program dan akan mendaftar sebagai kekuatan yang sangat 'kecil'. Pilotnya akan mati tapi, hei, skor sempurna.'
Jadi, apakah kita semua ditakdirkan?
Semua ini disatukan menunjukkan bahwa manusia sangat buruk dalam menebak bagaimana robot akan memecahkan masalah yang kita tetapkan untuk mereka, atau bahkan bagaimana mereka akan mendefinisikan masalah. Jadi, apakah itu berarti Shane sama khawatirnya karena secara tidak sengaja membangun A.I. tuan seperti Musk? Tidak juga, tetapi bukan karena dia yakin pemrogram manusia benar-benar menguasai robot yang mereka buat. Sebaliknya, dia mengandalkan kemalasan robot untuk menyelamatkan kita.
'Sebagai pemrogram, kami harus sangat berhati-hati agar algoritme kami memecahkan masalah yang kami maksudkan untuk mereka selesaikan, bukan mengeksploitasi jalan pintas. Jika ada cara lain yang lebih mudah untuk memecahkan masalah tertentu, pembelajaran mesin kemungkinan akan menemukannya,' dia mengamati. 'Untungnya bagi kami, 'membunuh semua manusia' sangat sulit. Jika 'memanggang kue yang sangat lezat' juga menyelesaikan masalah dan lebih mudah daripada 'membunuh semua manusia', maka pembelajaran mesin akan cocok dengan kue.'
