Hanya sembilan perusahaan teknologi raksasa di AS dan China yang berada di belakang sebagian besar kemajuan dalam kecerdasan buatan di seluruh dunia. Dalam buku barunya, Sembilan Besar: Bagaimana Tech Titans dan Mesin Pemikir Mereka Dapat Melengkungkan Kemanusiaan (PublicAffairs, 5 Maret), Amy Webb membayangkan tiga kemungkinan masa depan, mulai dari optimis hingga apokaliptik, yang dapat dihasilkan dari tindakan yang kita ambil - atau tidak ambil - untuk mengendalikan perkembangan A.I. dan membentuk dampak globalnya. Dalam kutipan ini, dia mengajukan serangkaian pertanyaan etis yang sulit bahwa manusia membangun A.I. sistem harus digunakan untuk memandu pekerjaan mereka.
Aturan--algoritme--yang dengannya setiap budaya, masyarakat, dan bangsa hidup, dan pernah hidup, selalu dibuat oleh hanya beberapa orang. Demokrasi, komunisme, sosialisme, agama, veganisme, nativisme, kolonialisme--ini adalah konstruksi yang telah kami kembangkan sepanjang sejarah untuk membantu memandu keputusan kami. Bahkan dalam kasus terbaik, mereka tidak tahan di masa depan. Kekuatan teknologi, sosial, dan ekonomi selalu mengintervensi dan membuat kita beradaptasi.
Sepuluh Perintah membuat algoritma yang dimaksudkan untuk menciptakan masyarakat yang lebih baik bagi manusia yang hidup lebih dari 5.000 tahun yang lalu. Salah satu perintahnya adalah istirahat satu hari penuh dalam seminggu dan tidak melakukan pekerjaan apa pun pada hari itu. Di zaman modern, kebanyakan orang tidak bekerja pada hari atau jam yang sama persis dari minggu ke minggu, jadi tidak mungkin untuk tidak melanggar aturan. Akibatnya, orang-orang yang mengikuti Sepuluh Perintah Allah sebagai prinsip panduan fleksibel dalam interpretasi mereka, mengingat kenyataan hari kerja yang lebih panjang, latihan sepak bola, dan email. Beradaptasi baik-baik saja--itu bekerja sangat baik bagi kita, dan bagi masyarakat kita, memungkinkan kita untuk tetap di jalur. Menyetujui seperangkat pedoman dasar memungkinkan kita untuk mengoptimalkan diri kita sendiri.
berapa tinggi amy grant?
Tidak akan ada cara untuk membuat satu set perintah untuk A.I. Kami tidak dapat menulis semua aturan untuk mengoptimalkan kemanusiaan dengan benar, dan itu karena meskipun mesin berpikir mungkin cepat dan kuat, mereka tidak memiliki fleksibilitas. Tidak ada cara mudah untuk mensimulasikan pengecualian, atau mencoba dan memikirkan setiap kemungkinan sebelumnya. Aturan apa pun yang mungkin ditulis, akan selalu ada keadaan di masa depan di mana beberapa orang mungkin ingin menafsirkan aturan secara berbeda, atau mengabaikannya sepenuhnya, atau membuat amandemen untuk mengelola keadaan yang tidak terduga.
Mengetahui bahwa kita tidak mungkin menulis serangkaian perintah yang ketat untuk diikuti, haruskah kita, sebaliknya, memusatkan perhatian kita pada manusia yang membangun sistem? Orang-orang ini—suku-suku A.I.—seharusnya bertanya pada diri sendiri pertanyaan yang tidak nyaman, dimulai dengan:
berapa tinggi jack osbourne?
- Apa motivasi kita untuk A.I.? Apakah itu selaras dengan kepentingan jangka panjang terbaik umat manusia?
- Apa bias kita sendiri? Ide, pengalaman, dan nilai apa yang gagal kita masukkan ke dalam suku kita? Siapa yang telah kita abaikan?
- Sudahkah kita memasukkan orang-orang yang tidak seperti kita untuk tujuan membuat masa depan A.I. lebih baik--atau apakah kita hanya memasukkan keragaman di tim kita untuk memenuhi kuota tertentu?
- Bagaimana kita bisa memastikan bahwa perilaku kita inklusif?
- Bagaimana implikasi teknologi, ekonomi, dan sosial dari A.I. dipahami oleh mereka yang terlibat dalam penciptaannya?
- Hak dasar apa yang harus kita miliki untuk menginterogasi kumpulan data, algoritme, dan proses yang digunakan untuk membuat keputusan atas nama kita?
- Siapa yang bisa mendefinisikan nilai kehidupan manusia? Terhadap apa nilai itu ditimbang?
- Kapan dan mengapa orang-orang di suku A.I. merasa bahwa itu adalah tanggung jawab mereka untuk mengatasi implikasi sosial dari A.I.?
- Apakah kepemimpinan organisasi kami dan A.I. suku mencerminkan berbagai jenis orang?
- Apa peran mereka yang mengkomersilkan A.I. bermain dalam mengatasi implikasi sosial dari A.I.?
- Haruskah kita terus membandingkan A.I. untuk pemikiran manusia, atau lebih baik kita mengkategorikannya sebagai sesuatu yang berbeda?
- Apakah boleh membangun A.I. yang mengenali dan merespons emosi manusia?
- Apakah boleh membuat A.I. sistem yang mampu meniru emosi manusia, terutama jika itu belajar dari kita secara real time?
- Apa titik yang dapat diterima di mana kita semua baik-baik saja dengan A.I. berevolusi tanpa manusia secara langsung dalam lingkaran?
- Dalam situasi apa seorang A.I. mensimulasikan dan mengalami emosi manusia yang umum? Bagaimana dengan rasa sakit, kehilangan, dan kesepian? Apakah kita baik-baik saja yang menyebabkan penderitaan itu?
- Apakah kita mengembangkan A.I. untuk mencari pemahaman yang lebih dalam tentang diri kita sendiri? Bisakah kita menggunakan A.I. untuk membantu umat manusia menjalani kehidupan yang lebih teruji?
Ada sembilan perusahaan teknologi besar--enam Amerika dan tiga Cina--yang sangat bertanggung jawab atas masa depan kecerdasan buatan. Di AS, mereka adalah Google, Microsoft, Amazon, Facebook, IBM, dan Apple ('G-MAFIA'). Di Cina, itu adalah BAT: Baidu, Alibaba, dan Tencent.
G-MAFIA telah mulai menangani masalah prinsip-prinsip panduan melalui berbagai kelompok penelitian dan studi. Di dalam Microsoft ada tim yang disebut FATE--untuk Keadilan, Akuntabilitas, Transparansi, dan Etika di A.I. Setelah skandal Cambridge Analytica, Facebook meluncurkan tim etika yang mengembangkan perangkat lunak untuk memastikan bahwa A.I. sistem menghindari bias. (Khususnya, Facebook tidak melangkah lebih jauh dengan membuat dewan etika yang berfokus pada A.I.) DeepMind menciptakan tim etika dan masyarakat. IBM menerbitkan secara teratur tentang etika dan A.I. Setelah skandal di Baidu--mesin pencari memprioritaskan klaim medis yang menyesatkan dari rumah sakit yang dikelola militer, di mana perawatan mengakibatkan kematian seorang siswa berusia 21 tahun--CEO Baidu Robin Li mengakui bahwa karyawan telah membuat kompromi demi pertumbuhan pendapatan Baidu dan berjanji untuk fokus pada etika di masa depan.
dengan siapa kris kristofferson menikah?
Sembilan Besar menghasilkan studi etika dan kertas putih, mengumpulkan para ahli untuk membahas etika, dan menjadi tuan rumah panel tentang etika--tetapi upaya itu tidak cukup terkait dengan operasi sehari-hari dari berbagai tim yang bekerja pada A.I.
A.I.I. sistem semakin mengakses data dunia nyata kami untuk membangun produk yang menunjukkan nilai komersial. Siklus pengembangan semakin cepat untuk mengimbangi ekspektasi investor. Kita telah rela—kalau tanpa disadari—peserta di masa depan yang sedang diciptakan dengan tergesa-gesa dan tanpa terlebih dahulu menjawab semua pertanyaan itu. Sebagai A.I. sistem maju dan lebih banyak kehidupan sehari-hari menjadi otomatis, semakin sedikit kendali yang sebenarnya kita miliki atas keputusan yang dibuat tentang dan untuk kita.
Amy Webb akan muncul di Rumah Pendiri Inc di Austin pada 11 Maret.
