Komentar: ‘ayah baptis’ AI seharusnya angkat bicara lebih awal

BUDAYA KETAKUTAN

Sementara keunggulan Hinton di lapangan mungkin telah melindunginya dari pukulan balik, episode tersebut menyoroti masalah kronis dalam penelitian AI: Perusahaan teknologi besar sangat mencekik penelitian AI sehingga banyak ilmuwan mereka takut mengungkapkan kekhawatiran mereka karena takut merugikan karir mereka. prospek.

Anda bisa mengerti mengapa. Meredith Whittaker, mantan manajer riset di Google, harus menghabiskan ribuan dolar untuk pengacara pada tahun 2018 setelah dia membantu mengatur pemogokan 20.000 karyawan Google atas kontrak perusahaan dengan Departemen Pertahanan AS. “Sangat, sangat menakutkan untuk melawan Google,” katanya kepada saya. Whittaker, yang sekarang menjadi CEO aplikasi perpesanan terenkripsi Signal, akhirnya mengundurkan diri dari raksasa pencarian tersebut dengan peringatan publik tentang arah perusahaan.

Dua tahun kemudian, peneliti Google AI Timnit Gebru dan Margaret Mitchell dipecat dari raksasa teknologi tersebut setelah mereka merilis makalah penelitian yang menyoroti risiko model bahasa besar, teknologi yang saat ini menjadi pusat perhatian atas chatbots dan AI generatif. Mereka menunjuk pada isu-isu seperti bias rasial dan gender, ketidakpastian dan biaya lingkungan.

Whittaker kesal dengan fakta bahwa Hinton sekarang menjadi subjek potret cemerlang tentang kontribusinya pada AI setelah orang lain mengambil risiko yang jauh lebih besar untuk mempertahankan apa yang mereka yakini saat mereka masih bekerja di Google. “Orang-orang dengan kekuatan yang jauh lebih sedikit dan posisi yang lebih terpinggirkan mengambil risiko pribadi yang nyata untuk menyebutkan masalah dengan AI dan perusahaan yang mengendalikan AI,” katanya.

Mengapa Hinton tidak berbicara lebih awal? Ilmuwan menolak untuk menjawab pertanyaan. Tapi dia tampaknya telah mengkhawatirkan AI selama beberapa waktu, termasuk selama bertahun-tahun rekan-rekannya menuntut pendekatan yang lebih hati-hati terhadap teknologi tersebut.

Artikel New Yorker tahun 2015 menggambarkan dia berbicara dengan peneliti AI lain di sebuah konferensi tentang bagaimana politisi dapat menggunakan AI untuk meneror orang. Ketika ditanya mengapa dia masih melakukan penelitian, Hinton menjawab: “Saya bisa memberi Anda argumen yang biasa, tetapi sebenarnya prospek penemuannya terlalu manis.” Itu adalah gema yang disengaja dari deskripsi terkenal J Robert Oppenheimer tentang daya tarik “manis secara teknis” dalam mengerjakan bom atom.