Kecerdasan buatan (AI) masih dalam masa pertumbuhan. ”Tingkat penalarannya sangat dangkal, bahkan tidak setara dengan katak,” kata Yoshua Bengio, perintis AI dan pakar pembelajaran mendalam . Namun, itu sudah menimbulkan masalah serius monopolisasi dan distribusi yang tidak merata, yang hanya dapat diselesaikan dalam skala global. Koordinasi internasional sangat penting dalam pengembangan AI, ia mengingatkan.
Yoshua Bengio, diwawancarai oleh Jasmina Šopova
Selama lima tahun terakhir, penelitian dasar AI telah menjadi hal yang populer di kalangan raksasa teknologi informasi, yang menginvestasikan sejumlah besar uang di lapangan. Bisakah Anda menjelaskan fenomena ini?
Jawabannya sangat sederhana. Ilmu dalam AI telah mencapai tingkat kematangan yang membuatnya sangat berguna bagi perusahaan. Akumulasi data besar dan peningkatan daya komputasi yang tersedia, memfasilitasi pengembangan produk AI baru, yang bahkan akan lebih menguntungkan di masa depan daripada sekarang.
Hari ini, ketika kita mencari di internet, kita terus-menerus diminta oleh iklan bertarget – iklan ini memungkinkan perusahaan seperti Facebook, Amazon, YouTube, dll. Untuk berkembang. Saat ini, produk AI hanya memiliki pangsa pasar yang kecil. Tetapi para ekonom memperkirakan bahwa mereka akan mencapai hingga 15 persen dari total produksi barang dalam satu dekade. Itu luar biasa.
AI kemudian akan memungkinkan perusahaan-perusahaan ini untuk menjual lebih banyak, untuk menjadi kaya dan mampu membayar para peneliti yang mereka rekrut lebih banyak daripada yang mereka lakukan sekarang. Dengan meningkatkan basis pelanggan mereka, mereka akan meningkatkan jumlah data yang mereka miliki akses – dan data itu adalah tambang emas yang membuat sistem ini semakin kuat.
Semua ini menciptakan siklus yang baik, yang baik untuk perusahaan-perusahaan ini tetapi tidak sehat bagi masyarakat. Konsentrasi kekuasaan seperti itu dapat berdampak negatif pada demokrasi dan ekonomi. Ini menguntungkan perusahaan besar dan memperlambat kemampuan perusahaan kecil baru untuk memasuki pasar, bahkan jika mereka memiliki produk yang lebih baik untuk ditawarkan.
Kita harus mendorong keragaman yang lebih besar di dunia bisnis yang terkait dengan AI dan menghindari situasi monopoli.
Tetapi monopoli sudah ditetapkan. Bagaimana ini bisa diperbaiki?
Dengan undang-undang anti-monopoli. Sejarah mengajarkan kita bahwa mereka bisa efektif melawan kekuatan berlebihan dari beberapa perusahaan. Ingat Standard Oil di Amerika Serikat, yang membeli pesaingnya untuk memonopoli pasar minyak? Atau Hollywood, yang sampai pertengahan abad kedua puluh, mengendalikan tujuh puluh persen bioskop film dan memaksakan aturannya pada distribusi film? Keputusan hukum terhadap perusahaan-perusahaan ini dan beberapa yang lain, membantu menyeimbangkan kembali pasar.
Saya percaya bahwa peraturan periklanan yang bijaksana dapat membantu mencegah pembentukan monopoli dalam penelitian AI. Kita semua, dengan cara tertentu, adalah tahanan iklan dan kita sering lupa bahwa kita memiliki pilihan untuk membuat keputusan kolektif untuk mengaturnya, sehingga tidak berbahaya bagi masyarakat.
Selain itu, layanan yang disediakan oleh perusahaan swasta besar seperti Google dan Facebook dapat dipublikasikan dengan cara yang sama – seperti halnya televisi, yang menyediakan layanan serupa.
Anda telah memutuskan untuk tidak bekerja di sektor swasta, bukan?
Ya, saya ingin tetap netral. Proyek saya adalah mengembangkan ilmu yang dapat diakses oleh semua orang, dan tidak hanya untuk beberapa pemegang saham. Saya ingin penelitian dikembangkan dengan cara yang menargetkan aplikasi yang paling berguna bagi kemanusiaan – dan belum tentu yang paling menguntungkan bagi perekonomian.
Yang mengatakan, saya telah mencoba membuat ekosistem bersama yang saling menguntungkan bagi penelitian dan industri di Universitas Montreal , tempat saya bekerja. Beberapa laboratorium swasta telah didirikan di ibukota Quebec, dan mereka bekerja sama dengan kami. Peneliti dari industri dipekerjakan sebagai profesor di universitas dan membantu melatih siswa. Perusahaan memberikan sumbangan ke universitas dan memberi mereka kebebasan penuh untuk memilih bidang penelitian yang akan mereka investasikan.
Berapa proporsi peneliti yang bekerja di bidang akademik saat ini?
Jika saya mendasarkan jawaban saya pada orang-orang yang saya temui di konferensi internasional besar, saya akan mengatakan bahwa itu sekitar setengah. Lima tahun lalu, hampir semua peneliti AI bekerja di bidang akademik.
Perusahaan swasta merekrut talenta dari seluruh dunia. Apakah ini berkontribusi pada pengeringan otak di negara-negara yang kurang berkembang?
Tidak bisa dihindari. Itu sebabnya kita harus berpikir secara kolektif tentang bagaimana negara-negara termiskin dapat memperoleh manfaat dari hasil penelitian terbaru – tetapi juga tentang cara membuat pusat penelitian di universitas mereka. Di Afrika, misalnya, semakin banyak lembaga akademik menawarkan kursus di sekolah AI dan musim panas sedang diatur, yang terbukti sangat berguna.
Selain itu, ada sejumlah besar kursus, tutorial, dan kode yang tersedia online secara gratis. Saya bertemu banyak anak muda yang telah dilatih melalui internet. Kita juga harus mencari cara terbaik untuk membantu para siswa ini melatih diri mereka sendiri.
Beberapa negara, termasuk Kanada, banyak berinvestasi dalam penelitian AI.
Ya, Kanada telah memutuskan untuk mendanai tidak hanya penelitian dasar dan untuk membantu startup, tetapi juga untuk berinvestasi dalam pemikiran dan penelitian kolektif dalam ilmu sosial dan humaniora, untuk menilai dampak sosial AI.
Atas inisiatif Universitas Montreal, sebuah debat dimulai pada 3 November 2017 untuk membantu mengembangkan Deklarasi Montreal untuk Pengembangan Intelegensi Buatan yang Bertanggung Jawab . Pendekatan ini pada dasarnya bertujuan untuk menetapkan pedoman etika untuk pengembangan AI di tingkat nasional.
Pada fase pertama dari proses partisipatif jangka panjang ini, masyarakat umum diundang untuk berdebat dengan para ahli dan pembuat kebijakan. Tujuh nilai telah diidentifikasi: kesejahteraan, otonomi, keadilan, privasi, pengetahuan, demokrasi, dan tanggung jawab.
Pada tahap apa refleksi ini, di tingkat internasional?
Setahu saya, tidak ada perjanjian internasional yang mengatur penelitian AI. Namun, ini adalah masalah internasional dan tanpa koordinasi internasional, kami tidak akan dapat bergerak maju ke arah yang benar.
Pertama dan terutama, masyarakat umum dan pembuat kebijakan harus dibuat sadar akan kekhawatiran tentang AI. Di beberapa bagian dunia, para peneliti telah mengeluarkan peringatan tentang masalah besar, dan media dan masyarakat umum telah merespons. Ini adalah langkah pertama yang akan membawa kita menuju dialog politik global yang lebih luas tentang masalah yang ditimbulkan oleh disiplin ini, khususnya di bidang etika, lingkungan dan keamanan.

