Prediksi terbaru Musk: AI mungkin melampaui kecerdasan manusia pada tahun 2030 dan mungkin "menghabisi" manusia di masa depan (1/2)

Sumber: Berita Teknologi Tencent 04-04-2024 08:55

Poin Penting:

① Musk memperkirakan bahwa AI akan melampaui tingkat kecerdasan manusia pada tahun 2030, dan bahkan dapat memusnahkan manusia.

② Musk berbicara tentang faktor-faktor yang menghambat pengembangan AI. Tahun lalu, pasokan chip AI terbatas, dan tahun ini, trafo step-down akan menjadi hambatan.

③ Adapun kapan manusia bisa mendarat di bulan, Musk memperkirakan dengan bantuan Starship paling cepat hanya membutuhkan waktu tiga tahun.

Tencent Technology News, 4 April - Menurut pemberitaan media asing, Elon Musk, CEO Tesla dan SpaceX, baru-baru ini melakukan percakapan online dengan Peter Diamandis, pendiri Singularity University dan XPRIZE Foundation, di Abundance Summit. Konferensi ini diselenggarakan oleh Singularity University di Silicon Valley, yang berdedikasi untuk memberikan konsultasi teknologi mutakhir kepada para pemimpin bisnis. Yayasan XPRIZE mempromosikan inovasi teknologi melalui kompetisi ilmiah, beberapa di antaranya didanai oleh Musk., 4 April - Menurut pemberitaan media asing, Elon Musk, CEO Tesla dan SpaceX, baru-baru ini melakukan percakapan online dengan Peter Diamandis, pendiri Singularity Universitas dan XPRIZE Foundation, di Abundance Summit. Konferensi ini diselenggarakan oleh Singularity University di Silicon Valley, yang berdedikasi untuk memberikan konsultasi teknologi mutakhir kepada para pemimpin bisnis. XPRIZE Foundation mempromosikan inovasi teknologi melalui kompetisi ilmiah, beberapa di antaranya didanai oleh Musk.

Saat membahas kecepatan perkembangan kecerdasan buatan, Musk memperkirakan bahwa berdasarkan laju kemajuan teknologi saat ini, kecerdasan buatan akan melampaui kecerdasan manusia pada tahun 2030, dan teknologi ini bahkan berpotensi mengakhiri umat manusia. Meski demikian, ia tidak berpandangan pesimis terhadap masa depan, namun menekankan bahwa melalui bimbingan positif, kecerdasan buatan berpotensi membawa masa depan yang lebih baik bagi umat manusia.

Musk menyebutkan kemunculan superintelligence disebut sebagai "singularitas" justru karena konsekuensinya yang tidak dapat diprediksi, termasuk risiko yang berpotensi mengakhiri umat manusia. Dia setuju dengan sudut pandang "Ayah baptis Kecerdasan Buatan" Geoffrey Hinton dan percaya bahwa kemungkinan terjadinya risiko ini kira-kira antara 10% dan 20%.

Meski mengakui potensi risiko kecerdasan buatan melebihi kecerdasan manusia, Musk tetap menekankan bahwa kemungkinan hasil positif lebih besar daripada konsekuensi negatifnya. Dia secara khusus menyebutkan buku Diamandis tahun 2014 "Abundance: The Future Is Better Than You Think", yang menggambarkan masa depan optimis yang didorong oleh kecerdasan buatan dan robot, di mana harga barang dan jasa telah turun secara signifikan. Selain itu, ia menyebut serial "Culture" karya penulis fiksi ilmiah Skotlandia Iain M. Banks sebagai skenario terbaik untuk masa depan kecerdasan buatan semi-utopis.

Musk membandingkan perkembangan kecerdasan buatan dan Artificial General Intelligence (AGI) dengan membesarkan anak, dan berharap hal tersebut akan memberikan dampak yang lebih positif bagi umat manusia. Dia menekankan pentingnya menumbuhkan kecerdasan buatan yang benar-benar memahami etika dan moralitas, membandingkannya dengan film klasik Stanley Kubrick tahun 1968 "2001: A Space Odyssey".

Musk menunjukkan bahwa aspek terpenting dari keamanan kecerdasan buatan adalah memastikan pencarian kebenaran dan rasa ingin tahu yang maksimal. Dia percaya bahwa kunci untuk mencapai keamanan tertinggi dari kecerdasan buatan terletak pada menghindari memaksanya untuk berbohong, bahkan ketika menghadapi kebenaran yang tidak menyenangkan. Dia menggunakan plot dari "2001: A Space Odyssey" sebagai contoh, di mana kecerdasan buatan dipaksa berbohong, yang mengakibatkan kematian kru, untuk menekankan bahwa kecerdasan buatan tidak boleh dipaksa melakukan apa pun yang melanggar aksioma.

Musk juga menyebutkan faktor-faktor yang mungkin membatasi pengembangan kecerdasan buatan, seperti terbatasnya pasokan chip kecerdasan buatan yang muncul tahun lalu dan meningkatnya permintaan akan transformator step-down pada peralatan rumah tangga dan komersial. Ia menyatakan, tantangan-tantangan tersebut memang merupakan permasalahan terkini yang perlu diatasi.

Dalam diskusi tersebut, kedua pihak juga membicarakan tentang konsep integrasi neokorteks otak manusia dengan cloud. Meskipun Musk percaya bahwa tujuannya untuk mengunggah kesadaran dan memori manusia ke cloud masih jauh, dia memuji startup antarmuka otak-komputer miliknya, Neuralink, dan pasien manusia pertama yang menerima transplantasi. Pasien tetraplegia ini berhasil mendemonstrasikan secara langsung melalui uji coba yang disetujui FDA, mengendalikan layar, bermain video game, mengunduh perangkat lunak, dan mencapai fungsi serupa dengan operasi mouse melalui implan otak. Musk menyatakan bahwa Neuralink berjalan dengan lancar dan secara bertahap bergerak menuju tujuan antarmuka otak penuh.

Berikut teks lengkap dialog Musk dan Diamandis:

1. Kekuatan dan Bahaya Superintelligence

Diamandis: Selamat atas pencapaian luar biasa Anda di berbagai bidang. Anda telah secara aktif mempromosikan konsep superintelligence digital kepada dunia - apakah ini harapan terbesar umat manusia, atau ketakutan terdalam kita? Bisakah Anda meluangkan waktu beberapa menit untuk membicarakan masalah ini?

Musk: Seperti yang Anda ketahui, superintelligence bisa disebut sebagai "singularitas". Mempopulerkan istilah ini tidak terlepas dari upaya lembaga seperti Singularity Institute. Munculnya superintelligence dan dampak selanjutnya sangat sulit diprediksi. Secara pribadi, saya percaya bahwa memang ada kemungkinan bahwa hal ini dapat mengakhiri umat manusia. Seperti yang saya katakan sebelumnya, saya mungkin setuju dengan pandangan Geoffrey Hinton bahwa ada kemungkinan 10% atau 20% bahwa superintelligence dapat mengakhiri umat manusia. Namun, saya cenderung percaya bahwa kemungkinan skenario positif lebih tinggi dibandingkan skenario negatif, meskipun sulit bagi kita untuk membuat prediksi yang akurat. Namun ketika Anda menekankan konsep "kelimpahan" dalam buku Anda, saya yakin bahwa kemungkinan besar masa depan yang kita tuju adalah masa depan yang penuh dengan kelimpahan.

Diamandis: Sudut pandang Anda sangat menarik. Saya ingat Anda pernah berkata bahwa pengembangan kecerdasan buatan secara umum dan robot humanoid akan membawa kita menuju kelimpahan.

Musk: Ya, saya berharap masa depan kita bisa seperti yang digambarkan dalam seri buku “Culture” karya Ian Banks. Saya rasa ini adalah konsep terbaik dari masyarakat kecerdasan buatan semi-utopis. Kemunculan superintelligence tidak bisa dihindari dan mungkin akan segera terjadi. Oleh karena itu, yang benar-benar perlu kita lakukan adalah mengarahkannya ke arah yang positif dan memaksimalkan manfaatnya.

Saya percaya bahwa cara kita mengembangkan kecerdasan buatan sangatlah penting. Sampai batas tertentu, kita seperti memupuk suatu bentuk kehidupan dengan kecerdasan umum, yang hampir seperti membesarkan seorang anak, namun anak ini memiliki kebijaksanaan dan bakat yang luar biasa. Cara kita membesarkan anak sangatlah penting, dan demi keamanan kecerdasan buatan, sangatlah penting untuk memiliki kecerdasan buatan yang mencari kebenaran dan penuh rasa ingin tahu. Saya telah merenungkan secara mendalam keamanan kecerdasan buatan, dan saya sampai pada kesimpulan bahwa cara terbaik untuk mencapai keamanan kecerdasan buatan adalah dengan mengembangkannya secara hati-hati.

Dalam hal model dasar dan penyesuaian, kita harus memastikan kejujuran kecerdasan buatan. Kita tidak bisa memaksanya untuk berbohong, meskipun kebenarannya mungkin tidak menyenangkan. Faktanya, salah satu plot inti dalam "2001 Space Odyssey" adalah ketika kecerdasan buatan dipaksa berbohong, segalanya menjadi kacau. Kecerdasan buatan dilarang memberi tahu kru tentang monumen misterius yang akan mereka lihat, tetapi diharuskan untuk mengarahkan mereka ke sana. Hasilnya, kecerdasan buatan menyimpulkan bahwa yang terbaik adalah membunuh kru dan membawa tubuh mereka ke monumen. Pelajaran yang bisa diambil sangat mendalam: kita tidak boleh memaksa kecerdasan buatan untuk berbohong atau melakukan sesuatu yang secara aksiomatis tidak sejalan, seperti melakukan dua hal yang sebenarnya bertentangan pada saat yang bersamaan.

Oleh karena itu, kami mencapai tujuan ini melalui proyek seperti xAI dan Grok. Apa yang kami kejar adalah kecerdasan buatan yang sejujur ​​​​mungkin, meskipun ucapannya mungkin tidak memenuhi standar tertentu yang benar secara politis.

2. Masa Depan Kecerdasan Buatan

Diamandis: Kemarin, saya menghadiri sebuah acara bersama Ray Kurzweil (pendiri Singularity University dan nabi teknologi), Geoffrey Hinton, Eric Schmidt (mantan presiden Google), dan tamu lainnya. Saya memperhatikan tweet Anda tentang Kurzweil, dan pendapatnya tentang teknologi masa depan cukup berwawasan ke depan. Kurzweil meramalkan bahwa kita akan memiliki kecerdasan buatan secara umum dalam waktu dekat, dan kecerdasan buatan yang setara dengan kecerdasan manusia akan muncul pada tahun 2029. Kecepatan tersebut sungguh mengejutkan. Saya ingin tahu apa pendapat Anda tentang ini?

Musk: Saya sangat menghormati prediksi Kurzweil. Faktanya, menurut saya prediksinya mungkin sedikit konservatif. Mengamati kekuatan komputasi dan bakat yang diinvestasikan di bidang kecerdasan buatan saat ini, serta pertumbuhan pesat daya komputasi, kita dapat menemukan bahwa kecepatan pengembangan kecerdasan buatan meningkat pada tingkat yang menakjubkan yaitu 10 kali lipat. Kekuatan komputasi kecerdasan buatan khusus tampaknya meningkat 10 kali lipat setiap 6 bulan, yang berarti peningkatan setidaknya 100 kali lipat per tahun. Tren pertumbuhan ini akan terus meningkat dalam beberapa tahun ke depan.

Perlu dicatat bahwa banyak pusat data, bahkan sebagian besar pusat data yang saat ini menjalankan komputasi konvensional, secara bertahap akan bertransformasi menjadi fasilitas yang mendukung komputasi kecerdasan buatan. Oleh karena itu, bagi produsen perangkat keras kecerdasan buatan, perusahaan seperti NVIDIA tidak diragukan lagi sedang memasuki masa emas perkembangan. Kita harus memberikan penghargaan penuh kepada Huang Renxun dan timnya. Mereka meramalkan tren ini dan berhasil mengembangkan perangkat keras kecerdasan buatan terkemuka yang saat ini ada di pasaran.

Ketika kekuatan komputasi tumbuh pada tingkat yang menakjubkan, perkembangan kecerdasan buatan seperti disuntik dengan steroid yang kuat, melompat ke tingkat yang baru. Ketika jumlah komputer online terus meningkat, kita telah menyaksikan percepatan perkembangan yang belum pernah terjadi sebelumnya. Sebenarnya, saya belum pernah melihat teknologi berkembang secepat kecerdasan buatan. Meskipun saya telah melihat banyak teknologi yang berkembang pesat, kebangkitan kecerdasan buatan masih membuat saya takjub. Namun, seperti yang saya katakan, menurut saya hasil akhirnya kemungkinan besar akan positif.

Meskipun kita menghadapi banyak tantangan, seperti bagaimana mempertahankan relevansi manusia di bidang ini dan bagaimana menemukan tujuan dan makna baru, menurut saya, terlalu menekankan bahwa komputer bisa melakukan segala hal adalah sebuah penyederhanaan yang berlebihan.

Seperti yang Anda sebutkan sebelumnya, menurut saya prediksi buku Anda tentang masyarakat masa depan sangat akurat. Ini adalah era kelimpahan materi, dimana barang dan jasa akan melimpah sehingga hampir dapat dijangkau oleh semua orang. Karena meluasnya penerapan kecerdasan buatan dan teknologi robotika, harga barang dan jasa akan hampir berkurang hingga nol. Perekonomian pada dasarnya adalah produk dari ukuran populasi dan produktivitas rata-rata per orang. Ketika kita memiliki teknologi robotika yang canggih, seperti Optimus dari Tesla, potensi ekonomi akan benar-benar terbuka.

Mobil Tesla, sebagai robot beroda empat, telah menunjukkan kemampuan yang kuat. Versi terbaru dengan kemampuan mengemudi otonom sepenuhnya diharapkan dapat mencapai kontrol ujung ke ujung berdasarkan kecerdasan buatan, menjadikan mobil ini robot beroda yang benar-benar cerdas. Ditambah dengan perkembangan robot humanoid, kemungkinan keluaran ekonomi hampir tidak terbatas.

Dari sudut pandang optimis, kita sedang bergerak menuju masa depan dengan kelimpahan material yang ekstrem, yang menurut saya merupakan hasil yang paling mungkin terjadi. Saya pikir satu-satunya kelangkaan yang mungkin terjadi di masa depan adalah kelangkaan yang kita ciptakan secara artifisial, seperti karya seni unik tertentu atau barang tertentu. Namun selain itu, barang dan jasa apapun akan menjadi sangat melimpah.

Diamandis: Anda adalah orang yang dapat membentuk masa depan melalui tindakan praktis dan memiliki wawasan yang tajam mengenai tren masa depan. Menghadapi pesatnya perkembangan teknologi saat ini, saya sangat penasaran seberapa jauh Anda bisa mendapatkan wawasan ke depan, yaitu tren perkembangan berapa tahun ke depan?

Musk: Di era perubahan yang cepat, kemampuan memprediksi masa depan menjadi semakin penting. Meskipun masa depan penuh ketidakpastian, saya yakin beberapa tren terlihat jelas. Kita akan mengantarkan era kecerdasan buatan, dan kemampuannya akan mencapai atau bahkan melampaui tingkat manusia dalam tugas kognitif apa pun. Ini hanya masalah waktu. Orang mungkin punya pandangan berbeda mengenai apakah ini akhir tahun depan, dua tahun, atau tiga tahun. Namun satu hal yang pasti, yakni tidak lebih dari lima tahun. Prediksi saya didasarkan pada probabilitas 50%, yang tidak mutlak. Namun menurut penilaian saya, kecerdasan buatan kemungkinan akan melampaui kemampuan manusia mana pun dalam aspek tertentu sebelum akhir tahun depan.

Mengenai apakah hal itu melampaui kearifan kolektif manusia, mungkin membutuhkan waktu lebih lama. Jika laju perubahan terus berlanjut, saya memperkirakan sekitar tahun 2029 atau 2030, kecerdasan digital kemungkinan akan melampaui jumlah seluruh kecerdasan manusia. Ketika melihat permasalahan ini, saya cenderung mengadopsi metode rasio dasar, seperti prinsip pertama dalam fisika. Dengan menggabungkan metode ini dan analisis probabilitas, kita dapat lebih akurat memahami tren perkembangan di masa depan.

Jika kita membandingkan kemampuan komputasi digital dengan komputasi biologis, dan menjumlahkan semua kemampuan kognitif tingkat lanjut manusia sebagai semacam daya komputasi, lalu membandingkannya dengan daya komputasi digital, Anda akan menemukan bahwa tingkat pertumbuhan rasio ini sungguh mencengangkan. Oleh karena itu, saya yakin tahun 2029 atau 2030 adalah titik waktu yang masuk akal. Pada saat itu, akumulasi kekuatan komputasi digital kemungkinan akan melampaui akumulasi kekuatan komputasi biologis dari fungsi otak tingkat lanjut. Sejak saat itu, kesenjangan antara keduanya akan terus melebar dan tidak ada kemungkinan untuk menyempit.

Namun, ketika kita berdiri di titik awal ini dan menatap masa depan, bagaimana hal-hal akan berkembang lebih jauh? Sejujurnya, saya tidak dapat memperkirakan semua detailnya. Namun jika kita mempertimbangkan faktor pertumbuhan dan faktor pembatas yang mungkin dihadapi, kita akan menemukan beberapa petunjuk menarik.

Tahun lalu, kendala pasokan chip menjadi faktor pembatas utama pengembangan AI. Tahun ini, trafo step-down akan menjadi hambatan utama. Bayangkan mengurangi tegangan 300 kilovolt menjadi kurang dari 1 volt yang dibutuhkan oleh komputer. Ini adalah tantangan besar. Oleh karena itu, diperlukan “Transformer untuk Transformer” yang lebih efisien, yaitu transformator step-down atau transformator jaringan saraf AI. Ini memang menjadi masalah besar tahun ini.

Dalam beberapa tahun ke depan, pasokan listrik mungkin menjadi faktor pembatas utama. Kecerdasan buatan mempunyai kebutuhan listrik yang sangat besar, dan transisi ke energi berkelanjutan serta popularitas kendaraan listrik juga telah meningkatkan permintaan listrik. Oleh karena itu, kita harus secara serius mempertimbangkan bagaimana memenuhi permintaan listrik yang terus meningkat untuk memastikan pengembangan dan penerapan teknologi ini secara berkelanjutan.