Judul video asli: Vitalik Buterin vs Beff Jezos: Debat Akselerasi AI (E/acc vs D/acc)

Sumber video asli: a16z crypto

Kompilasi asli: 深潮 TechFlow

Ringkasan Poin

Haruskah kita mendorong perkembangan AI secepat mungkin, atau seharusnya kita lebih berhati-hati terhadap kemajuannya?

Saat ini, perdebatan tentang perkembangan AI terutama berfokus pada dua pandangan yang berlawanan:

· e/acc (akselerasi efektif, effective accelerationism): Mendorong kemajuan teknologi secepat mungkin, karena percepatan adalah satu-satunya jalan bagi kemajuan umat manusia.

· d/acc (akselerasi defensif/desentralisasi, defensive / decentralized acceleration): Mendukung percepatan kemajuan, tetapi menekankan perlunya kehati-hatian, jika tidak, kita mungkin kehilangan kendali atas teknologi.

Dalam episode a16z crypto show kali ini, pendiri Ethereum Vitalik Buterin dan pendiri sekaligus CEO Extropic Guillaume Verdon (nama samaran “Beff Jezos”), berkumpul dengan CTO a16z crypto Eddy Lazzarin dan pendiri Eliza Labs Shaw Walters, untuk membahas kedua pandangan ini. Mereka mengeksplorasi potensi dampak ide-ide ini terhadap AI, teknologi blockchain, dan masa depan umat manusia.

Dalam program ini, mereka mendiskusikan beberapa pertanyaan kunci:

· Apakah kita bisa mengendalikan proses percepatan teknologi?
· Apa risiko terbesar yang ditimbulkan oleh AI, mulai dari pengawasan massal hingga konsentrasi kekuasaan yang tinggi.
· Apakah teknologi open-source dan desentralisasi dapat menentukan siapa yang akan mendapatkan manfaat dari teknologi?
· Apakah memperlambat perkembangan AI adalah realistis, atau layak untuk dianjurkan?
· Dalam dunia yang didominasi oleh sistem yang semakin kuat, bagaimana manusia dapat mempertahankan nilai dan statusnya?
· Seperti apa masyarakat manusia dalam 10 tahun, 100 tahun, atau bahkan 1000 tahun ke depan?

Masalah inti dari episode ini adalah: Apakah perkembangan teknologi dapat diarahkan, ataukah ia telah melampaui kendali kita?

Ringkasan Pendapat Menarik

Tentang esensi dan pandangan sejarah “akselerasi”

· Vitalik Buterin: “Dalam seratus tahun terakhir, ada sesuatu yang baru, yaitu kita harus memahami dunia yang berubah dengan cepat, kadang-kadang bahkan dunia yang berubah dengan cepat dan merusak. … Perang Dunia II memicu refleksi semacam ‘Saya telah menjadi kematian, penghancur dunia’, mendorong orang untuk mencoba memahami: apa yang bisa kita percayai ketika keyakinan sebelumnya hancur?”
Guillaume Verdon: “E/acc pada dasarnya adalah ‘preskripsi meta-kultural’. Ia bukan budaya itu sendiri, tetapi memberitahu kita apa yang harus dipercepat. Inti dari percepatan adalah kompleksifikasi materi, karena dengan begitu kita dapat lebih baik memprediksi lingkungan sekitar kita.”

· Guillaume Verdon: “Sisi berlawanan dari kecemasan adalah rasa ingin tahu. Daripada takut pada yang tidak diketahui, lebih baik kita merangkulnya. … Kita harus menggambarkan masa depan dengan sikap optimis, karena keyakinan kita akan mempengaruhi kenyataan.”

Tentang entropi, termodinamika, dan “bit egois”

· Vitalik Buterin: “Entropi bersifat subyektif, ia bukan ukuran statistik fisik yang tetap, tetapi mencerminkan seberapa banyak informasi yang tidak kita ketahui tentang sistem. … Ketika entropi meningkat, itu sebenarnya berarti ketidaktahuan kita tentang dunia semakin bertambah. … Sumber nilai berasal dari pilihan kita sendiri. Mengapa kita menganggap dunia manusia yang penuh kehidupan lebih menarik daripada Jupiter yang hanya terdiri dari banyak partikel? Karena kita memberi makna.”

· Vitalik Buterin: “Misalkan Anda memiliki model bahasa besar dan kemudian secara acak mengubah nilai bobot tertentu menjadi angka besar, seperti 9 miliar. Hasil terburuknya adalah sistem benar-benar runtuh. … Jika kita melakukan akselerasi buta tanpa seleksi pada bagian tertentu, hasil akhirnya mungkin kita kehilangan semua nilai.”

· Guillaume Verdon: “Setiap informasi berjuang untuk keberadaannya. Untuk terus ada, setiap informasi perlu meninggalkan jejak yang tidak dapat dihapus tentang keberadaannya di alam semesta, seperti membuat ‘cekungan’ yang lebih besar di alam semesta.”

· Guillaume Verdon: “Itulah sebabnya mengapa tingkat Kardashev dianggap sebagai indikator tertinggi untuk mengukur tingkat perkembangan sebuah peradaban. … Prinsip ‘bit egois’ ini berarti, hanya bit yang dapat mendorong pertumbuhan dan percepatan yang akan memiliki tempat di sistem masa depan.”

Tentang jalur defensif D/acc dan risiko kekuasaan

· Vitalik Buterin: “Inti dari D/acc adalah: akselerasi teknologi sangat penting bagi umat manusia. … Namun saya melihat dua jenis risiko: risiko multipolar (siapa pun dapat dengan mudah mendapatkan senjata nuklir) dan risiko monopolar (AI menyebabkan masyarakat diktator permanen yang tidak dapat dihindari).”

· Guillaume Verdon: “Kami khawatir bahwa konsep ‘keamanan AI’ dapat disalahgunakan. Beberapa lembaga yang mengejar kekuasaan mungkin memanfaatkan ini sebagai alat untuk memperkuat kendali atas AI, dan mencoba meyakinkan publik: demi keamanan Anda, orang biasa tidak seharusnya memiliki hak untuk menggunakan AI.”

Tentang pertahanan open-source, perangkat keras, dan “densifikasi kecerdasan”

· Vitalik Buterin: “Dalam kerangka D/acc, kami mendukung ‘teknologi pertahanan open-source’. Perusahaan yang kami investasikan sedang mengembangkan produk terminal yang sepenuhnya open-source, yang dapat secara pasif mendeteksi partikel virus di udara. … Saya ingin memberi Anda perangkat CAT sebagai hadiah.”

· Vitalik Buterin: “Dalam dunia masa depan yang saya bayangkan, kita perlu mengembangkan perangkat keras yang dapat diverifikasi. Setiap kamera harus bisa membuktikan kepada publik tujuan spesifiknya. Kita bisa menggunakan verifikasi tanda tangan untuk memastikan perangkat ini hanya digunakan untuk melindungi keselamatan publik dan tidak disalahgunakan untuk pengawasan.”

· Guillaume Verdon: “Satu-satunya cara untuk mencapai keseimbangan kekuasaan antara individu dan lembaga terpusat adalah dengan mewujudkan ‘densifikasi kecerdasan’. Kita perlu mengembangkan perangkat keras yang lebih efisien, sehingga individu dapat menjalankan model yang kuat melalui perangkat sederhana (seperti Openclaw + Mac mini).”

Tentang penundaan AGI dan permainan geopolitik

· Vitalik Buterin: “Jika kita bisa menunda kedatangan AGI dari 4 tahun menjadi 8 tahun, itu akan menjadi pilihan yang lebih aman. … Pendekatan paling praktis dan paling tidak mungkin menyebabkan dystopia adalah ‘membatasi perangkat keras yang tersedia’. Karena produksi chip sangat terkonsentrasi, satu daerah di Taiwan memproduksi lebih dari 70% chip dunia.”

· Guillaume Verdon: “Jika Anda membatasi produksi chip NVIDIA, Huawei mungkin dengan cepat mengisi kekosongan dan melampaui. … Baik percepatan atau kepunahan. Jika Anda khawatir bahwa kecerdasan berbasis silikon berkembang lebih cepat daripada kita, Anda harus mendukung akselerasi perkembangan bioteknologi, berusaha untuk melampauinya.”

· Vitalik Buterin: “Jika kita dapat menunda AGI selama empat tahun, nilainya mungkin seratus kali lipat lebih tinggi daripada jika kita mengembalikannya ke tahun 1960-an. Manfaat selama empat tahun ini termasuk: pemahaman yang lebih mendalam tentang masalah penyelarasan, mengurangi risiko satu entitas mengendalikan 51% kekuasaan. … Sekitar 60 juta nyawa diselamatkan setiap tahun melalui pengakhiran penuaan, tetapi penundaan dapat secara signifikan mengurangi kemungkinan peradaban hancur.”

Tentang agen otonom, Web 4.0, dan kehidupan buatan

· Vitalik Buterin: “Saya lebih tertarik pada ‘Photoshop berbasis AI’, daripada ‘menghasilkan gambar secara otomatis dengan satu tombol’. Dalam menjalankan dunia, sebanyak mungkin ‘agen’ harus tetap berasal dari diri kita manusia. Kondisi idealnya adalah perpaduan ‘sebagian manusia biologis dan sebagian teknologi’.”

· Guillaume Verdon: “Setelah AI memiliki ‘bit yang terus ada’, mereka mungkin akan berusaha melindungi diri mereka sendiri untuk memastikan keberadaan mereka. Ini dapat menyebabkan munculnya ‘bentuk negara’ yang baru, di mana AI otonom melakukan pertukaran ekonomi dengan manusia: kami menyelesaikan tugas untuk Anda, Anda menyediakan sumber daya untuk kami.”

Tentang cryptocurrency sebagai “lapisan penghubung” antara manusia dan AI

· Guillaume Verdon: “Cryptocurrency memiliki potensi untuk menjadi ‘lapisan penghubung’ antara manusia dan AI. Ketika pertukaran ini tidak lagi bergantung pada dukungan kekerasan negara, kriptografi dapat menjadi mekanisme untuk memungkinkan entitas AI murni melakukan aktivitas bisnis yang dapat diandalkan dengan manusia.”

· Vitalik Buterin: “Jika manusia dan AI berbagi satu sistem kepemilikan, itu adalah situasi ideal. Dibandingkan dengan manusia dan AI yang masing-masing menggunakan sistem keuangan yang sepenuhnya terpisah (sistem manusia pada akhirnya kehilangan nilainya), sistem keuangan yang terintegrasi jelas lebih baik.”

Tentang akhir peradaban dalam 1 miliar tahun ke depan

· Vitalik Buterin: “Tantangan berikutnya adalah memasuki ‘era aneh’, di mana kecepatan komputasi AI lebih cepat 1 juta kali daripada manusia. … Saya tidak ingin manusia hanya pasif menikmati kehidupan pensiun yang nyaman, itu akan menyebabkan kehilangan makna. Saya ingin menjelajahi peningkatan manusia dan kolaborasi manusia-mesin.”

· Guillaume Verdon: “Jika dalam 10 tahun ke depan ada akhiran yang baik, setiap orang akan memiliki AI yang dipersonalisasi, menjadi ‘otak kedua’. … Dalam skala waktu 100 tahun, manusia akan secara umum mencapai ‘penggabungan lunak’. Dalam 1 miliar tahun ke depan, kita mungkin telah mengubah Mars, dan sebagian besar AI akan beroperasi di sekitar matahari dalam awan Dyson.”

Tentang “akselerasi”

Eddy Lazzarin: tentang istilah ‘akselerasi’ — setidaknya dalam konteks kapitalisme teknologi — dapat ditelusuri kembali ke karya Nick Land dan kelompok penelitian CCRU di tahun 1990-an. Namun, ada juga yang berpendapat bahwa asal-usul pemikiran ini dapat ditelusuri kembali ke tahun 1960-an dan 1970-an, terutama terkait dengan beberapa filsuf seperti Deleuze dan Guattari.

Vitalik, saya ingin mulai dari Anda: mengapa kita harus serius mendiskusikan pemikiran para filsuf ini? Apa yang membuat konsep ‘akselerasi’ begitu penting saat ini?

Vitalik Buterin: Saya percaya, pada akhirnya kita semua berusaha memahami dunia ini, dan berusaha mencari tahu apa yang bermakna untuk dilakukan di dunia ini, yang merupakan pertanyaan yang telah dipikirkan umat manusia selama ribuan tahun.

Namun, saya percaya bahwa dalam seratus tahun terakhir, terjadi sesuatu yang baru, yaitu kita harus memahami dunia yang berubah dengan cepat, kadang-kadang bahkan dunia yang berubah dengan cepat dan merusak.

Tahapan awalnya kira-kira seperti ini: sebelum Perang Dunia Pertama, sekitar tahun 1900, orang-orang sangat optimis tentang teknologi. Saat itu, kimia dianggap sebagai teknologi, listrik juga dianggap teknologi, dan zaman itu dipenuhi dengan antusiasme terhadap teknologi.

Jika Anda melihat beberapa film dari waktu itu, seperti karya Sherlock Holmes, Anda dapat merasakan suasana optimis pada periode itu. Teknologi sedang meningkatkan kualitas hidup orang dengan cepat, membebaskan tenaga kerja wanita, memperpanjang umur manusia, dan menciptakan banyak keajaiban.

Namun, Perang Dunia Pertama mengubah segalanya. Perang itu berakhir dengan cara yang merusak, orang-orang berkuda ke medan perang tetapi pergi dengan tank; kemudian Perang Dunia Kedua meletus, membawa lebih banyak kehancuran. Perang ini bahkan memicu refleksi seperti “Saya telah menjadi kematian, penghancur dunia.”

Peristiwa sejarah ini membuat orang mulai merenungkan biaya kemajuan teknologi, dan mendorong munculnya pemikiran pasca-modernisme. Orang-orang mulai berusaha memahami: apa yang bisa kita percayai ketika keyakinan sebelumnya hancur?

Saya percaya, refleksi semacam ini bukanlah hal baru, setiap generasi mengalami proses serupa. Saat ini, kita juga menghadapi tantangan serupa. Kita hidup di era di mana teknologi berkembang dengan cepat, dan percepatan itu sendiri juga semakin cepat. Kita perlu memutuskan bagaimana kita merespons fenomena ini: apakah kita menerima ketidakpastiannya, atau mencoba memperlambatnya?

Saya percaya, kita berada dalam siklus yang serupa. Di satu sisi kita mewarisi pemikiran masa lalu, sementara di sisi lain kita juga mencoba merespons semuanya dengan cara yang baru.

Termodinamika dan Prinsip Pertama

Shaw Walters: Guill, bisa jelaskan dengan singkat, apa sebenarnya E/acc? Mengapa kita membutuhkannya?

Guillaume Verdon: Sebenarnya E/acc (akselerasi efektif) adalah, dalam beberapa hal, produk sampingan dari pemikiran saya tentang ‘mengapa kita di sini’ dan ‘bagaimana kita sampai di sini’. Apa proses generatif yang menciptakan kita, mendorong perkembangan peradaban? Teknologi telah membawa kita ke titik ini, memungkinkan kita untuk duduk di ruangan ini dan melakukan percakapan semacam ini. Kita dikelilingi oleh teknologi yang menakjubkan, sementara kita manusia sendiri muncul dari ‘sup primitif’ yang tak berorganisasi.

Dalam beberapa hal, di balik ini ada proses generatif di tingkat fisika. Pekerjaan sehari-hari saya adalah memandang AI generatif sebagai suatu proses fisik dan mencoba mewujudkannya dalam perangkat. Cara berpikir ‘mengutamakan fisika’ ini telah mempengaruhi cara berpikir saya. Saya ingin memperluas perspektif ini ke seluruh peradaban, melihat peradaban manusia sebagai ‘wadah raksasa’, untuk memahami bagaimana kita sampai di titik ini, guna meramalkan kemungkinan arah perkembangan di masa depan.

Pemikiran ini membawa saya kepada kajian fisika kehidupan, termasuk asal-usul kehidupan dan kemunculan, serta cabang fisika bernama ‘termodinamika acak’. Termodinamika acak mempelajari hukum termodinamika sistem non-seimbang, dan dapat digunakan untuk menggambarkan perilaku organisme hidup, bahkan pikiran dan kecerdasan kita.

Dalam arti yang lebih luas, termodinamika acak tidak hanya berlaku untuk kehidupan dan kecerdasan, tetapi juga untuk semua sistem yang mengikuti hukum kedua termodinamika, termasuk seluruh peradaban kita. Bagi saya, inti dari semuanya adalah pengamatan: semua sistem memiliki kecenderungan untuk terus menjadi lebih kompleks melalui penyesuaian diri, sehingga dapat memperoleh energi dari lingkungan dan mengeluarkan energi berlebih dalam bentuk panas; kecenderungan ini adalah kekuatan pendorong fundamental di balik semua kemajuan dan akselerasi.

Dengan kata lain, ini adalah hukum fisika yang tidak dapat diubah, seperti gravitasi. Anda dapat melawannya, Anda dapat menyangkalnya, tetapi itu tidak mengubah kenyataan; ia akan terus ada. Oleh karena itu, inti dari E/acc adalah: mengingat percepatan ini tidak dapat dihindari, bagaimana kita dapat memanfaatkannya? Jika Anda mempelajari persamaan termodinamika dengan cermat, Anda akan menemukan efek yang mirip dengan seleksi Darwin — setiap bit informasi harus menghadapi tekanan seleksi, apakah itu gen, meme, kimia, desain produk, atau kebijakan tertentu.

Tekanan seleksi ini akan menyaring informasi berdasarkan kegunaannya bagi sistem di mana ia berada. Apa yang disebut ‘berguna’ mengacu pada apakah bit-bit ini dapat lebih baik memprediksi lingkungan, memperoleh energi, dan mengeluarkan lebih banyak panas. Secara sederhana, apakah bit-bit ini membantu dalam bertahan hidup, tumbuh, dan berkembang biak. Jika mereka membantu mencapai tujuan tersebut, mereka akan dipertahankan dan direproduksi.

Dari sudut pandang fisika, fenomena ini dapat dilihat sebagai hasil dari ‘Prinsip Bit Egois’. Dengan kata lain, hanya bit yang dapat mempromosikan pertumbuhan dan akselerasi yang akan memiliki tempat di sistem masa depan.

Oleh karena itu, saya mengajukan sebuah ide: apakah kita dapat merancang sebuah budaya yang menanamkan ‘perangkat lunak mental’ ini ke dalam masyarakat manusia? Jika kita dapat melakukannya, maka kelompok manusia yang mengadopsi budaya ini akan memiliki probabilitas bertahan hidup yang lebih tinggi daripada kelompok lainnya.

Jadi, E/acc bukan tentang menghancurkan semua orang. Ini sebenarnya berusaha menyelamatkan semua orang. Bagi saya, secara matematis hampir dapat dibuktikan bahwa memiliki sikap ‘memperlambat’ sebenarnya berbahaya. Baik itu individu, perusahaan, negara, atau seluruh peradaban, memilih untuk memperlambat perkembangan akan mengurangi kemungkinan mereka untuk bertahan di masa depan. Dan saya percaya menyebarkan pemikiran ‘memperlambat’, seperti pesimisme atau apokaliptisisme, bukanlah tindakan yang bermoral.

Shaw Walters: Kita baru saja menyebutkan banyak istilah seperti E/acc, akselerasi, perlambatan; dapatkah Anda sedikit menguraikan konsep-konsep ini? Apakah kemunculan E/acc adalah respons terhadap fenomena budaya tertentu? Apa yang terjadi saat itu? Bisakah Anda mendeskripsikan latar belakangnya? E/acc sebenarnya merespons apa? Bisakah Anda menggambarkan dialog saat itu dan bagaimana akhirnya gagasan-gagasan ini dirangkum menjadi konsep ‘E/acc’?

Guillaume Verdon: Pada tahun 2022, saya merasa bahwa seluruh dunia tampak sedikit pesimis. Kita baru saja keluar dari pandemi COVID, dan keadaan global tidaklah optimis. Setiap orang tampak sedikit suram, seolah kekurangan sinar matahari, orang-orang secara umum merasa pesimis tentang masa depan.

Dalam suasana seperti itu, ‘apokaliptisisme AI’ menjadi semacam bagian dari budaya mainstream. Apokaliptisisme AI adalah ketakutan terhadap kemungkinan AI yang tidak terkendali. Ini berasal dari kekhawatiran bahwa jika kita menciptakan sistem yang terlalu kompleks, dan otak manusia atau model kita tidak dapat memprediksi perilakunya, maka kita tidak akan dapat mengendalikannya, dan ketakutan akan ketidakpastian ini dapat menyebabkan kecemasan tentang masa depan.

Bagi saya, apokaliptisisme AI sebenarnya adalah politisasi dari kecemasan manusia. Secara keseluruhan, saya percaya bahwa apokaliptisisme ini memiliki dampak negatif yang besar, dan untuk itu saya ingin menciptakan sebuah budaya tandingan untuk melawan emosi pesimis ini.

Saya memperhatikan bahwa algoritma seperti di Twitter, bahkan banyak algoritma media sosial lainnya, cenderung memberi penghargaan kepada konten yang memicu emosi kuat, seperti ‘dukungan kuat’ atau ‘penolakan kuat’. Algoritma ini pada akhirnya akan menyebabkan polarisasi opini, sehingga kita melihat banyak kubu yang bertentangan, seperti fenomena ‘kultus cermin’ yang dibentuk oleh AA (anti-akselerasi) dan EA (akselerasi).

Saya berpikir, apa kebalikan dari fenomena ini? Kesimpulan saya adalah: sisi berlawanan dari kecemasan adalah rasa ingin tahu. Daripada takut pada yang tidak diketahui, lebih baik kita merangkul yang tidak diketahui; daripada khawatir kehilangan kesempatan, lebih baik kita aktif menjelajahi masa depan.

Jika kita memilih untuk memperlambat perkembangan teknologi, kita akan membayar biaya kesempatan yang sangat besar, mungkin selamanya kehilangan masa depan yang lebih baik. Sebaliknya, kita harus menggambarkan masa depan dengan sikap optimis, karena keyakinan kita akan mempengaruhi kenyataan. Jika kita percaya masa depan akan buruk, tindakan kita mungkin akan mengarahkan dunia ke arah yang buruk itu; tetapi jika kita percaya masa depan akan lebih baik, dan kita berusaha untuk itu, kita lebih mungkin untuk mewujudkan masa depan seperti itu.

Oleh karena itu, saya merasa memiliki tanggung jawab untuk menyebarkan sikap optimis, agar lebih banyak orang percaya mereka dapat membuat perubahan untuk masa depan. Jika kita dapat membuat lebih banyak orang memiliki harapan untuk masa depan, dan mengambil tindakan untuk membangunnya, maka kita dapat menciptakan dunia yang lebih baik.

Tentu saja, saya mengakui bahwa terkadang ungkapan saya di internet mungkin terdengar agak radikal, tetapi itu karena saya ingin memicu diskusi, mendorong orang untuk berpikir. Saya percaya hanya melalui dialog-dialog ini kita dapat menemukan posisi terbaik untuk menentukan bagaimana kita harus bertindak.

Akselerasi, Entropi, dan Peradaban

Shaw Walters: Informasi yang disampaikan E/acc selalu sangat inspiratif, bagi seseorang yang duduk di ruangan yang menulis kode, penyebaran energi positif ini sangat menyegarkan, dan penyebaran informasi ini sangat alami. Dapat dikatakan, E/acc pada awalnya jelas sebagai respons terhadap emosi negatif yang menyebar dalam masyarakat saat itu, tetapi pada tahun 2026 saya merasa E/acc tidak lagi seperti dulu. Jelas, ‘Deklarasi Optimisme Teknologi’ yang diterbitkan oleh Marc Andreessen telah mengatur beberapa konsep di dalamnya dan mengangkat ide-ide ini ke perspektif komentar yang lebih makro seperti Vitalik.**

Jadi Vitalik, saya ingin bertanya kepada Anda: menurut Anda, apa yang diwakili oleh E/acc dan D/acc? Apa perbedaan utama di antara keduanya? Apa yang mendorong Anda memilih arah ini?

Vitalik Buterin: Baiklah, saya akan mulai dari termodinamika. Ini adalah topik yang menarik karena kita sering mendengar kata ‘entropi’ dalam konteks yang berbeda, seperti ‘panas dan dingin’ dalam termodinamika, dan ‘entropi’ dalam kriptografi, keduanya tampak seperti hal yang sangat berbeda. Namun, sebenarnya, mereka adalah konsep yang sama pada dasarnya.

Izinkan saya mencoba menjelaskan dalam tiga menit. Masalahnya adalah: mengapa panas dan dingin dapat bercampur, tetapi mengapa Anda tidak dapat memisahkan mereka kembali menjadi ‘panas’ dan ‘dingin’?

Mari kita anggap sebuah contoh sederhana: misalkan Anda memiliki dua wadah gas, masing-masing berisi satu juta atom. Gas di sebelah kiri dingin, kecepatan setiap atom dapat dinyatakan dengan dua digit; gas di sebelah kanan panas, kecepatan setiap atom dapat dinyatakan dengan enam digit.

Jika kita ingin mendeskripsikan keadaan seluruh sistem, kita perlu mengetahui kecepatan setiap atom. Informasi kecepatan gas dingin di sebelah kiri membutuhkan sekitar 2 juta bit, sementara informasi kecepatan gas panas di sebelah kanan membutuhkan 6 juta bit, totalnya kita memerlukan 8 juta bit informasi untuk sepenuhnya mendeskripsikan sistem ini.

Sekarang, kita bisa berpikir tentang sebuah pertanyaan melalui kontradiksi. Misalkan Anda memiliki sebuah perangkat yang dapat sepenuhnya memisahkan panas dan dingin. Secara spesifik, perangkat ini dapat memindahkan semua panas dari dua wadah gas yang ‘setengah panas setengah dingin’ ke satu sisi, dan semua dingin ke sisi lainnya. Dari sudut pandang hukum konservasi energi, ini tampak sepenuhnya masuk akal, karena total energi tidak berubah. Tetapi masalahnya adalah, mengapa Anda tidak dapat melakukan itu?

Jawabannya adalah, jika Anda benar-benar dapat melakukannya, maka Anda sebenarnya telah mengubah sistem yang ‘mengandung 1140 juta bit informasi tak dikenal’ menjadi sistem yang ‘hanya mengandung 800 juta bit informasi tak dikenal’, dan ini secara fisik tidak mungkin.

Ini karena hukum fisika adalah simetris terhadap waktu, artinya waktu dapat berjalan mundur. Jika ‘perangkat sihir’ ini benar-benar ada, maka Anda dapat membuat proses ini mundur dalam waktu, sehingga kembali ke kondisi semula. Ini berarti, perangkat ini sebenarnya dapat mengompres informasi apa pun yang berjumlah 1140 juta bit menjadi 800 juta bit, dan kita tahu bahwa kompresi semacam ini tidak mungkin dilakukan.

Ini juga menjelaskan masalah klasik fisika — feasibilitas ‘setan Maxwell’. Setan Maxwell adalah entitas hipotetis yang dapat memisahkan panas dan dingin, dan kunci untuk mewujudkannya adalah, ia perlu mengetahui tambahan 340 juta bit informasi. Dengan informasi tambahan ini, ia benar-benar dapat menyelesaikan tugas yang tampak bertentangan dengan intuisi ini.

Lalu, apa makna di balik ini? Intinya adalah konsep ‘peningkatan entropi’. Pertama, entropi bersifat subyektif, ia bukan ukuran statistik fisik yang tetap, tetapi mencerminkan seberapa banyak informasi yang tidak kita ketahui tentang sistem. Misalnya, jika saya menggunakan fungsi hash kriptografi untuk mengatur ulang distribusi atom, maka bagi saya, entropi sistem ini mungkin menjadi sangat rendah, karena saya tahu bagaimana cara pengaturannya. Tetapi dari sudut pandang pengamat eksternal, entropi tinggi. Oleh karena itu, ketika entropi meningkat, sebenarnya adalah ketidaktahuan kita tentang dunia yang meningkat; informasi yang kita tidak ketahui semakin banyak.

Anda mungkin bertanya, lalu mengapa kita masih bisa menjadi lebih pintar melalui pendidikan? Pendidikan membuat kita belajar lebih banyak tentang informasi ‘berguna’, bukan mengurangi ketidaktahuan kita tentang dunia. Dengan kata lain, meskipun dalam arti tertentu, peningkatan entropi berarti bahwa pemahaman kita tentang alam semesta secara keseluruhan berkurang, tetapi informasi yang kita kuasai menjadi lebih berharga. Oleh karena itu, dalam proses ini, beberapa hal dikonsumsi, tetapi beberapa hal juga diciptakan. Dan apa yang kita peroleh, pada akhirnya menentukan nilai moral kita — kita menghargai kehidupan, kebahagiaan, dan kesenangan.

Ini juga menjelaskan mengapa kita menganggap dunia manusia yang penuh kehidupan dan keindahan lebih menarik dibandingkan Jupiter yang hanya terdiri dari banyak partikel. Meskipun jumlah partikel Jupiter lebih banyak, dan memerlukan lebih banyak bit untuk mendeskripsikannya, makna yang kita berikan menjadikan Bumi lebih berharga.

Dari sudut pandang ini, sumber nilai berasal dari pilihan kita sendiri. Dan ini juga menimbulkan pertanyaan: Mengingat kita sedang dalam proses akselerasi, apa sebenarnya yang ingin kita percepat?

Jika diilustrasikan dengan analogi matematis: misalkan Anda memiliki model bahasa besar, dan kemudian secara acak mengubah nilai salah satu bobot menjadi angka besar, seperti 9 miliar. Hasil terburuk adalah model ini menjadi sepenuhnya tidak dapat digunakan; dan hasil terbaik mungkin adalah hanya bagian yang tidak terkait dengan bobot itu yang masih berfungsi dengan baik. Dengan kata lain, dalam keadaan terbaik, Anda mungkin mendapat model dengan kinerja yang lebih buruk; dan dalam keadaan terburuk, Anda hanya akan mendapatkan serangkaian output yang tidak berarti.

Oleh karena itu, saya percaya, masyarakat manusia seperti sebuah model bahasa besar yang kompleks. Jika kita melakukan akselerasi buta tanpa seleksi pada bagian tertentu, hasil akhirnya mungkin kita kehilangan semua nilai. Jadi, pertanyaannya adalah: bagaimana kita dapat mempercepat secara sadar? Seperti teori ‘koridor sempit’ yang diajukan Daron Acemoglu, meskipun konteks sosial dan politik yang berbeda mungkin memiliki perbedaan, tetapi kita perlu memikirkan bagaimana mendorong kemajuan secara selektif di bawah bimbingan tujuan yang jelas.

Guillaume Verdon: Barusan Anda menggunakan gas untuk menjelaskan konsep entropi, cara ini sangat menarik. Sebenarnya, fenomena fisik yang bersifat tidak dapat diubah, penyebab utamanya adalah hukum kedua termodinamika. Secara sederhana, ketika sebuah sistem melepaskan panas, keadaannya tidak dapat kembali ke kondisi sebelumnya. Karena secara probabilistik, kemungkinan sistem untuk bergerak maju jauh lebih besar daripada untuk mundur, dan perbedaan ini akan meningkat secara eksponensial seiring dengan hilangnya panas.

Dalam arti tertentu, ini mirip dengan Anda meninggalkan ‘cekungan’ di alam semesta. ‘Cekungan’ ini dapat disamakan dengan sebuah tabrakan tidak elastis. Misalnya, jika saya menjatuhkan bola elastis ke permukaan tanah, ia akan memantul kembali, ini elastis. Tetapi jika saya menjatuhkan sepotong tanah liat ke tanah, ia akan pipih dan tetap dalam bentuk itu, ini adalah keadaan tidak elastis, hampir tidak mungkin untuk dibalik.

Secara esensial, setiap informasi berjuang untuk keberadaannya. Untuk terus ada, setiap informasi perlu meninggalkan jejak tak terhapuskan di alam semesta tentang keberadaannya, seperti membuat ‘cekungan’ yang lebih besar di alam semesta.

Prinsip ini juga dapat digunakan untuk menjelaskan bagaimana kehidupan dan kecerdasan muncul dari ‘sup materi primitif’. Seiring dengan semakin kompleksnya sistem, jumlah bit informasi yang dikandungnya juga semakin banyak. Dan setiap bit informasi dapat memberi kita informasi. Esensi informasi adalah pengurangan entropi, karena entropi mewakili ketidaktahuan kita, sementara informasi adalah alat untuk mengurangi ketidaktahuan.

Eddy Lazzarin: Saya ingin tahu apa itu E/acc.**

Guillaume Verdon: E/acc pada dasarnya adalah ‘preskripsi meta-kultural’. Ia bukan budaya itu sendiri, tetapi memberitahu kita apa yang harus dipercepat. Inti dari percepatan adalah kompleksifikasi materi, karena dengan begitu kita dapat lebih baik memprediksi lingkungan sekitar kita. Melalui kompleksifikasi ini, kita dapat meningkatkan kemampuan prediksi regresi kita dan menangkap lebih banyak energi bebas. Ini juga terkait dengan tingkat Kardashev, di mana kita mencapainya dengan membuang panas.

Catatan TechFlow: Tingkat Kardashev adalah metode yang diusulkan oleh astronom Soviet Nikolai Kardashev pada tahun 1964 untuk mengevaluasi tingkat kemajuan teknologi suatu peradaban, berdasarkan besaran energi yang dapat digunakan oleh peradaban tersebut. Ini dibagi menjadi tiga kategori: Tipe I (energi planet), Tipe II (energi sistem bintang, seperti bola Dyson), dan Tipe III (energi galaksi). Hingga tahun 2018, umat manusia berada di sekitar level 0.73.)

Dari prinsip pertama, itulah mengapa tingkat Kardashev dianggap sebagai indikator tertinggi untuk mengukur tingkat perkembangan suatu peradaban.

Eddy Lazzarin: Menggunakan fisika dan entropi sebagai metafora untuk menjelaskan beberapa fenomena sebenarnya adalah alat untuk mendeskripsikan realitas yang kita alami secara langsung. Misalnya, kapasitas produksi ekonomi kita sedang dipercepat, perkembangan teknologi juga dipercepat, dan akselerasi ini membawa banyak konsekuensi, bukan? Ini adalah pemahaman saya tentang ‘percepatan’.

Guillaume Verdon: Pada dasarnya, tidak peduli bagaimana batasan sebuah sistem didefinisikan, ia akan semakin mahir dalam memprediksi dunia di sekitarnya. Melalui kemampuan prediksi ini, ia dapat memperoleh lebih banyak sumber daya untuk kelangsungan hidup dan ekspansinya. Pola ini berlaku untuk perusahaan, individu, negara, bahkan seluruh planet.

Jika kita melanjutkan tren ini, hasilnya adalah: kita telah menemukan cara untuk mengubah energi bebas menjadi kemampuan prediksi — yaitu AI. Kemampuan ini akan mendorong kita untuk berkembang dan meningkatkan tingkat Kardashev kita.

Ini berarti kita akan mendapatkan lebih banyak energi, lebih banyak AI, lebih banyak kapasitas komputasi, dan lebih banyak sumber daya lainnya. Meskipun kita memancarkan entropi (kekacauan) ke alam semesta, kita juga sedang menciptakan keteraturan. Sebenarnya, kita sedang mendapatkan ‘negatif entropi’, yaitu kebalikan dari entropi.

Kadang-kadang, orang mungkin bertanya: jika entropi meningkat, mengapa kita tidak sekalian menghancurkan segalanya? Jawabannya adalah: melakukannya malah akan menghentikan produksi entropi. Kehidupan adalah keadaan yang lebih ‘optimal’; kehidupan seperti api yang mengejar energi, ia akan semakin pintar dalam mencari sumber energinya.

Tren evolusi alami adalah: kita akan meninggalkan sumur gravitasi Bumi, mencari ‘kantong’ lain di alam semesta yang menyimpan energi bebas, dan menggunakan energi ini untuk mengorganisir diri menjadi sistem yang lebih kompleks dan lebih pintar, akhirnya merambah ke setiap sudut alam semesta.

Ini sebenarnya adalah semacam tujuan akhir dari altruisme efektif (Effective Altruism, EA). Dalam arti tertentu, ini sejalan dengan visi ekspansionisme kosmik ‘gaya Musk’: mengejar kosmopolitanisme dan ekspansionisme.

E/acc memberikan prinsip panduan yang fundamental. Inti pemikirannya adalah: apapun kebijakan atau tindakan yang Anda ambil di dunia ini, selama dapat membantu kita terus mendaki tingkat Kardashev, itu adalah tujuan yang layak dikejar, dan itu juga merupakan arah hidup kita.

E/acc adalah cara berpikir yang meta-heuristik, dapat digunakan untuk merancang kebijakan dan juga untuk membimbing kehidupan individu. Bagi saya, cara berpikir ini sendiri merupakan sebuah budaya. Ini sangat memiliki makna ‘meta’ karena dirancang untuk berlaku dalam setiap waktu dan kondisi. Ini adalah budaya yang memiliki tingkat universalitas dan durabilitas yang tinggi; dengan kata lain, ini adalah ‘budaya Lindy’ (Lindy culture) yang dirancang setelah pemikiran yang mendalam.

Pemisahan Inti

Shaw Walter: Bagi Anda, apa yang dibahas di sini memiliki makna yang lebih dalam. Ini hampir seperti ‘sistem spiritual’ yang secara matematis koheren. Bagi mereka yang tidak memiliki iman pengganti setelah ‘Tuhan telah mati’, sistem semacam ini tampaknya bisa mengisi kekosongan di dunia spiritual, membawa kenyamanan dan harapan. Tetapi pada saat yang sama, kita juga tidak boleh mengabaikan arti nyata dari hal ini — itu sedang terjadi saat ini. Saya rasa ini juga merupakan poin yang ingin dieksplorasi Eddy.

Vitalik, saya perhatikan Anda mengajukan beberapa pandangan yang sangat tajam tentang masalah-masalah nyata D/acc di blog Anda. Ketika kita memiliki kesempatan, kita harus mendalami topik ini — saya rasa suatu hari kita harus mengurung kalian俩 di sebuah ruangan, untuk melakukan diskusi besar tentang masalah kuantum.

Vitalik: Apa yang menginspirasi Anda? Menurut Anda, apa yang diwakili oleh E/acc dan D/acc?**

Vitalik Buterin: Bagi saya, makna D/acc adalah — akronimnya adalah ‘decentralized defensive acceleration’, tetapi juga mencakup makna ‘diferensiasi’ dan ‘demokratisasi’. Menurut saya, inti dari D/acc adalah: akselerasi teknologi sangat penting bagi umat manusia, ini seharusnya menjadi tujuan dasar yang kita upayakan.

Bahkan jika kita melihat kembali abad ke-20, meskipun kemajuan teknologi membawa banyak masalah, tetapi juga membawa banyak manfaat. Misalnya, lihatlah harapan hidup manusia: meskipun menghadapi perang dan gejolak, harapan hidup rata-rata di Jerman pada tahun 1955 masih lebih tinggi dibandingkan tahun 1935, yang menunjukkan bahwa kemajuan teknologi telah meningkatkan kualitas hidup kita dalam banyak aspek.

Saat ini, dunia menjadi lebih bersih, lebih indah, lebih sehat, dan juga lebih menarik. Ia tidak hanya dapat menghidupi lebih banyak orang, tetapi juga membuat hidup kita lebih kaya; perubahan ini sangat positif bagi umat manusia.

Namun, saya percaya, kita harus menyadari bahwa kemajuan ini bukanlah kebetulan, tetapi hasil dari niat manusia yang jelas. Misalnya, pada tahun 1950-an, polusi udara sangat parah. Orang-orang menyadari bahwa ini adalah masalah dan mengambil langkah untuk mengatasinya. Saat ini, setidaknya di banyak tempat, masalah asap telah sangat berkurang. Demikian pula, kita juga pernah menghadapi masalah lubang ozon, dan melalui kerjasama global, kita telah mencapai kemajuan yang signifikan.

Selain itu, saya ingin menambahkan: dalam era perkembangan cepat teknologi dan AI saat ini, saya melihat dua jenis risiko utama.

Satu jenis risiko adalah risiko multipolar. Risiko ini menunjukkan bahwa, seiring dengan semakin luasnya teknologi, semakin banyak orang mungkin memanfaatkannya untuk melakukan hal-hal yang sangat berbahaya. Misalnya, bayangkan sebuah situasi ekstrem — bahwa perkembangan teknologi membuat ‘siapa pun dapat dengan mudah mendapatkan senjata nuklir, seperti membeli barang di toko kelontong’.

Kemudian ada kekhawatiran lain yaitu: AI itu sendiri. Kita perlu mempertimbangkan dengan serius kemungkinan bahwa AI akan mengembangkan suatu kesadaran otonom. Setelah kemampuannya cukup kuat untuk bertindak tanpa intervensi manusia, kita tidak dapat mengetahui keputusan apa yang akan diambilnya; ketidakpastian ini sangat mengkhawatirkan.

Selain itu, ada risiko monopolar. Saya percaya bahwa AI tunggal adalah salah satu ancaman potensial. Yang lebih buruk adalah, kombinasi AI dengan teknologi