Gambar oleh Markus Spiske.
Tanggal 18 Juli 2024 akan tercatat dalam buku sejarah sebagai peristiwa yang mengguncang dunia dengan cara yang unik. Hal ini memberikan peringatan keras kepada sebagian besar umat manusia tentang kerapuhan bawaan sistem teknologi yang telah kita ciptakan dan kompleksitas sosial yang ditimbulkannya. Layanan penting di rumah sakit, bandara, bank, dan fasilitas pemerintah di seluruh dunia tiba-tiba tidak tersedia. Kita hanya bisa membayangkan bagaimana rasanya menjalani perawatan di ruang gawat darurat pada saat itu dengan penyakit serius atau yang mengancam jiwa.
Jadi, apa yang harus kita simpulkan dari peristiwa ini dan bagaimana kita dapat secara rasional memahami makna dan signifikansinya? Sebagai jurnalis yang mengkhususkan diri dalam menulis tentang dampak teknologi pada politik dan budaya, saya ingin berbagi beberapa pemikiran awal.
Bagi sebagian dari kita yang telah bekerja di bidang teknologi selama bertahun-tahun, kejadian seperti itu sepenuhnya dapat diprediksi. Hal ini terjadi karena tiga faktor: 1) kerapuhan bawaan kode komputer, 2) kemungkinan kesalahan manusia yang selalu ada, dan 3) fakta bahwa ketika Anda membangun sistem yang saling terhubung, kerentanan di satu bagian sistem dapat dengan mudah menyebar seperti penyakit menular ke bagian lain. Kita melihat kerentanan semacam ini terjadi setiap hari dalam bentuk curahan berita tentang peretasan, pencurian identitas, dan pelanggaran keamanan yang melibatkan semua jenis perusahaan dan lembaga. Namun, tidak satu pun dari kejadian yang terisolasi ini memiliki skala yang cukup untuk menimbulkan kesadaran dan kekhawatiran publik yang lebih besar hingga Gangguan Komputer Global Besar-besaran pada 18 Juli.
Kerapuhan yang Inheren Selalu Ada
Meskipun teknologi digital baru kita sangat mengesankan, para teknokrat dan pembuat kebijakan kita sering kali tampak melupakan kenyataan penting. Sistem yang sekarang diterapkan secara besar-besaran ini juga cukup rapuh dalam skema yang lebih besar. Komputer dan sistem komunikasi yang mendukungnya—yang disebut sistem virtual—dapat memusatkan sejumlah besar daya dan kendali informasi dengan menggunakannya seperti tuas Archimedean untuk mengelola dunia fisik. Seorang yang sinis mungkin berpendapat bahwa kita sekarang sedang membangun infrastruktur peradaban kita di atas fondasi pasir.
Pada Forum Keamanan Aspen yang baru-baru ini diadakan, Anne Neuberger—pakar keamanan siber senior Gedung Putih—mencatat, “Kita perlu benar-benar memikirkan ketahanan digital kita, tidak hanya dalam sistem yang kita jalankan, tetapi juga dalam sistem keamanan yang terhubung secara global, risiko konsolidasi, cara kita menangani konsolidasi tersebut, dan cara kita memastikan bahwa jika suatu insiden terjadi, insiden tersebut dapat diatasi dan kita dapat pulih dengan cepat.” Dengan segala hormat, Ibu Neuberger hanya menyatakan hal yang sudah jelas dan tidak menggali lebih dalam.
Masalahnya jauh lebih dalam. Pemerintah kita dan negara-negara Barat maju lainnya kini berjalan pada dua jalur yang terpisah tetapi setara: teknologi dan tata kelola. Jalur teknologi diawasi oleh entitas Big Tech dengan sedikit akuntabilitas atau pengawasan terkait fungsi normatif pemerintah. Dengan kata lain, mereka kurang lebih diberi kebebasan untuk beroperasi sesuai dengan perintah ekonomi pasar bebas.
Lebih jauh, pertimbangkan eksperimen pemikiran ini: Mengingat peran penting AI dalam membentuk aspek-aspek utama kehidupan kita dan mengingat sisi negatif dan risikonya yang sangat nyata dan diakui sepenuhnya, mengapa AI bahkan tidak dibahas dalam debat presiden? Jawabannya sederhana: Isu-isu ini sering kali diserahkan kepada teknokrat yang tidak dipilih atau pialang kekuasaan korporat untuk dihadapi. Namun, inilah kendalanya: Sebagian besar teknokrat tidak memiliki keahlian kebijakan yang diperlukan untuk memandu pengambilan keputusan penting di tingkat masyarakat sementara, pada saat yang sama, politisi kita (dan ya, sayangnya, sebagian besar kandidat presiden kita) tidak memiliki keahlian teknologi yang diperlukan.
Ruang Lingkup, Skala, dan Kebijaksanaan
Beralih ke perspektif yang lebih holistik, kemampuan manusia untuk terus membangun sistem semacam ini menemui keterbatasan kemampuan konseptual kita untuk merangkul keluasan dan kompleksitasnya. Jadi, pertanyaannya adalah: Apakah ada batasan dalam tatanan alamiah terhadap jumlah kompleksitas teknologi yang berkelanjutan? Jika demikian, tampaknya masuk akal untuk berasumsi bahwa batasan ini ditentukan oleh kemampuan kecerdasan manusia untuk mencakup dan mengelola kompleksitas tersebut.
Untuk mengatakannya secara lebih sederhana: Pada titik manakah dalam mendorong batas kemajuan teknologi kita menjadi tidak terkendali dan sejauh mana kesombongan Promethean terlibat di dalamnya?
Sebagai seseorang yang memiliki tertulis secara mendalam tentang bahaya AI, saya berpendapat bahwa kita sekarang berada pada titik kritis yang dengannya patut dipertanyakan apakah kita dapat mengendalikan apa yang telah kita ciptakan dan apakah “dampak samping yang berbahaya” dari kekacauan yang tampaknya konstan sekarang bertentangan dengan kualitas hidup. Lebih jauh, kita hanya dapat berspekulasi apakah kita harus mempertimbangkan apakah acara CrowdStrike entah bagaimana dikaitkan dengan semacam peretasan atau kesalahan AI yang masih kurang dipahami atau dikenali. Intinya adalah: Jika kita tidak dapat mengendalikan dampak dari penemuan teknologi kita sendiri, maka dalam pengertian apa ciptaan tersebut dapat dikatakan melayani kepentingan dan kebutuhan manusia dalam lingkungan global yang sudah terlalu rumit ini?
Akhirnya, munculnya teknologi-teknologi canggih yang tidak banyak diketahui orang seperti nanoteknologi dan rekayasa genetika juga perlu dipertimbangkan dalam konteks ini. Ini juga merupakan teknologi yang hanya dapat dipahami dalam ranah konseptual dan tidak dalam cara yang konkret dan lebih langsung karena (menurut saya) dampak primer dan sekundernya terhadap masyarakat, budaya, dan politik tidak dapat lagi dibayangkan dengan sukses. Oleh karena itu, bergerak secara tegas ke ranah-ranah ini seperti eksperimen ad hoc dengan alam itu sendiri. Namun, seperti yang telah ditunjukkan oleh banyak pemerhati lingkungan, “Alam adalah yang terakhir.” Kemajuan teknologi yang tak terkendali sekarang didorong oleh keharusan perusahaan dan mentalitas “pertumbuhan dengan cara apa pun” yang tidak memberikan banyak waktu untuk refleksi. Prospek baru dan tampaknya menarik untuk teknologi canggih yang canggih mungkin membuat kita terpesona, tetapi jika dalam prosesnya mereka juga membutakan kita, bagaimana kita dapat mengarahkan kemajuan teknologi dengan kebijaksanaan?