JAYAKARTA NEWS – Dalam masa lalu, platform media sosial berperan sebagai alat penyebaran informasi palsu dan memperdalam perpecahan, dengan aktivis sayap kanan jauh, kampanye pengaruh asing, dan situs berita palsu semuanya berperan dalam penyebaran disinformasi ini.
Pemilu AS 2020 di Amerika Serikat dirusak oleh teori konspirasi dan klaim tak berdasar tentang kecurangan pemilih, disebarluaskan kepada jutaan orang, yang menguatkan gerakan anti-demokratis yang mencoba untuk menggulingkan hasil pemilu.
Para ahli memperingatkan bahwa kemajuan dalam kecerdasan buatan (AI) memiliki potensi untuk menghidupkan kembali taktik disinformasi dari masa lalu. Disinformasi yang dihasilkan oleh AI tidak hanya mengancam untuk menipu publik tetapi juga membawa risiko besar bagi ekosistem informasi yang sudah bermasalah dengan membanjirinya dengan kebohongan dan penipuan, menurut para ahli. Sepertinya tingkat kepercayaan akan menurun, dan tugas jurnalis dan orang lain yang menyebarkan informasi akurat akan menjadi lebih sulit.
Kemunculan alat AI yang dapat menghasilkan gambar fotorealistik, mereplikasi suara manusia, dan menghasilkan teks yang meyakinkan mirip manusia telah semakin mencuat, karena perusahaan seperti OpenAI telah membuat teknologi tersebut secara luas tersedia. Teknologi ini, yang sudah mengganggu berbagai industri dan memperburuk ketidaksetaraan yang sudah ada, kini semakin banyak digunakan untuk membuat konten politik.
Dalam beberapa bulan terakhir, contoh-contoh konten yang dihasilkan oleh AI yang mencuat termasuk gambar palsu ledakan di Pentagon yang menyebabkan penurunan pasar saham singkat, parodi audio AI yang viral dari presiden AS yang bermain video game, dan gambar-gambar AI yang menggambarkan Donald Trump dalam konfrontasi dengan petugas penegak hukum, yang secara luas dibagikan di platform media sosial.
Selain itu, Komite Nasional Partai Republik merilis iklan sepenuhnya dihasilkan oleh AI yang menggambarkan bencana-bencana yang akan terjadi jika Biden terpilih kembali, sementara American Association of Political Consultants memperingatkan tentang ancaman video deepfake terhadap demokrasi.
Dalam beberapa hal, gambar dan iklan yang dihasilkan oleh AI ini tidak jauh berbeda dari gambar yang dimanipulasi, video yang menipu, pesan yang menyesatkan, atau robocall yang telah digunakan dalam masyarakat selama bertahun-tahun. Namun, kampanye disinformasi dulu menghadapi hambatan logistik, seperti proses yang memakan waktu untuk membuat pesan yang disesuaikan untuk media sosial, mengedit gambar, dan memanipulasi video.
Sekarang, dengan AI generatif, membuat konten seperti ini telah menjadi aksesibel bagi individu dengan keterampilan digital dasar, dan ada sedikit perlindungan atau regulasi yang efektif untuk mengendalikan penggunaannya. Para ahli memperingatkan bahwa hasil potensial adalah demokratisasi dan percepatan propaganda, tepat saat beberapa negara memasuki tahun-tahun pemilu besar.
Ancaman potensial yang ditimbulkan oleh AI terhadap pemilu mencakup berbagai keprihatinan yang pernah terlihat dalam beberapa dekade campur tangan dalam pemilu. Ini termasuk bot media sosial yang mengaku sebagai pemilih nyata, video atau gambar yang dimanipulasi, dan robocall yang menyesatkan—semua lebih mudah diproduksi dan sulit dideteksi dengan bantuan alat AI.
Josh Goldstein, seorang peneliti di Georgetown University’s Center for Security and Emerging Technology, mencatat, “Jika Anda duduk di ladang troll di negara asing, Anda tidak lagi perlu fasih untuk menghasilkan artikel yang terdengar fasih dalam bahasa audiens target Anda. Anda dapat dengan mudah memiliki model bahasa menghasilkan artikel dengan tata bahasa dan kosakata penutur fasih.”
Teknologi AI juga dapat memperkuat kampanye penekanan pemilih yang menargetkan komunitas yang terpinggirkan. Selain itu, menciptakan kampanye penulisan surat atau keterlibatan palsu dapat menciptakan konstituen palsu, mengaburkan bagaimana pemilih merespons isu-isu dengan sebenarnya.
Dalam sebuah eksperimen penelitian, dua peneliti dari Cornell University mengirim puluhan ribu email kepada lebih dari 7.000 legislator negara bagian di AS, yang diduga berasal dari pemilih yang prihatin. Email-email ini dibagi antara surat yang dihasilkan oleh AI dan surat yang ditulis oleh manusia. Responsnya hampir identik, dengan email yang ditulis manusia hanya mendapatkan tingkat balasan 2% lebih tinggi daripada yang dihasilkan oleh AI.
Kampanye politik sudah mulai menggunakan konten yang dihasilkan oleh AI untuk tujuan mereka. Misalnya, setelah Gubernur Florida Ron DeSantis mengumumkan pencalonannya pada bulan Mei, Donald Trump mengejek lawannya dengan menggunakan video parodi yang menampilkan suara AI dari DeSantis, Elon Musk, dan Adolf Hitler.
Kampanye-kampanye sebelumnya Trump sangat bergantung pada meme dan video yang dibuat oleh pendukungnya, termasuk video yang disunting secara menyesatkan untuk menggambarkan Joe Biden secara negatif. Pengamat-pengamat memperingatkan bahwa strategi yang menggunakan AI ini semakin populer.
Peran kecerdasan buatan dalam pemilu masih belum pasti. Hanya dengan menciptakan konten AI yang menyesatkan tidak menjamin dampaknya pada pemilu, dan menilai efek kampanye disinformasi adalah hal yang sulit. Memantau keterlibatan dengan materi palsu adalah satu hal, tetapi mengukur efek sekunder pada ekosistem informasi, di mana orang-orang mungkin semakin tidak percaya pada informasi online, adalah hal lain.
Namun, ada tanda-tanda yang mengkhawatirkan. Saat penggunaan generative AI semakin berkembang, banyak platform media sosial yang diandalkan oleh pihak yang tidak bertanggung jawab untuk menyebarkan disinformasi mulai mengurangi langkah-langkah moderasi konten. YouTube membatalkan kebijakan integritas pemilu, Instagram mengizinkan teori konspirasi anti-vaksin Robert F. Kennedy Jr. kembali ke platformnya, dan kepala moderasi konten Twitter meninggalkan perusahaan tersebut seiring penurunan umum dalam standar di bawah kepemimpinan Elon Musk.
Efektivitas literasi media dan metode pengecekan fakta tradisional dalam melawan banjir teks dan gambar yang menyesatkan masih harus dilihat, karena skala besar konten yang dihasilkan oleh AI menimbulkan tantangan baru.
Sekarang, ketika gambar dan video yang dihasilkan oleh AI dapat dibuat jauh lebih cepat daripada yang bisa diulas dan dibantah oleh pengecek fakta, AI dapat mengikis kepercayaan publik dengan membuat mereka percaya bahwa hampir semua hal bisa dihasilkan secara artifisial. Meskipun beberapa layanan AI generatif, termasuk ChatGPT, memiliki kebijakan dan perlindungan terhadap penyajian informasi yang salah, keefektifannya bervariasi, dan beberapa model sumber terbuka tidak memiliki kebijakan dan fitur tersebut. (diolah dari berbagai sumber/sm)
