JAYAKARTA NEWS – Pada suatu pagi yang cerah di Silicon Valley, Google DeepMind menggebrak dunia AI dengan meluncurkan alat watermarking baru yang dinamai SynthID.
Inovasi ini bertujuan untuk memberi label apakah sebuah gambar telah dihasilkan dengan bantuan kecerdasan buatan (AI). SynthID, yang mungkin terdengar seperti nama karakter dalam film fiksi ilmiah, memiliki potensi besar dalam melindungi karya AI serta hak cipta yang melekat padanya.
SynthID, dalam semua kecanggihannya, akan kali pertama tersedia bagi pengguna Imagen, generator gambar AI dari Google yang dihosting di platform Vertex Google Cloud. Pengguna Imagen akan memiliki keistimewaan untuk menghasilkan gambar menggunakan alat ini dan kemudian memutuskan apakah akan menambahkan watermark atau tidak.
Tujuan utama dari alat ini adalah memberikan kemampuan bagi individu untuk membedakan antara konten yang dihasilkan oleh AI dan yang asli. Dengan semakin berkembangnya popularitas model AI generatif, muncullah tantangan seperti deepfake, konten porno tanpa izin, dan pelanggaran hak cipta.
Dalam era di mana manipulasi visual semakin meresahkan, teknik watermarking menjadi solusi yang sangat relevan.
Watermarking Senjata Gres Lawan Penyalahgunaan AI
Watermarking adalah teknik di mana sinyal disembunyikan dalam teks atau gambar untuk mengidentifikasinya sebagai karya AI. Ini telah menjadi salah satu ide terpopuler dalam upaya mengatasi ancaman tersebut. Bahkan, Gedung Putih telah berhasil memperoleh komitmen sukarela dari perusahaan-perusahaan AI terkemuka, seperti OpenAI, Google, dan Meta, untuk mengembangkan alat watermarking dalam upaya melawan penyebaran informasi palsu dan penyalahgunaan konten yang dihasilkan oleh AI.
Namun, metode watermarking tradisional memiliki kelemahan, yaitu rentan terhadap perubahan, seperti pemotongan, perubahan ukuran, atau penyuntingan gambar. SynthID mencoba mengatasi masalah ini dengan pendekatan yang lebih cerdas.
Rahasia di Balik SynthID
SynthID dirancang menggunakan dua jaringan saraf. Yang pertama mengambil gambar asli dan menghasilkan versi lain yang hampir identik, tetapi dengan perubahan piksel yang sangat halus. Ini menciptakan pola yang tersembunyi dan tidak terlihat oleh mata manusia. Jaringan saraf kedua bertugas mendeteksi pola ini dan memberi tahu pengguna apakah gambar tersebut memiliki watermark, dicurigai memiliki watermark, atau tidak memiliki watermark sama sekali. Bahkan jika gambar discreenshot atau diedit, misalnya dengan memutar atau mengubah ukuran, SynthID tetap dapat mendeteksi watermark.
Pendapat Ahli dan Perspektif Masa Depan
Meskipun Google DeepMind mengklaim bahwa watermarking mereka lebih tahan terhadap perubahan daripada upaya sebelumnya, masih ada keraguan. Ben Zhao, seorang profesor di Universitas Chicago yang telah bekerja pada sistem untuk melindungi gambar seniman dari penyalahgunaan oleh sistem AI, menyatakan bahwa hingga saat ini, belum ada watermark yang terbukti kuat dari waktu ke waktu.
Namun, langkah pertama yang diambil oleh Google DeepMind ini mendapatkan dukungan dari Claire Leibowicz, Kepala Program Kejujuran AI dan Media di Partnership on AI. Dia berpendapat bahwa meskipun masalah ini kompleks, kita tidak boleh terlalu takut untuk bertindak.
Kohli, dari Google DeepMind, menggambarkan alat watermarking ini sebagai “eksperimental” dan mengungkapkan bahwa perusahaan ingin melihat bagaimana penggunaan dan kekuatan serta kelemahan alat ini sebelum meluncurkannya secara lebih luas. Namun, ada kekhawatiran bahwa Google mungkin akan membatasi penggunaan alat ini hanya pada gambar yang dihasilkan oleh Imagen, yang akan membatasi potensi kegunaannya.
Sasha Luccioni, seorang peneliti AI di startup Hugging Face, menganggap bahwa jika alat watermarking seperti SynthID diintegrasikan dalam sistem generasi gambar AI secara umum, maka akan ada potensi pengurangan risiko penyalahgunaan seperti konten porno deepfake.
Dengan demikian SynthID dari Google DeepMind mewakili langkah pertama yang penting dalam upaya untuk melindungi karya AI dari penyalahgunaan dan melawan penyebaran informasi palsu.
Meskipun masih ada tantangan dalam menghadapi penyebaran konten palsu dan deepfake, inovasi seperti SynthID memberikan harapan untuk masa depan yang lebih aman dalam penggunaan teknologi AI. Tetapi perdebatan tentang keamanan dan penggunaannya yang terbatas akan terus berlanjut, karena dunia terus mengejar perkembangan teknologi yang semakin kompleks. (technologyreview/sm)
