Regulasi dan Sistem Otomatis Label AI di Media Sosial, Upaya Menjaga Transparansi Digital
Pelitadigital.id – Perkembangan kecerdasan buatan generatif telah mengubah cara masyarakat membuat dan mengonsumsi konten digital. Foto, video, suara, hingga karakter virtual kini dapat dibuat atau dimodifikasi menggunakan teknologi AI dengan hasil yang semakin menyerupai karya nyata.
Di tengah perkembangan tersebut, kebutuhan untuk membedakan konten buatan manusia dan materi hasil rekayasa kecerdasan buatan semakin penting. Salah satu langkah yang mulai diterapkan adalah pemberian label AI di media sosial.
Pemerintah Siapkan Regulasi Penggunaan Teknologi Generatif
Di Indonesia, penerapan label terhadap konten berbasis AI menjadi bagian dari upaya pemerintah memperkuat tata kelola teknologi generatif.
Kementerian Komunikasi dan Digital disebut tengah menyiapkan Rancangan Peraturan Menteri yang mengatur penggunaan teknologi generatif oleh penyelenggara sistem elektronik.
Dalam rancangan kebijakan tersebut, konten yang dibuat menggunakan kecerdasan buatan diwajibkan memiliki penanda tertentu. Bentuk penandaan dapat berupa identitas visual maupun watermark sehingga pengguna dapat mengenali bahwa materi tersebut merupakan hasil rekayasa teknologi.
Kewajiban tersebut tidak hanya ditujukan kepada pembuat konten. Platform digital juga memiliki peran dalam memastikan materi yang beredar memenuhi ketentuan transparansi.
Penyedia layanan yang membiarkan konten tanpa identitas resmi tetap ditayangkan berpotensi mendapatkan sanksi administratif. Salah satu bentuk tindakan yang disebutkan adalah penurunan atau penghapusan konten secara paksa.
Kebijakan tersebut menunjukkan bahwa persoalan konten AI tidak lagi hanya dipandang sebagai perkembangan teknologi, tetapi juga berkaitan dengan tata kelola informasi publik.
Mengapa Label AI Semakin Dibutuhkan?
Kemampuan AI menghasilkan konten realistis membuat masyarakat semakin sulit membedakan materi asli dengan konten sintetis hanya berdasarkan pengamatan visual.
Sebuah foto dapat dimodifikasi sedemikian rupa sehingga tampak seperti dokumentasi peristiwa nyata. Begitu pula video dapat dibuat menyerupai rekaman seseorang atau kejadian tertentu.
Tanpa informasi mengenai asal-usul konten, pengguna berpotensi menganggap materi sintetis sebagai fakta. Kondisi tersebut menjadi lebih serius ketika konten digunakan untuk menyebarkan informasi palsu, memanipulasi opini, atau menipu masyarakat.
Label AI diharapkan memberikan konteks tambahan sebelum seseorang mempercayai atau menyebarkan sebuah materi.
Namun, sistem pelabelan tidak selalu berjalan sempurna. Teknologi pendeteksi masih menghadapi persoalan akurasi, terutama ketika metadata konten hilang atau sebuah materi telah mengalami proses penyuntingan berulang.
Karena itu, transparansi tidak hanya membutuhkan aturan, tetapi juga teknologi pendeteksi yang terus dikembangkan.
YouTube Mulai Mengandalkan Pelabelan dan Deteksi Otomatis
Platform berbagi video seperti YouTube menjadi salah satu layanan yang menerapkan mekanisme penandaan terhadap konten hasil AI.
Kreator diwajibkan memberikan informasi apabila video yang mereka unggah menampilkan materi fotorealistik yang dibuat atau dimodifikasi menggunakan teknologi sintetis.
Selain mengandalkan informasi dari kreator, platform juga menggunakan sistem pendeteksian yang membaca sinyal tertentu dari sebuah konten.
Penanda dapat ditampilkan pada bagian deskripsi video berdurasi panjang. Untuk format video pendek, informasi mengenai konten sintetis juga dapat ditampilkan melalui elemen atau overlay tertentu.
Pendekatan tersebut memungkinkan pengguna mendapatkan informasi tambahan tanpa harus mencari sendiri apakah sebuah video dibuat menggunakan AI.
TikTok Manfaatkan Metadata untuk Menelusuri Asal Konten
TikTok juga mengembangkan pendekatan berbeda dalam menghadapi semakin banyaknya materi sintetis di platform.
Platform tersebut menjalin kemitraan dengan koalisi yang berfokus pada keaslian dan asal-usul konten. Salah satu teknologi yang dimanfaatkan adalah pelacakan metadata mengenai proses pembuatan sebuah karya.
Metadata tersebut dapat membantu memberikan informasi mengenai perjalanan sebuah konten, mulai dari proses penyuntingan hingga materi tersebut diunggah ke platform.
Jika identitas sintetis dapat dipertahankan sepanjang proses tersebut, sistem akan lebih mudah memberikan tanda kepada pengguna.
Namun, terdapat tantangan yang tidak sederhana. Metadata atau informasi mengenai asal-usul suatu file dapat hilang atau dihapus ketika konten diproses menggunakan perangkat maupun layanan tertentu.
Kondisi tersebut menjadi salah satu hambatan dalam menciptakan sistem pelabelan otomatis yang benar-benar konsisten.
Instagram Perketat Pengawasan terhadap Karakter Buatan AI
Instagram turut menghadapi persoalan lain, terutama berkaitan dengan akun yang menggunakan karakter atau persona buatan kecerdasan buatan.
Platform tersebut melakukan penyesuaian terhadap label profil untuk memberikan informasi mengenai karakter yang dibuat menggunakan teknologi AI.
Langkah tersebut muncul di tengah keluhan komunitas pengguna mengenai meningkatnya akun rekayasa yang tampil seolah-olah merupakan manusia sungguhan.
Persoalan tersebut menjadi semakin kompleks ketika pengguna tidak mengetahui bahwa mereka sedang berinteraksi dengan karakter sintetis.
Instagram juga dapat memberikan pembatasan distribusi terhadap konten Reels apabila kreator dengan sengaja menyembunyikan identitas karakter buatan tersebut.
Dengan mekanisme tersebut, transparansi tidak hanya diterapkan pada konten individual, tetapi juga dapat berkaitan dengan identitas akun yang menggunakan karakter sintetis.
Sistem Otomatis Masih Berpotensi Salah Memberikan Label
Meskipun teknologi pendeteksi AI terus berkembang, penerapan label otomatis masih menghadapi persoalan akurasi.
Salah satu contoh muncul dari kalangan fotografer yang menggunakan perangkat penyuntingan digital. Foto yang pada awalnya diambil menggunakan kamera secara langsung dapat memperoleh tanda sintetis setelah melalui proses pengeditan tertentu.
Penggunaan fitur rekayasa gambar tertentu dapat membuat sistem mendeteksi adanya unsur AI meskipun materi awalnya merupakan hasil fotografi manual.
Situasi tersebut menunjukkan adanya kemungkinan false positive, yakni konten manusia atau foto asli yang justru dianggap memiliki unsur sintetis.
Apabila mekanisme pendeteksian tidak cukup akurat, kreator asli berpotensi dirugikan. Karena itu, penyempurnaan sistem menjadi penting agar label AI tidak diberikan secara sembarangan.
Platform perlu menemukan keseimbangan antara kemampuan mendeteksi konten sintetis dan perlindungan terhadap kreator yang menghasilkan karya secara konvensional.
Label AI Juga Berkaitan dengan Dunia Politik dan Pemilu
Persoalan konten sintetis tidak berhenti pada hiburan, fotografi, atau aktivitas kreator. Teknologi manipulasi visual juga memiliki implikasi yang lebih serius ketika digunakan dalam ranah politik.
Materi kampanye menjadi salah satu area yang perlu mendapatkan perhatian karena gambar atau video hasil rekayasa dapat memengaruhi persepsi masyarakat terhadap kandidat maupun peristiwa tertentu.
Dalam konteks tersebut, Mahkamah Konstitusi menegaskan bahwa penggunaan rekayasa gambar secara berlebihan dalam materi kampanye harus disertai keterangan atau transparansi yang jelas.
Baca juga:
