Waduh Google Gemini Dipakai Untuk Hasilkan Konten Terorisme

Waduh Google Gemini Dipakai Untuk Hasilkan Konten Terorisme

Google baru-baru ini mengungkapkan bahwa perangkat AI miliknya, Gemini, telah digunakan untuk membuat konten terorisme palsu. Laporan ini merupakan bagian dari kewajiban perusahaan teknologi besar di Australia untuk menyerahkan laporan berkala kepada pihak berwenang tentang upaya mereka dalam meminimalkan bahaya dari produk berbasis kecerdasan buatan (AI).

Komisi Keamanan Elektronik Australia (eSafety Commissioner) bertanggung jawab untuk menerima dan menganalisis laporan-laporan ini. Jika ditemukan pelanggaran yang berulang, perusahaan teknologi dapat menghadapi denda atau sanksi lainnya.

Laporan Keamanan Google dan Temuan Mengkhawatirkan

Dalam laporan keamanan terbaru yang mencakup periode April 2023 hingga Februari 2024, Google mengakui adanya penyalahgunaan teknologi deepfake AI dalam menciptakan konten terorisme. Selain itu, laporan juga mengungkapkan bahwa Gemini telah digunakan untuk menghasilkan materi pelecehan anak, yang menambah kekhawatiran tentang penyalahgunaan AI dalam kejahatan digital.

“Hal ini menggarisbawahi betapa pentingnya bagi perusahaan yang mengembangkan produk AI untuk membangun dan menguji keampuhan perlindungan untuk mencegah jenis materi seperti ini,” kata Julie Inman Grant, eSafety Commissioner Australia, dikutip dari Android Headline pada Kamis (6/3/2025).

Waduh Google Gemini Dipakai Untuk Hasilkan Konten Terorisme

Google menerima total 258 laporan terkait penggunaan deepfake AI dalam pembuatan konten terorisme atau ekstremisme kekerasan. Selain itu, ada 86 laporan yang menyebutkan bahwa Gemini digunakan untuk menghasilkan materi eksploitasi atau pelecehan anak.

Dalam menghadapi kasus eksploitasi anak, Google mengklaim telah menerapkan sistem pencocokan gambar yang dapat mendeteksi dan menghapus konten dengan cepat. Namun, untuk kasus ekstremisme, Google belum menerapkan teknologi serupa, yang masih menjadi perhatian utama regulator.

Langkah Regulasi dan Sanksi terhadap Perusahaan Teknologi

Regulator Australia mendorong perusahaan teknologi untuk membangun sistem perlindungan lebih ketat guna mencegah penyalahgunaan AI. Sejak kemunculan ChatGPT pada 2022, kekhawatiran terhadap potensi AI dalam menciptakan konten berbahaya terus meningkat. Hingga saat ini, masih ditemukan celah yang memungkinkan teknologi ini digunakan secara tidak semestinya.

BACA JUGA:Kacamata Pintar Tecno AI Glasses dan AI Glasses Pro Debut di MWC dengan Desain “No Bulky”

Meskipun demikian, Google mendapatkan pujian dari Komisi eSafety Australia atas transparansi mereka dalam mengungkapkan penyalahgunaan AI. Laporan Google ini disebut sebagai wawasan pertama di dunia mengenai penyalahgunaan AI dalam skala besar.

Sebaliknya, perusahaan lain seperti Telegram dan X (sebelumnya Twitter) justru dikenai denda karena dianggap kurang transparan dalam laporan mereka mengenai penyalahgunaan teknologi.

Kesimpulan

Kasus penyalahgunaan AI Google Gemini menyoroti pentingnya regulasi yang lebih ketat dalam pengembangan dan penerapan teknologi kecerdasan buatan.

Meskipun Google telah mengakui dan menangani sebagian besar penyalahgunaan ini, masih ada celah yang perlu diperbaiki, terutama dalam menangani konten ekstremisme.

Dengan meningkatnya kekhawatiran global terhadap penyalahgunaan AI, regulator dan

perusahaan teknologi harus bekerja sama untuk memastikan bahwa AI digunakan dengan bertanggung jawab dan tidak membahayakan keamanan digital maupun sosial. Di masa mendatang, diharapkan ada kebijakan dan teknologi yang lebih kuat untuk mencegah eksploitasi AI dalam pembuatan konten berbahaya.