Insight | General Knowledge

Avatar AI dan Bahayanya Terhadap Privasi

Rabu, 14 Dec 2022 17:30 WIB
Avatar AI dan Bahayanya Terhadap Privasi
Jakarta -

Pesatnya perkembangan teknologi artificial intelligence atau kecerdasan buatan menjadi subjek yang mendominasi tahun 2022. Mulai dari AI art generator hingga chatbot serba tahu, berbagai terobosan teknologi ini tak henti menarik kontroversi dan ketertarikan masyarakat luas. Tak sedikit aspek dari perkembangan ini yang menimbulkan kekhawatiran maupun rasa takut, namun tak dapat dimungkiri bahwa ia tetap saja menarik untuk ditelusuri.

Mulai awal hingga pertengahan 2022, akses yang mudah terhadap AI art generator dan deep learning model membuat banyak dari kita berbondong-bondong mencoba men-generate berbagai image melalui prompt berbasis teks. Hasil dari berbagai generator ini cukup memukau, dengan kualitas image yang tinggi dan proses yang terhitung singkat. Hal ini tidak terlepas dari kontroversi, karena banyak dari generator tersebut yang menggunakan karya-karya dari seniman manusia sebagai referensi gaya maupun karakter visual. Bagi seniman-seniman yang gaya visualnya diikuti, tentu keberadaan AI bisa memengaruhi bagaimana karya mereka dihargai oleh publik. Mayoritas dari mereka pun tidak pernah memberikan persetujuan bahwa karyanya boleh ditiru.

Terlepas dari kontroversi soal aspek etis dari karya buatan AI, ketertarikan masyarakat terhadapnya tetap tak terbendung. Belakangan ini, media sosial dipenuhi avatar buatan AI dari Lensa, aplikasi editing foto yang dikembangkan oleh Prisma Labs. Dengan fitur "Magic Avatar" yang baru dikeluarkannya, pengguna bisa men-generate sejumlah avatar dengan mengunggah foto diri yang kemudian akan dijadikan aset referensi untuk AI. Tak terhitung public figure baik lokal maupun internasional yang menggunakan fitur ini—yang kemudian juga berperan terhadap popularitasnya. Lensa bahkan menjadi aplikasi teratas dalam kategori "Photo & Video" App Store iOs pada awal Desember.

Sekilas, men-generate avatar menggunakan Lensa mungkin tampak fun dan harmless—hasilnya yang berwarna-warni dengan beragam gaya visual tentu menarik—tapi, terdapat potensi bahaya dari aplikasi ini. Banyak dari pengguna yang melaporkan bahwa Lensa menghasilkan gambar yang menseksualisasi mereka berdasarkan aset visual yang dijadikan referensi. Selain dari pakaian yang kerap diminimalisir dalam output visual, ekspresi pengguna juga tidak luput dari seksualisasi. Banyak juga bias-bias lain seperti fitur muka yang dibuat lebih mendekati ras kaukasia bagi pengguna Lensa yang merupakan people of color.

Sebagai pengembang dari Lensa, Prima Labs sendiri menyatakan bahwa mereka berkomitmen untuk mencegah Lensa men-generate gambar-gambar not safe for work secara tidak sengaja. Lensa sendiri sebenarnya hanya diperuntukkan bagi pengguna dewasa, namun output-nya tidak lepas dari kesalahan dan bias. Ke depannya, Prisma Labs berencana membuat filter NSFW, sehingga pengguna yang memang berniat untuk membuat dan menyimpan gambar-gambar tersebut tetap bisa melakukannya, namun pengguna yang tidak menginginkannya tidak akan melihatnya.

Di samping isu ini, banyak ahli yang memperingatkan bahwa aplikasi seperti Lensa memiliki potensi berbahaya bagi privasi penggunanya. Privacy policy Lensa menyatakan bahwa mereka mengumpulkan dan menyimpan data wajah mereka untuk pemrosesan, namun aset-aset tersebut akan dihapus setelah 24 jam pasca pemrosesan. Dalam fitur "Magic Avatar", Lensa menyatakan bahwa aset visual yang dijadikan referensi akan dihapus langsung setelah output di-generate. Namun, spesialis AI dan cybersecurity Mari Galloway menyatakan pada TODAY.com bahwa pengguna tetap perlu berhati-hati, karena pengguna tidak tahu bagaimana mekanisme penghapusan atau encryption data mereka.

Lebih lanjut lagi, Galloway juga menyatakan bahwa jika kepemilikan Lensa berpindah tangan, database yang masih dimiliki oleh aplikasi tersebut bebas digunakan oleh pemilik selanjutnya aplikasi tersebut. Saat ini, satu-satunya cara untuk menghapus data yang telah diberikan pada Lensa adalah dengan menghapus akun yang dimiliki dan meminta Lensa untuk menghapus seluruh data terkait.

Sebagai suatu bidang yang terhitung masih berada pada fase awal perkembangannya, masih banyak aspek etis dari AI yang perlu dipecahkan. Baik itu etika penggunaan referensi karya, royalti, keamanan data, hingga privasi, potensi positif AI baru bisa diwujudkan sepenuhnya ketika aspek-aspek tersebut sudah terselesaikan.

[Gambas:Audio CXO]

(alm/tim)

NEW RELEASE
CXO SPECIALS