Viral, dua pemuda itu mengendarai motor di sela-sela pematang sawah yang hijau. Tiba-tiba maps digital yang memandunya mengatakan: “belok kiri”. Sontak, kedua pemuda itu tertawa terbahak-bahak sambil mengumpat dengan kata-kata kotor. Sebab jika mengikuti perintah, mereka akan terperosok ke kawasan persawahan yang penuh lumpur.
Itulah salah satu bentuk kelemahan maps digital, yaitu bisa menyesatkan pengguna, sehingga jika mengikuti perintahnya tanpa nalar kritis, kita akan terperosok ke dalam kubangan lumpur, kawasan pemakanan, bahkan juga jurang yang dalam.
Kesalahan yang sama bisa juga terjadi pada artificial intellegence (AI). Kesalahan itu sering disebut sebagai “Bias dalam AI”. Bias itu terjadi karena data yang digunakan untuk melatih AI atau algoritma yang digunakan untuk memproses data tersebut tidak tepat. Akibatnya, keputusan yang direkomendasikan tidak benar, tidak adil, atau tidak berguna.
Guru Besar Ilmu Kecerdasan Buatan (AI) IPB University Yeni Herdiyeni menilai perkembangan teknologi AI juga berarti perkembangan berbagai risiko yang menyertainya, seperti disinformasi, kesalahan algoritma, dan lain sebagainya “Semua itu bisa merugikan kepentingan pengguna, bahkan berpotensi memicu ancaman terhadap ketahanan nasional,” ungkapnya dalam sebuah seminar di Jakarta, pertengahan September 2025.
Bias dalam AI terjadi karena bias Data. Bias ini terjadi ketika data yang digunakan untuk melatih AI tidak representatif. Ada juga karena Bias algoritma yang terjadi ketika algoritma yang digunakan untuk memproses data terpengaruh oleh data yang tidak akurat. Selain itu, ada juga bias interaksi yang terjadi ketika AI berinteraksi dengan pengguna dan belajar dari preferensi atau perilaku mereka. Padahal preferensi dan perilaku mereka tidak benar.
*** *** ***
Pada tahun 2025, nilai transaksi melalui e-commerce di Indonesia diproyeksikan mencapai Rp490 triliun atau bahkan Rp500 sampai akhir tahun nanti. Pengguna e-commerce di negeri katulistiwa ini pada 2025 mencapai 66 juta orang dan diperkirakan akan terus meningkat, dengan proyeksi mencapai 99 juta pengguna pada 2029.
Dengan kue yang besar itu, sudah pasti banyak semut-semut yang berkerumun. Sudah pasti banyak semut yang nakal yang berupaya mengakali berbagai kelemahan AI untuk kepentingan tertentu, meski merugikan orang lain.
Di sisi lain, kepercayaan masyarakat Indonesia terhadap AI sangat tinggi, termasuk dalam berbelanja di e-commerce. Hasil riset menunjukkan bahwa 90 persen lebih pengguna e-commerce menggunakan AI sebagai pemandu. Mereka menilai penggunaan AI di dalam e-commerce mempermudah proses belanja. Fitur yang paling digemari adalah pencarian produk dengan gambar, rekomendasi produk, dan analisis ulasan produk.
“Sebagai level yang lebih tinggi dari fitur sebelumnya, AI memungkinkan proses yang lebih sederhana bagi pengguna untuk menemukan apa yang mereka cari hanya dengan beberapa kali klik,” ungkap AI Expert & Co-Founder Feedloop.ai, Ajie Santika, melalui laman media sosialnya.
Dengan berbagai pertimbangan di atas, maka AI e-commerce harus menjunjung tinggi integritas, sehingga kepercayaan masyarakat terhadap e-commerce tetap terjaga. “Jangan sampai AI e-commerce seperti maps digital yang menyesatkan pengguna ke kuburan di tengah malam,” ungkap seorang netizen.
Untuk menjaga kepercayaan customers, Pemerintah telah mengeluarkan Surat Edaran Menteri Komunikasi dan Informatika Nomor 9 Tahun 2023 tentang Etika Kecerdasan Artifisial. “Pelaku usaha dan penyelenggara sistem elektronik, baik lingkup privat maupun publik, sebagai pemangku kepentingan dalam penyelenggaraan kecerdasan artifisial berupaya untuk mengatur penggunaan kecerdasan artifisial secara etis, termasuk dalam pengambilan keputusan yang mempengaruhi masyarakat luas. Pengembangan pedoman etika kecerdasan artifisial bertujuan untuk memastikan bahwa teknologi ini digunakan dengan mempertimbangkan prinsip etis, kehatihatian, keselamatan, dan berorientasi pada dampak positif,” demikian dalam pengantar Surat Edaran tersebut.
*** *** ***
Salah satu AI e-commerce yang dapat dipercaya adalah AI Lazzie yang merupakan inovasi terbaru dari Lazada, dirancang untuk meningkatkan pengalaman belanja online pengguna. Dengan kemampuan AI yang canggih, Lazzie dapat membantu pengguna menemukan produk yang sesuai dengan kebutuhan mereka melalui fitur pencarian yang dipersonalisasi. Selain itu, Lazzie juga dapat memberikan rekomendasi produk yang relevan berdasarkan preferensi pengguna, sehingga memudahkan mereka dalam membuat keputusan dalam pembelian.
Salah satu fitur unik dalam Lazzie adalah Fitur Try-On yang memungkinkan pengguna mencoba pakaian virtual untuk mencari ukuran yang tepat, sekaligus mengurangi risiko kesalahan ukuran. Lazzie juga dapat merangkum ulasan produk dari pembeli lain, memberikan informasi yang lebih komprehensif dan membantu pengguna membuat keputusan yang lebih tepat. Dengan berbagai fitur tersebut, AI Lazzie menjadi asisten belanja virtual yang sangat berguna bagi pengguna Lazada.
Jurnalis www.energindo.co.id mencoba melakukan penilaian terkait integritas Lazzie melalui AI Mode pada Google. Jadi penelitian ini berbasis pada bagaimana sebuah AI menilai AI yang lain.
Ketika kami mengajukan pertanyaan: “Apakah ada keluhan/komplain customers tentang Lazzie?”, maka jawaban yang muncul adalah: “Secara umum, sumber yang tersedia lebih banyak menyoroti aspek positif dari Lazzie dalam meningkatkan pengalaman belanja dan efisiensi, daripada keluhan spesifik.”
AI biasanya menyesatkan jika mengutamakan pemasang iklan daripada customer atau sebaliknya. Namun ketika ditanya: “Apakah AI Lazzie mengutamakan pemasang iklan daripada customer yang berbelanja?”, maka jawaban yang muncul adalah: “Tidak ada bukti yang menunjukan bahwa Lazzie secara sengaja mengutamakan pengiklan dibandingkan pembeli. Sebaliknya, Lazzie dirancang untuk menyeimbangkan kebutuhan pembeli dan penjual, dengan tujuan untuk meningkatkan pengalaman berbelanja secara keseluruhan bagi pengguna dan pada saat yang sama membantu penjual (seller) tumbuh.”
Kami mencoba lagi untuk menanyakan hal yang sama, dengan redaksi yang berbeda, yaitu dengan pertanyaan: “Apakah AI Lazzie dirancang untuk kepentingan pengiklan daripada pembeli?.” Adapun jawaban dari Mode AI Google adalah sebagai berikut: “AI Lazzie dari Lazada dirancang untuk melayani kepentingan pembeli dan penjual secara seimbang, bukan untuk mengutamakan pengiklan di atas kepentingan pembeli.”
Ini menjelaskan bahwa Lazzie akan memberikan kesimpulan yang seimbang dan imparsial, sehingga customers dapat mengambil keputusan dengan tepat. Hal yang sama juga berlaku pada pengiklan, sehingga mereka harus memahami kebutuhan customer secara tepat.
Dengan begitu, customers tidak perlu kuatir akan disesatkan ke area “persawahan berlumpur” karena tidak kritis dalam menggunakan maps digital.
”Kemampuan AI Lazzie dalam menyaring dan menganalisis informasi dalam skala besar memungkinkan platform e-commerce seperti Lazada untuk memahami kebutuhan berbagai pihak dengan lebih tepat,” ujar Head of Business Growth and Operations Lazada Indonesia, Amelia Tediarjo, kepada awak media beberapa waktu lalu.
