Pada 2024, seorang penumpang Air Canada bertanya kepada chatbot maskapai soal tarif bereavement (tiket duka cita) setelah neneknya meninggal. Chatbot tersebut memberi jawaban yang keliru, mengarang kebijakan diskon yang sebanarnya tidak berlaku. Alhasil, Air Canada menolak membayarnya, sampai akhirnya sebuah tribunal di Kanada memutuskan bahwa maskapai tetap bertanggung jawab atas apapun yang dikatakan oleh chatbotnya.
Kasus kecil ini menjadi contoh bahwa di era AI, kepercayaan bukan lagi soal citra baik saja, tetapi sudah menjadi bagian dari risiko hukum, biaya operasional, dan valuasi perusahaan.
Bisnis yang Dipercaya
Hasil Edelman Trust Barometer 2026 yang disusun berdasarkan hamper 34.000 responden di 28 negara menunjukkan keunggulan institusi bisnis dalam soal kepercayaan. Bisnis juga menjadi satu-satunya institusi yang dinilai positif dalam kompetensi dan etika. Hal ini juga berlaku dalam penggunaan AI. Menurut Edelman, publik memiliki kepercayaan yang lebih tinggi terhadap penggunaan AI dalam bisnis dibandingkan pemerintahan.
Di sisi lain, PwC Global CEO Survey 2026 yang melibatkan 4.454 CEO dari 95 negara menemukan bahwa 66% CEO mengalami setidaknya satu masalah kepercayaan stakeholder dalam 12 bulan terakhir. Isunya meliputi privasi data, transparansi, hingga keamanan AI.
Data ini menunjukkan bahwa adopsi AI dalam bisnis tidak terbatas pada persoalan inovasi teknologi, tetapi juga strategi menumbuhkan kepercayaan untuk tata kelola perusahaan dalam jangka panjang.
Peluang dan Tantangan di Indonesia
Foto: Dapiki Moto via Unsplash
Hadirnya kecerdasan buatan dalam dunia bisnis memicu peluang yang besar, yang juga diiringi oleh tantangan yang tak kalah besarnya. Paola Gálvez, AI Ethics Manager Globethics, dalam presentasinya di The Big Idea Forum (TBIF) oleh CNN Indonesia, menggarisbawahi ekonomi digital Indonesia yang terus bertumbuh – menjadi yang terbesar di Asia Tenggara. Meski demikian, Indonesia masih membutuhkan tambahan 9 juta pekerja bidang teknologi pada tahun 2030 untuk membuka peluang investasi, pelatihan, dan kepemimpinan yang lebih baik.
Studi IBM tahun 2025 bahwa 93% pemimpin percaya bahwa organisasinya mampu mengadaptasi AI dengan baik. Tetapi, hanya 24% yang benar-benar memiliki proses tata kelola AI yang jelas, dan hanya 45% yang merasa paham cara menggunakan AI secara etis. Artinya: pasar sedang tumbuh lebih cepat daripada kesiapan tata kelolanya. Di tengah perkembangan AI yang pesat, organisasi yang lebih dulu memutuskan untuk membangun sistem AI yang bertanggung jawab (responsible AI) berpeluang menjadi mitra pilihan bagi regulator, investor, dan pelanggan. Lalu, bagaimana memulai tata kelola AI yang bertanggung jawab?
Lima Langkah Membangun Tata Kelola AI yang Bertanggung Jawab
Dalam episode khusus TBIF – AI Forward 2026, Paola menawarkan lima langkah praktis yang bisa langsung diterapkan organisasi sebelum dan selama mengadopsi AI:
- Mundur selangkah sebelum mengadopsi
Tanyakan dulu tugas mana dalam organisasi yang benar-benar bisa dibantu atau digantikan AI, lalu analisis kritis apakah AI memang alat yang paling tepat untuk kebutuhan itu, bukan sekadar ikut tren. - Nilai manfaat nyata dari proyeknya
Bandingkan dengan kondisi sistem IT yang sudah ada dan kemungkinan reaksi pelanggan. Jika mengadakan sistem AI dari vendor luar, lakukan due diligence yang ketat dalam proses procurement. - Periksa kualitas data
Data adalah “oksigen” dari AI. Pastikan data yang dimiliki organisasi berkualitas tinggi, relevan, representative, dan cukup untuk proyek AI yang direncanakan. - Lakukan analisis dampak ke semua pemangku kepentingan (stakeholder)
Analisis etis yang cermat bukan hanya mengurangi risiko, tapi juga menciptakan nilai jangka Panjang. - Jaga transparansi ke pengguna
Pastikan pelanggan atau pengguna tahu secara jelas bagaimana alat AI bekerja. Yang lebih penting, apakah mereka sedang berinteraksi dengan AI atau manusia. Ingat, transparansi membangun kepercayaan.
Dua Kerangka Kerja Sebelum dan Sesudah Adopsi AI
Untuk mengevaluasi penggunaan (use case) AI secara cepat, Paola membagikan dua kerangka kerja sederhana. Yang pertama, kerangka 4D untuk menentukan apakah sebuah tugas layak dipertimbangkan untuk AI:
- Dangerous: pekerjaan yang berisiko atau berbahaya bagi manusia
- Dull: pekerjaan yang membosankan dan repetitive
- Dirty: pekerjaan dalam kondisi yang terlalu kotor atau toksik
- Difficult: keputusan yang terlalu kompleks atau melibatkan volume data yang masif
Begitu use case ditemukan, Paola menyarankan mengujinya lagi dengan kerangka 4V yang meliputi:
- Value: nilai apa yang sebenarnya dihasilkan?
- Viability: apakah layak secara teknis dan ekonomis?
- Volume: apakah volume datanya cukup untuk membenarkan proyek ini?
- Verification: bisakah hasilnya diaudit, dijelaskan, dan dipercaya?
Menurut Paola, use case yang lolos 4D tapi gagal di 4V adalah persis yang menyebabkan banyak organisasi merugi hingga miliaran dolar akibat insiden AI. Oleh karena itu, perlu dipastikan bahwa sistem tata kelola berbasis AI yang dibangun tidak melewatkan salah satunya.
AI sebagai Harapan, bukan tren atau Ketakutan
Dalam memandang AI, menurut Paola, masyarakat terus terbagi menjadi dua kubu: kubu yang percaya diri dengan tren AI, dan kubu lain yang melihat AI sebagai ancaman. Ia mengajak audiens untuk mengambil jalan tengah: AI sebagai harapan. Dengan menggunakan lima langkah dan dua kerangka di atas, organisasi atau individu dapat merasa diberdayakan oleh AI dan bukan malah terancam olehnya.
AI yang bertanggung jawab bukan penghambat inovasi, melainkan pendorongnya. Di tengah kesenjangan adopsi dan tata kelola yang masih lebar di Indonesia, siapa yang lebih dulu mengisi kesenjangan itu, dialah yang memegang keunggulan kompetitif yang sesungguhnya.
