Ilmi: AI yang Tahu Batasnya

Salah satu skenario paling berbahaya dalam AI adalah ketika sistem yang tidak tahu sesuatu tetap memberikan jawaban yang terdengar meyakinkan. Dalam konteks umum itu sudah bermasalah. Dalam konteks pertanyaan keagamaan, ini bisa jauh lebih serius.

Ilmi adalah asisten pengetahuan Islam di Surau. Ia dibangun di atas basis teks Islam yang sudah divalidasi: Quran lengkap dengan beberapa tafsir utama, puluhan ribu hadis dari kitab-kitab hadis yang diakui, serta teks fiqh klasik dari empat mazhab. Setiap jawaban yang Ilmi berikan disertai sumber yang bisa ditelusuri.

Tapi yang lebih penting dari kemampuannya adalah batas yang kami pasang dengan sengaja. Ilmi tidak memberikan fatwa. Tidak menjawab pertanyaan fiqh yang butuh konteks personal. Tidak berpura-pura memiliki otoritas yang ia tidak miliki. Ketika pertanyaan masuk ke area itu, Ilmi menjelaskan kenapa ia bukan pihak yang tepat dan mengarahkan ke Salam Ustaz, fitur yang menghubungkan jemaah dengan ustaz lokal yang terverifikasi komunitas.

Sementara itu, Ada (fitur terpisah di Surau) adalah marketplace P2P tempat jemaah bisa memposting barang yang dijual atau dicari, dan AI mencocokkan kebutuhan antar pengguna di komunitas yang sama. Dua nama, dua fungsi yang sangat berbeda.

AI yang paling berguna di konteks keagamaan bukan yang paling pintar atau paling percaya diri. Tapi yang paling jujur tentang di mana kapasitasnya berhenti.