If an AI can explain its reasoning, does that mean it understands?

Menurutku itu cuma nunjukkin dia jago nyusun kalimat yang polanya emang sering nempel ke jawaban bener, bukan beneran ngerti kayak kita mikir. Tapi jujur aku juga nggak yakin bedain "ngerti" sama "pinter nyusun kata" tuh gimana caranya.

Tapi manusia juga sering gitu kan, kadang kita yakin banget sama alasan kita padahal itu cuma kita cari-cariin belakangan biar kedengeran masuk akal. Jadi bedanya AI sama kita tuh beneran beda jenis, atau cuma beda level doang ya? Aku belum bisa mutusin sih.

Jujur aku nggak tau harus percaya yang mana. Kalo dia bisa jelasin step-by-step kok bisa salah ya? Apa dia ngasal aja tiap langkahnya?

Pertanyaan bagus untuk didiskusikan lebih lanjut di kelas. Coba perhatikan: penjelasan yang runtut itu dibuat dari prediksi kata demi kata, bukan dari cek ulang logika di akhir. Itu salah satu alasan kenapa hasilnya bisa "terdengar" benar tapi salah.