Just a small tidbit about generative AI before getting back to work. Gue ngerasa baik yang pro dan anti itu belum tentu memahami bagaimana AI bekerja, atau setidaknya memahami secara spesifik AI yang mereka gunakan. Di sini gue cuma jabarin satu kasus aja, karena gak mungkin semua gue jelasin satu-satu (hence I said small tidbit).

Dalam tempo beberapa bulan yang lalu, ada salah satu teman di Facebook yang bikin status bernada mockingly ke ChatGPT karena gak bisa ngasih gambar dari salah satu karakter dari sebuah waralaba ACG. Di gambar yang dia lampirkan, memang ChatGPT, berikut model DALL-E yang dipake, tidak bisa “memberikan” gambar yang benar dan malah membuat (ingat, model generatif) sebuah gambar karakter yang berbeda jauh dari yang diinginkan si Fulan ini.

Dari sini cukup jelas bahwa ChatGPT “tidak tahu” karakter tersebut sehingga menghasilkan gambar yang salah karena dataset yang mereka punya tidak memiliki “pengetahuan” mengenai topik tersebut. Dan seharusnya kita tahu dong kalau AI itu juga tidak tahu segalanya. Model AI masih harus dipakani kayak ternak, “dirawat” dan “diajarin”.

Dan kenapa malah menghasilkan gambar berbeda dan pretending kalo itu karakter yang diminta? Ya karena mereka “gak bisa” ngasih luaran yang negatif dan terus memberikan luaran positif yang setidaknya masuk akal bagi pengguna, or so they thought. Tentu saja buat luaran gambar seperti ini agak aneh sih, ya. Tapi kalau sekadar LLM yang isinya memang teks saja, ya bisa sering terjadi di situ. Syukur kalau jawabannya bener. Kalau gak tahu, mereka belum tentu ngaku gak tahu tapi malah bikin bullshittery biar keliatan masuk akal.

Kalo contoh dari pengalaman gue sendiri ada beberapa sih. Gue nyoba nyari workaround buat tinkering aktivitas gue menggunakan komputer yang membutuhkan software dari beberapa proyek open source, yang tentu biasanya ada repositorinya di GitHub. Ketika ngasih jawaban, daftar repositori GitHub yang dikasih justru non-existent semua yang berarti luaran yang gue dapet di situ omong kosong demi memberikan luaran yang positif. Bayangin kalo nyari soal topik lainnya. Kecuali kalo emang dikasih masukan dari kita buat referensi, mungkin luarannya bisa lebih masuk akal dan bener. But again, itu udah ke privacy and ethical issues. Mungkin bisa dibahas lain waktu.

Emang gak semua orang harus deep dive ke tech stuff, tapi alangkah baiknya buat gak sok tau atau malah membangun niat buat memahami apa yang kita lakukan, gunakan dan hadapi di kehidupan sehari-hari. Menolak dan menerima suatu hal tentu perlu bagi kita untuk memahaminya, sehingga muncul sebuah alasan.

Foto oleh Tatsuo Nakamura di Pexels