“Teknologi dapat membantu pekerjaan menjadi lebih cepat, tetapi tanggung jawab tidak pernah ikut terotomatisasi.”
— Wicarita
Ketika Pekerjaan Menjadi Terlalu Mudah
Bayangkan seorang Widyaiswara yang harus mengajar pada pagi berikutnya. Materi belum seluruhnya selesai, beberapa bahan masih harus diperbarui, dan puluhan tugas peserta menunggu untuk dibaca. Dalam situasi seperti itu, sebuah sistem AI menawarkan sesuatu yang hampir menyerupai jalan keluar sempurna. Beberapa instruksi dapat menghasilkan rancangan materi, ringkasan bacaan, soal evaluasi, bahkan analisis awal terhadap tugas peserta. Pekerjaan yang sebelumnya menghabiskan berjam-jam dapat berpindah menjadi pekerjaan beberapa menit.
Persoalannya justru muncul karena semuanya berjalan begitu mudah. Ketika sebuah teknologi hanya membantu pekerjaan mekanis, batas penggunaannya relatif mudah dikenali. Namun ketika teknologi mulai menulis materi, menyusun argumentasi, membaca jawaban peserta, dan memberikan rekomendasi, AI mulai memasuki wilayah yang selama ini dianggap sebagai bagian dari kemampuan profesional seorang Widyaiswara. Yang berubah bukan hanya kecepatan pekerjaan, tetapi batas antara pekerjaan yang dilakukan manusia dan pekerjaan yang dapat didelegasikan kepada mesin.
Perubahan tersebut membuat pertanyaan tentang AI menjadi lebih dalam daripada persoalan keterampilan menggunakan prompt. Seorang Widyaiswara dapat belajar membuat instruksi yang semakin baik, tetapi kemampuan menghasilkan keluaran AI bukan ukuran terakhir dari profesionalitas. Pertanyaan yang lebih penting adalah apa yang dilakukan setelah keluaran tersebut muncul. Siapa yang memeriksanya? Siapa yang memahami konteksnya? Siapa yang memutuskan bahwa informasi tersebut layak diajarkan? Dan ketika sebuah keputusan ternyata keliru, siapa yang berdiri untuk mempertanggungjawabkannya?
Di sinilah etika AI mulai memperoleh tempatnya.
Pengetahuan yang Datang Terlalu Cepat
Ada sesuatu yang menarik dari cara manusia menerima jawaban AI. Jawaban yang tersusun rapi cenderung terasa lebih dapat dipercaya. Kalimat yang lancar memberi kesan bahwa penulisnya memahami persoalan. Referensi yang terlihat akademis menciptakan kesan bahwa sebuah klaim memiliki dasar ilmiah. Struktur argumentasi yang lengkap bahkan dapat membuat kesalahan terlihat seperti pengetahuan yang matang.
Padahal AI generatif bekerja dengan menghasilkan keluaran berdasarkan pola yang dipelajarinya. Kelancaran sebuah jawaban tidak dengan sendirinya menjadi bukti kebenaran jawaban tersebut. Sistem dapat menghasilkan informasi yang salah, menyatukan fakta yang berbeda, atau memberikan referensi yang ternyata tidak dapat ditemukan ketika ditelusuri. Masalah ini menjadi jauh lebih serius ketika keluaran tersebut tidak berhenti di layar komputer, tetapi masuk ke bahan pembelajaran dan kemudian menjadi bagian dari pengetahuan peserta.
Di ruang pembelajaran, kesalahan informasi memiliki perjalanan yang panjang. Sebuah klaim yang tidak diperiksa dapat masuk ke dalam slide. Slide menjadi bahan penjelasan. Penjelasan dipahami peserta. Pengetahuan tersebut kemudian dibawa kembali ke lingkungan kerja. Dalam ekosistem ASN, rantainya bahkan dapat bergerak lebih jauh: Widyaiswara → pembelajaran → peserta ASN → kompetensi → organisasi pemerintah → pelayanan publik → masyarakat.
Karena itu, tugas Widyaiswara ketika menggunakan AI bukan sekadar memilih jawaban yang terdengar paling baik. Widyaiswara perlu mempertanyakan sumber, memeriksa fakta, melihat konteks, mengidentifikasi kemungkinan bias, dan kemudian menggunakan pertimbangan profesional untuk menentukan apakah keluaran tersebut layak digunakan.
AI dapat menjadi titik awal pengetahuan.
Verifikasi manusialah yang membuat pengetahuan tersebut layak dipercaya.
Data yang Dipercayakan kepada Kita
Perubahan lain muncul ketika AI mulai digunakan untuk membaca dan menganalisis pekerjaan peserta. Seorang Widyaiswara mungkin memiliki puluhan atau bahkan ratusan dokumen yang berisi nama, identitas, unit kerja, tugas, hasil evaluasi, dan informasi lain mengenai peserta. Mengunggah seluruh dokumen ke AI tampak seperti cara paling efisien untuk mendapatkan analisis.
Namun ada satu pertanyaan yang sering tertinggal karena teknologi membuat prosesnya terlalu mudah:
Apakah semua data yang tersedia memang perlu digunakan?
Keberadaan data dalam ruang kerja profesional tidak berarti data tersebut bebas diproses untuk tujuan apa pun. Prinsip ini menjadi semakin penting ketika data dipindahkan ke sistem AI. Dalam kerangka UU No. 27 Tahun 2022 tentang Pelindungan Data Pribadi, pemrosesan data pribadi dibatasi oleh prinsip tertentu, termasuk tujuan yang jelas, keabsahan, transparansi, akurasi, keamanan, dan tanggung jawab.
Karena itu, sebelum mengunggah tugas peserta, pertanyaan yang lebih tepat bukan sekadar apakah platform AI mampu membaca dokumen tersebut. Kita perlu melihat apakah identitas peserta memang dibutuhkan, bagaimana data akan diproses, dan apakah tujuan analisis yang sama dapat dicapai dengan data yang lebih sedikit.
Sebuah tugas mungkin perlu dianalisis untuk melihat kualitas argumentasi. Nama peserta belum tentu diperlukan. Nomor identitas mungkin tidak memiliki fungsi apa pun dalam analisis. Informasi unit kerja bisa jadi relevan dalam konteks tertentu, tetapi bisa pula sama sekali tidak dibutuhkan.
Dari sini muncul sebuah prinsip yang sederhana tetapi penting:
Data available tidak sama dengan data free to use.
Perlindungan data juga tidak berhenti pada asumsi bahwa sebuah platform terkenal pasti aman. Keamanan merupakan proses aktif yang menuntut perhatian terhadap bagaimana data dikumpulkan, diproses, disimpan, dan digunakan. Prinsip perlindungan tersebut menjadi semakin penting karena satu keputusan yang tampak kecil—misalnya mengunggah satu dokumen tanpa menghapus identitas—dapat membuka informasi yang sebenarnya tidak diperlukan untuk tujuan pembelajaran.
Etika kemudian bekerja sebelum tombol upload ditekan.
Ketika Mesin Mulai Membaca Manusia
Ada perbedaan mendasar antara menggunakan AI untuk membantu membuat soal dan menggunakan AI untuk memberikan nilai terhadap jawaban peserta. Pada kasus pertama, AI membantu menghasilkan materi. Pada kasus kedua, keluaran AI mulai berhubungan dengan penilaian terhadap seseorang.
Perbedaan tersebut terlihat kecil dalam antarmuka teknologi, tetapi besar dalam konsekuensi profesional.
Ketika AI digunakan untuk membaca jawaban peserta, memberikan skor, membuat ranking, atau merekomendasikan kelulusan, mesin mulai memasuki wilayah pengambilan keputusan tentang manusia. Pada tahap ini, pertanyaan tentang akurasi saja tidak cukup. Sebuah sistem mungkin menghasilkan penilaian yang secara statistik tampak baik, tetapi keputusan tetap membutuhkan pertimbangan mengenai konteks, kondisi peserta, kriteria penilaian, dan kemungkinan kesalahan.
Kerangka perlindungan data juga mengenali bahwa pemrosesan dan pengambilan keputusan otomatis tertentu dapat membawa risiko signifikan bagi seseorang. Karena itu, keputusan yang memiliki konsekuensi penting membutuhkan perhatian yang lebih besar terhadap dampak dan pengawasan manusia.
Hal tersebut mengubah posisi Widyaiswara.
AI dapat membaca seratus tugas lebih cepat daripada manusia. AI dapat membantu menemukan pola yang sulit terlihat ketika dokumen berjumlah banyak. AI bahkan dapat memberikan rekomendasi yang berguna sebagai bahan pertimbangan.
Namun rekomendasi bukan pertanggungjawaban.
Ketika peserta bertanya mengapa sebuah nilai diberikan, Widyaiswara harus memahami alasan keputusan tersebut. Ketika terdapat kesalahan, Widyaiswara harus dapat memperbaikinya. Ketika konteks peserta membuat hasil otomatis tidak tepat, manusia harus memiliki kewenangan untuk mengubah keputusan.
Prinsipnya bukan menolak otomatisasi.
Prinsipnya adalah memastikan bahwa manusia tetap memiliki kemampuan untuk memeriksa, menolak, dan mengesampingkan keluaran AI.
Mesin Tidak Memiliki Tanggung Jawab
Di sinilah persoalan AI menjadi persoalan profesional.
Sebuah model dapat menghasilkan rekomendasi, tetapi model tidak memiliki jabatan Widyaiswara. AI tidak memiliki mandat kelembagaan. AI tidak berdiri di depan peserta ketika keputusan dipertanyakan. AI tidak menjelaskan kepada organisasi mengapa sebuah penilaian dibuat.
Tanggung jawab tetap berada pada manusia yang menggunakan sistem tersebut.
Pedoman etika kecerdasan artifisial pemerintah juga menempatkan manusia sebagai bagian penting dalam pengambilan keputusan yang menyangkut kemanusiaan. Prinsip tersebut memperlihatkan sebuah perbedaan yang sering hilang dalam pembicaraan mengenai kecerdasan buatan:
kemampuan tidak sama dengan kewenangan.
AI mungkin memiliki kemampuan untuk menghasilkan keputusan. Kemampuan tersebut tidak otomatis memberikan AI otoritas untuk mengambil keputusan yang memiliki konsekuensi terhadap manusia.
Karena itu, penggunaan AI yang etis bukan berarti mengurangi kemampuan teknologi. Justru sebaliknya, teknologi dapat digunakan sejauh manusia tetap memahami batas kewenangan dan tanggung jawabnya.
Widyaiswara yang menggunakan AI bukan sekadar operator teknologi. Widyaiswara menjadi pihak yang menentukan apa yang boleh dipercayakan kepada mesin dan apa yang harus tetap berada dalam wilayah pertimbangan manusia.
Sembilan Pertanyaan Sebelum Percaya
Pada titik ini, etika AI tidak lagi terlihat sebagai kumpulan larangan. Etika menjadi semacam kebiasaan berpikir sebelum teknologi digunakan.
Sebelum AI digunakan dalam pekerjaan profesional, ada sembilan pertanyaan yang dapat menjadi semacam Ethical Action Map:
Purpose — Mengapa AI diperlukan untuk pekerjaan ini?
People — Siapa yang memperoleh manfaat dan siapa yang menanggung risikonya?
Data — Data siapa yang digunakan dan apakah seluruhnya memang diperlukan?
Regulation — Aturan atau prinsip apa yang relevan?
Risk — Apa yang mungkin salah?
Verify — Bagian mana yang harus dibuktikan sebelum digunakan?
Fairness — Apakah ada pihak yang berpotensi dirugikan?
Human Oversight — Apakah manusia masih dapat memeriksa, menolak, dan mengubah keluaran AI?
Accountability — Siapa yang bertanggung jawab atas keputusan akhirnya?
Sembilan pertanyaan tersebut sebenarnya mengembalikan manusia ke posisi yang sempat hilang ketika teknologi terasa terlalu mudah digunakan. Sebelum prompt diberikan, ada tujuan yang harus jelas. Setelah keluaran muncul, ada fakta yang harus diperiksa. Ketika data peserta digunakan, ada tanggung jawab yang harus dijaga. Dan ketika keputusan menyangkut manusia, ada kewenangan yang tidak boleh diserahkan begitu saja kepada mesin.
Dengan cara tersebut, etika bukan sesuatu yang diletakkan setelah penggunaan AI. Etika menjadi bagian dari cara menggunakan AI sejak awal.
Profesionalitas Setelah AI
AI akan semakin baik dalam melakukan pekerjaan intelektual. Kemampuan menghasilkan tulisan, membaca dokumen, menemukan pola, membuat rekomendasi, dan membantu asesmen akan terus berkembang. Karena itu, mempertahankan profesionalitas tidak dapat dilakukan dengan sekadar menjauh dari teknologi.
Tantangannya justru terletak pada kemampuan menggunakan teknologi tanpa kehilangan penilaian manusia.
Widyaiswara masa depan mungkin akan menghabiskan lebih sedikit waktu untuk pekerjaan yang bersifat mekanis. Waktu tersebut dapat dialihkan kepada sesuatu yang lebih penting: memahami peserta, membaca konteks, menguji kualitas pengetahuan, merancang pengalaman belajar, dan membuat keputusan yang membutuhkan pertimbangan.
Dalam keadaan seperti itu, nilai seorang Widyaiswara semakin bergeser dari kemampuan menghasilkan informasi menuju kemampuan menentukan informasi mana yang layak dipercaya dan keputusan mana yang layak diambil.
AI dapat mempercepat pekerjaan.
AI dapat memperluas kemampuan analisis.
AI dapat membantu menemukan kemungkinan yang sebelumnya sulit ditemukan.
Tetapi ketika pengetahuan masuk ke ruang pembelajaran, ketika data manusia diproses, dan ketika keputusan menyentuh kehidupan profesional seseorang, pertanyaan terakhir tetap kembali kepada manusia.
Bukan apakah mesin mampu memberikan jawaban.
Melainkan apakah manusia masih mampu mempertanggungjawabkan jawaban tersebut.
Mungkin justru di situlah makna etika AI bagi Widyaiswara. Bukan menjaga manusia agar tetap melakukan semua pekerjaan yang sebenarnya sudah mampu dilakukan mesin, tetapi memastikan bahwa ketika pekerjaan tertentu diserahkan kepada mesin, pertimbangan, kewenangan, dan tanggung jawab manusia tidak ikut diserahkan bersamanya.
AI boleh membantu pekerjaan kita. Tetapi ketika pengetahuan, penilaian, dan keputusan menyangkut manusia, tanggung jawab tetap kembali kepada manusia.
