Realiti “Shadow AI” yang Tidak Boleh Diabaikan
Di syarikat anda, adakah pekerja menggunakan ChatGPT atau Claude secara sesuka hati?
Menurut tinjauan Yahoo! News, penggunaan “Shadow AI” semakin meluas dalam kalangan syarikat. Shadow AI merujuk kepada perkhidmatan AI generatif yang digunakan oleh pekerja secara peribadi tanpa kelulusan jabatan IT.
Apa yang mengejutkan ialah, pengurus lebih kurang peka terhadap risiko Shadow AI berbanding pekerja biasa. Ini mendedahkan realiti bahawa AI digunakan secara tidak terkawal di peringkat operasi, manakala pengurus kekurangan literasi AI.
Artikel ini menganalisis isu ini dari perspektif pengurusan dan menawarkan langkah-langkah konkrit.
Kenapa Shadow AI Berbahaya?
Risiko terbesar Shadow AI ialah “kebocoran maklumat” dan “pelanggaran pematuhan”.
Jika pekerja memasukkan data pelanggan atau maklumat sulit syarikat ke dalam ChatGPT versi percuma, data tersebut mungkin digunakan untuk pembelajaran di pelayan OpenAI. Ini boleh melanggar Akta Perlindungan Data Peribadi dan perjanjian kerahsiaan dengan rakan niaga.
Selain itu, jika jawapan AI mengandungi maklumat salah, pekerja mungkin menggunakannya dalam kerja tanpa semakan. Pengurus yang tidak dapat mengesahkan output AI boleh menyebabkan projek berjalan berdasarkan keputusan yang salah.
Dalam pengalaman saya membantu pelanggan melaksanakan AI, saya sering mendengar “kami tidak dapat mengesan alat AI yang digunakan oleh pekerja secara sesuka hati.” Ini bukan sekadar masalah IT, tetapi risiko pengurusan itu sendiri.
Kenapa Kesedaran Pengurus Rendah?
Terdapat dua sebab utama mengapa kesedaran pengurus rendah menurut tinjauan.
Pertama, “mereka tidak mahir menggunakan AI.” Pengurus sendiri kurang terdedah kepada AI, jadi mereka tidak dapat merasai risikonya. Sukar untuk membayangkan bahaya sesuatu yang tidak digunakan.
Kedua, “mereka tidak melihat realiti di peringkat operasi.” Pengurus tidak dapat memantau secara terperinci tugas anak buah. Lebih-lebih lagi dengan peningkatan kerja jarak jauh, sukar untuk melihat alat mana yang digunakan oleh pekerja dan bila.
Jika keadaan ini dibiarkan, Shadow AI akan terus berkembang. “Ketidaktahuan” pengurus adalah risiko terbesar.
Tiga Langkah Yang Perlu Diambil Oleh Pengurus
Jadi, apa yang perlu dilakukan? Saya kongsikan tiga langkah yang saya cadangkan kepada pelanggan.
1. Guna “Senarai Larangan” Bukan Sistem Permit
Jika “semua alat AI perlu mendapat permit,” proses kelulusan akan menjadi rumit dan pekerja akan mengabaikannya. Sebaliknya, senaraikan hanya alat AI yang dilarang dan benarkan penggunaan yang lain. Ini lebih realistik.
Secara khusus, buat senarai larangan berdasarkan kriteria berikut:
- Perkhidmatan AI versi percuma yang menyimpan data di pelayan luar syarikat
- Perkhidmatan yang membenarkan penggunaan data input untuk pembelajaran dalam terma perkhidmatan
- Perkhidmatan yang tidak mempunyai pensijilan keselamatan (seperti SOC2)
Dengan cara ini, pekerja boleh mencuba AI secara bebas, tetapi tidak boleh menggunakan alat berbahaya. Pengurusan juga menjadi lebih mudah.
2. Wajibkan Latihan Literasi AI Untuk Pekerja
Adakan latihan literasi AI asas untuk semua pekerja, termasuk pengurus. Kandungan berikut sudah memadai:
- Maklumat yang tidak boleh dimasukkan ke dalam AI (data peribadi, maklumat sulit, maklumat rakan niaga)
- Jawapan AI mesti disemak oleh manusia
- Alat AI yang digunakan mesti dilaporkan
Latihan boleh dijalankan dalam masa 30 minit sahaja. Yang penting ialah menegaskan bahawa “tidak tahu” bukan alasan yang boleh diterima.
3. Perkenalkan Alat AI Rasmi Untuk Hapuskan Shadow AI
Punca utama Shadow AI ialah “pekerja mahu menggunakan AI, tetapi syarikat tidak menyediakan alat rasmi.”
Oleh itu, perkenalkan alat AI yang selamat sebagai alat rasmi syarikat dan sediakan persekitaran untuk semua pekerja menggunakannya. Contohnya, ChatGPT Enterprise (kira-kira RM4,000/bulan setiap pengguna) atau Microsoft Copilot (kira-kira RM3,200/bulan setiap pengguna) menjamin data tidak digunakan untuk pembelajaran dan keselamatan terjamin.
Walaupun ada kos, ia adalah pelaburan yang murah berbanding risiko kebocoran maklumat. Kos tahunan sekitar RM40,000-RM50,000 setiap pengguna. Untuk 10 orang, RM400,000-RM500,000 setahun; untuk 100 orang, RM4 juta-RM5 juta setahun.
Dalam kalangan pelanggan saya, laporan Shadow AI menurun secara drastik selepas pengenalan alat rasmi. Apabila pekerja menggunakan “AI selamat yang diluluskan syarikat,” risiko berkurangan dengan ketara.
Ubah Shadow AI Menjadi Peluang
Shadow AI adalah risiko, tetapi ia juga menunjukkan “keperluan pekerja untuk menggunakan AI secara aktif.”
Jangan abaikan keperluan ini. Sebaliknya, sediakan garis panduan yang sesuai dan wujudkan persekitaran yang selamat untuk penggunaan AI. Itulah peranan pengurus.
Contohnya, adakan “pertandingan kes penggunaan AI” dalam syarikat dan kongsi cara terbaik. Wujudkan sistem di mana pekerja boleh mencuba AI secara sukarela dan berkongsi pengetahuan dengan seluruh organisasi.
Di syarikat saya, kami menyediakan persekitaran di mana semua pekerja boleh mencuba alat AI secara bebas. Sebagai balasan, mereka mesti melaporkan alat AI yang digunakan dan tujuannya. Setakat ini, tiada satu pun kes kebocoran maklumat berlaku.
Kesimpulan: Perubahan Mindset Pengurus Adalah Keutamaan
Risiko Shadow AI bukan masalah teknikal, tetapi “masalah manusia.” Khususnya, kesedaran rendah pengurus adalah serius dan boleh menjejaskan kredibiliti syarikat jika dibiarkan.
Mulakan dengan memahami realiti penggunaan alat AI di syarikat anda. Kemudian, pertimbangkan untuk memperkenalkan senarai larangan, alat rasmi, dan latihan.
AI adalah senjata kuat untuk pengurusan. Namun, jika digunakan tanpa kawalan, ia boleh menjadi senjata berbahaya. Gunakan AI di bawah tadbir urus yang sesuai untuk meningkatkan daya saing. Langkah pertama ialah menjadikan Shadow AI kelihatan dan diurus.
Adakah syarikat anda berjaya “mengurus” AI?
コメント