G7 dan Syarikat AI: Peraturan Baharu Penggunaan Selamat Beri Impak kepada Pengurusan

Apa yang Ditunjukkan oleh Makan Tengah Hari Luar Biasa Pemimpin G7 dan Bos Syarikat AI

Pada April 2025, satu majlis makan tengah hari luar biasa telah diadakan yang menghimpunkan pemimpin G7 dan bos syarikat AI terkemuka dunia. Tema perbincangan adalah “Penggunaan Selamat AI Termaju”. Turut hadir ialah CEO OpenAI Sam Altman, CEO Google Sundar Pichai, dan CEO Anthropic Dario Amodei, yang bertukar pandangan mengenai rangka kerja tadbir urus AI antarabangsa.

Berita ini bukan sekadar acara diplomatik. Bagi para pengurus, ia adalah isyarat bahawa “peraturan” penggunaan AI akan berubah secara drastik. Jika peraturan diperketatkan, penggunaan alat AI yang sebelum ini bebas mungkin akan dihadkan. Sebaliknya, syarikat yang memenuhi piawaian keselamatan akan mendapat peluang perniagaan baharu.

Mengapa Penggunaan Selamat Penting Sekarang? Latar Belakang yang Perlu Diketahui Pengurus

Evolusi AI semakin pesat. Terutamanya dari akhir 2024 hingga 2025, prestasi AI generatif telah meningkat secara mendadak. Pasaran semakin pelbagai, dengan ChatGPT jatuh di bawah 50% bahagian pasaran global, manakala Gemini dan Claude berkembang pesat.

Di sebalik perubahan ini, terdapat fakta bahawa penggunaan AI dalam perniagaan telah beralih daripada “peringkat percubaan” kepada “peringkat operasi sebenar”. Jika AI yang disepadukan dalam operasi membuat keputusan yang salah, kerugian langsung akan berlaku. Contohnya, jika kontrak yang dihasilkan AI mengandungi kesilapan undang-undang, ia boleh membawa kepada risiko litigasi.

G7 tergesa-gesa untuk memastikan penggunaan selamat kerana risiko ini semakin menjadi realiti. Apa yang tidak boleh diabaikan oleh pengurus ialah pergerakan peraturan sedang beralih daripada “kawal selia sendiri” kepada “peraturan yang mengikat secara undang-undang”.

Tiga Risiko Pengurusan dalam Penggunaan AI Selamat

Risiko Undang-undang: Tanggungjawab Tidak Jelas

Jika kandungan yang dihasilkan AI bermasalah, siapa yang bertanggungjawab? Pada masa ini, dalam kebanyakan kes, tanggungjawab terletak pada syarikat yang menggunakan AI. Di Jepun, bilangan saman berkaitan hak cipta dan pelanggaran privasi akibat kandungan AI semakin meningkat.

Secara khusus, terdapat kes di mana AI secara tidak sengaja membocorkan data pelanggan, atau teks yang dihasilkan melanggar hak cipta syarikat lain. Risiko sedemikian berpotensi meningkatkan kos penggunaan AI secara mendadak.

Risiko Pematuhan: Ketidakjelasan Peraturan

Akta AI EU (AI Act) akan dikuatkuasakan secara berperingkat mulai 2025. Di Jepun juga, garis panduan AI dijangka akan diperketatkan. Alat AI yang kini digunakan secara bebas mungkin tiba-tiba menjadi “tertakluk kepada peraturan”.

Terutamanya, penggunaan AI dalam pengecaman muka, pemprosesan data biometrik, dan keputusan pengambilan pekerja akan menjadi sasaran peraturan yang ketat. Pengurus perlu segera mengenal pasti kategori penggunaan AI syarikat mereka.

Risiko Jenama: Kerosakan AI Menjejaskan Kredibiliti

Kes di mana kerosakan atau output berat sebelah AI merosakkan imej jenama syarikat semakin meningkat. Contohnya, dalam kes di mana AI sokongan pelanggan memberikan respons yang tidak sesuai, ia tersebar di media sosial dan menjejaskan kredibiliti syarikat dengan teruk.

Risiko sedemikian wujud untuk semua syarikat yang menggunakan AI. Terutamanya dalam perniagaan BtoC, ia boleh menjadi tamparan yang membawa maut.

Tiga Langkah Segera yang Perlu Diambil Pengurus

Pembinaan Tadbir Urus AI

Pertama, wujudkan peraturan penggunaan AI secara bertulis dalam syarikat. Secara khusus, tetapkan perkara berikut:

– Skop penggunaan AI dan perkara yang dilarang
– Proses pengesahan kandungan yang dihasilkan AI
– Tanggungjawab berkaitan AI
– Mekanisme audit dan penambahbaikan berkala

Di syarikat klien saya, pembinaan tadbir urus AI mengambil masa kira-kira 2-3 bulan. Kos pelaksanaan adalah sekitar beberapa puluh ribu ringgit jika menggunakan sumber dalaman, atau sekitar RM100,000 hingga RM300,000 jika menggunakan perunding luar.

Pelaksanaan Audit AI Berkala

Mekanisme untuk mengaudit output AI secara berkala adalah perlu. Tiga kaedah berikut adalah berkesan:

1. Pemeriksaan sampel secara manual
2. Penggunaan alat audit AI (contoh: Credo AI, Monitaur)
3. Audit luaran oleh pihak ketiga

Terutamanya jika AI mengendalikan data pelanggan atau maklumat sulit, audit bulanan disyorkan. Kos audit adalah sekitar RM10,000 hingga RM50,000 sebulan untuk penggunaan alat, atau RM50,000 hingga RM100,000 sekali untuk penyumberan luar.

Pelaksanaan Latihan Literasi AI

Untuk menggunakan AI dengan selamat, peningkatan literasi setiap pekerja adalah penting. Semua pekerja, daripada pihak pengurusan atasan hingga ke peringkat bawahan, perlu memahami risiko AI dan cara penggunaannya yang betul.

Latihan mesti merangkumi kandungan berikut:

– Mekanisme asas AI dan hadnya
– Asas privasi dan keselamatan
– Cara mengesahkan kandungan yang dihasilkan AI
– Aliran pelaporan apabila insiden berlaku

Kos latihan adalah sekitar beberapa ribu ringgit untuk bahan jika dijalankan dalaman, atau sekitar RM20,000 hingga RM50,000 sekali jika menjemput pensyarah luar.

Perkhidmatan Sokongan Beriringan Jenis FDE “Forward Runner” Menunjukkan Aliran Baharu

Selari dengan pergerakan ini, perkhidmatan yang patut diberi perhatian telah muncul. Ia adalah “Forward Runner” yang membimbing penggunaan AI dan RPA secara dalaman melalui sokongan beriringan jenis FDE.

Ciri perkhidmatan ini ialah matlamat utamanya bukan sekadar sokongan pengenalan alat, tetapi untuk membolehkan syarikat melakukannya secara dalaman. Untuk merealisasikan penggunaan AI yang selamat, sistem yang boleh dikawal sendiri oleh syarikat adalah penting, bukannya bergantung kepada pihak luar.

Perkhidmatan seperti Forward Runner adalah pilihan yang berkesan untuk syarikat yang ingin mengurangkan kos permulaan penggunaan AI sambil menyasarkan pelaksanaan dalaman jangka panjang. Kos bulanan dijangka sekitar RM50,000 hingga RM200,000, bergantung pada kandungan perkhidmatan.

Masa Depan Penggunaan AI Selamat dan Pilihan Pengurus

Pertemuan antara G7 dan bos syarikat AI menunjukkan bahawa penggunaan AI selamat sedang berubah daripada “pilihan” kepada “syarat wajib”. Pengurus mempunyai tiga pilihan:

1. Bertindak selepas menunggu peraturan (Risiko: Ketinggalan)
2. Mengambil langkah keselamatan secara sukarela (Disyorkan)
3. Mempercepatkan penggunaan AI serentak dengan langkah keselamatan (Ideal)

Berdasarkan pengalaman saya, langkah keselamatan dan penggunaan AI bukanlah pertukaran. Malah, penggunaan AI yang selamat menghasilkan kelebihan daya saing jangka panjang. Ini kerana ia membolehkan syarikat mendapat kepercayaan daripada pelanggan dan rakan niaga.

Sebagai tindakan konkrit, mulakan dengan mengaudit status penggunaan AI syarikat anda. Visualisasikan dalam bidang perniagaan mana AI digunakan, dan risiko apa yang mungkin tersembunyi. Kemudian, utamakan dan laksanakan langkah keselamatan.

AI, jika digunakan dengan betul, boleh menjadi senjata pengurusan yang kuat. Namun, jika digunakan tanpa perlindungan, ia boleh membahayakan syarikat. Anggaplah pergerakan G7 sebagai peluang, dan sediakan asas untuk penggunaan AI yang selamat sekarang.