AI識別技術「SynthID」が変える経営リスク管理

Bagaimana Bersedia Menghadapi Risiko Pengurusan Baharu dalam Era AI

Dengan perkembangan pesat penggunaan AI generatif, cabaran baharu muncul di hadapan para pengurus. Iaitu, “pengenalpastian kandungan yang dihasilkan oleh AI.”

Baru-baru ini, syarikat IT besar Korea, Kakao, telah tersenarai sebagai syarikat yang menggunakan teknologi pengenalpastian hasil AI yang dibangunkan oleh Google, iaitu “SynthID.” Berita ini melampaui sekadar pengenalan teknologi, malah mencabar cara pengurusan risiko dalam era AI.

Sebagai seseorang yang telah menggunakan AI sehingga mencapai pengurangan 1,550 jam kerja setahun dalam syarikat sendiri, saya amat menyedari kepentingan teknologi ini. Kerana semakin maju penggunaan AI, semakin tinggi keperluan untuk mengurus dengan betul “kandungan mana yang dihasilkan oleh AI.”

Apa itu SynthID dan Mengapa Pengurus Perlu Memberi Perhatian

SynthID adalah teknologi yang dibangunkan oleh Google untuk menyematkan tanda air digital pada hasil AI. Ia tidak dapat dikesan oleh mata manusia, tetapi boleh dikesan menggunakan alat khas. Latar belakang Kakao menggunakan teknologi ini adalah untuk menangani risiko penyebaran kandungan AI di platform seperti KakaoTalk dan KakaoPay yang mereka kendalikan.

Dari perspektif pengurus, yang penting ialah teknologi ini berkaitan secara langsung dengan “pematuhan” dan “perlindungan nilai jenama.”

Contohnya, jika syarikat anda menghasilkan bahan pemasaran secara besar-besaran menggunakan AI, apa yang akan berlaku jika kandungan itu secara tidak sengaja mempelajari karya berhak cipta syarikat lain? Atau, jika ulasan palsu atau berita palsu tersebar melalui perkhidmatan syarikat anda? Risiko ini menjadi semakin nyata apabila penggunaan AI menjadi kebiasaan.

Teknologi pengenalpastian seperti SynthID adalah asas untuk menjadikan risiko ini kelihatan dan boleh diurus.

Kos Pengenalan dan Aplikasi Praktikal

Perkara yang menjadi perhatian ialah kos pengenalan. Pada masa ini, SynthID disediakan sebagai perkhidmatan Google Cloud, dan yuran penggunaan adalah berdasarkan jumlah kandungan yang diproses secara bayar mengikut penggunaan. Untuk pengenalan berskala besar, kos mungkin mencecah puluhan ribu ringgit sebulan, tetapi terdapat pelan permulaan yang membolehkan syarikat kecil dan sederhana mencubanya dengan mudah.

Apa yang saya cadangkan ialah mulakan dengan “pengenalan secara eksperimen.” Secara khusus, langkah-langkah berikut boleh dipertimbangkan:

Pertama, kenal pasti kandungan AI dalam syarikat anda. Senaraikan artikel blog dalaman, siaran media sosial, e-mel kepada pelanggan, dan lain-lain yang dihasilkan oleh AI.

Kedua, berikan SynthID pada kandungan tersebut untuk pengurusan. Ini membolehkan anda membuktikan bahawa kandungan itu adalah hasil AI syarikat anda sekiranya ia bocor atau disalahgunakan.

Ketiga, bina sistem semakan untuk menerima kandungan AI dari luar. Contohnya, buat peraturan untuk menyemak sama ada cadangan atau data reka bentuk yang diterima daripada rakan niaga mempunyai SynthID.

Belajar dari Kes Sumitomo Life: Keseimbangan Penggunaan AI dan Pengurusan Risiko

Baru-baru ini juga, Sumitomo Life menggunakan AI untuk mengesahkan kebocoran tuntutan insurans. Tujuannya adalah untuk meningkatkan kecekapan kerja kakitangan dalaman, di mana AI menganalisis data tuntutan masa lalu dan mengesan kemungkinan kebocoran secara automatik.

Kes ini menunjukkan intipati penggunaan AI. AI harus digunakan untuk “melengkapkan pertimbangan manusia,” bukan “menggantikan pertimbangan manusia.” Dalam kes Sumitomo Life, kakitangan manusia yang membuat pengesahan akhir terhadap “kemungkinan kebocoran” yang diekstrak oleh AI.

Di sini juga, “kebolehpercayaan” hasil analisis yang dihasilkan oleh AI dipersoalkan. Jika AI membuat keputusan yang salah, mungkin berlaku kebocoran atau lebihan bayaran tuntutan insurans. Teknologi seperti SynthID membolehkan output AI ini dikesan, memudahkan audit dan pembetulan.

Tiga Tindakan yang Perlu Dimulakan Oleh Pengurus Sekarang

Jadi, apa yang perlu dilakukan oleh pengurus dan CTO secara khusus? Berdasarkan pengalaman saya, saya cadangkan tiga tindakan keutamaan tinggi.

Laksanakan “Inventori” Hasil AI

Pertama, kenal pasti semua kandungan yang dihasilkan oleh AI dalam syarikat anda. Blog, surat berita, siaran media sosial, balasan sokongan pelanggan, draf kontrak, dan lain-lain. Anda mungkin terkejut betapa banyak bidang yang menggunakan AI.

Dalam syarikat saya sendiri, kami menggunakan AI dalam 29 bidang perniagaan seperti siaran automatik media sosial, semakan kontrak, dan penjanaan manual. Kami telah memperkenalkan sistem untuk memberikan tag pengenalpastian pada setiap output. Ini sahaja dapat mengelakkan kekeliruan di kemudian hari tentang “sama ada kandungan ini dihasilkan oleh AI.”

Tetapkan Peraturan untuk Menerima Kandungan AI dari Luar

Kandungan yang diterima daripada rakan niaga atau pekerja bebas mungkin juga mengandungi hasil AI. Contohnya, jika bahan reka bentuk atau artikel yang dihasilkan oleh kontraktor luar adalah hasil AI, terdapat risiko pelanggaran hak cipta.

Oleh itu, pertimbangkan untuk menambah klausa dalam kontrak atau pesanan pembelian yang menyatakan “jika menggunakan kandungan AI, nyatakan perkara tersebut dan gunakan teknologi pengenalpastian.” Ini adalah cadangan yang saya buat dalam semakan kontrak untuk pelanggan.

Mulakan Ujian Pengenalan Teknologi AI

Bukan hanya SynthID, terdapat pelbagai teknologi untuk mengenal pasti hasil AI. Mulakan dengan percubaan percuma atau ujian berskala kecil untuk melihat sama ada ia sesuai dengan aliran kerja syarikat anda.

Dari segi kos, terdapat perkhidmatan yang boleh dimulakan dengan beberapa ribu ringgit sebulan. Memandangkan risiko tahunan bernilai puluhan ribu ringgit (contohnya, tuntutan hak cipta atau kerosakan reputasi), pulangan pelaburan sepatutnya berbaloi.

Kesimpulan: “Fasa Seterusnya” Penggunaan AI adalah Pengurusan dan Kepercayaan

Dengan kadar penggunaan AI generatif mencapai 46.5%, tumpuan pengurus beralih daripada “bagaimana menggunakannya” kepada “bagaimana menguruskannya.” Pengenalan SynthID oleh Kakao adalah peristiwa simbolik untuk ini.

AI sememangnya senjata yang kuat. Namun, jika tidak digunakan dengan betul, ia boleh mencederakan syarikat anda sendiri. Teknologi pengenalpastian adalah “alat keselamatan” untuk memajukan penggunaan AI dengan selamat.

Sebagai pengurus, anda tidak perlu memperlahankan kelajuan pengenalan AI. Walau bagaimanapun, pada masa yang sama, anda perlu membina sistem pengurusan risiko. Keseimbangan inilah yang menjadi syarat untuk syarikat bertahan dalam era AI.

Mulakan langkah pertama pengurusan kandungan AI syarikat anda hari ini. Keputusan itu akan memberi kesan besar kepada nilai syarikat anda beberapa tahun akan datang.