Semakin banyak syarikat memperkenalkan AI generatif, satu perkara yang merunsingkan ramai pengurus ialah “pengendalian maklumat sulit”. Ramai pemimpin perniagaan berasa ragu-ragu untuk memasukkan data pelanggan atau maklumat penting syarikat ke dalam perkhidmatan AI berasaskan awan.
Dalam situasi ini, SB C&S telah mula menawarkan platform AI generatif jenis on-premis. Pergerakan ini mempunyai makna yang lebih daripada sekadar pelancaran produk. Bagi pemimpin perniagaan, “pilihan kedua” untuk penggunaan AI kini menjadi realistik.
Risiko Tersembunyi AI Awan dan Nilai On-Premis
AI generatif berasaskan awan seperti ChatGPT dan Claude sememangnya mudah digunakan. Walau bagaimanapun, kemungkinan data yang dimasukkan digunakan untuk pembelajaran, atau risiko kebocoran maklumat, tidak dapat dihapuskan sepenuhnya. Terutamanya apabila berurusan dengan maklumat pelanggan, rancangan perniagaan yang belum diumumkan, atau data berkaitan paten, menghantarnya ke awan itu sendiri boleh menjadi isu pematuhan.
Platform on-premis yang mula ditawarkan oleh SB C&S menyelesaikan masalah ini. Oleh kerana model AI beroperasi pada pelayan dalaman syarikat, data tidak akan keluar ke luar. Ini adalah kemajuan besar bagi pemimpin perniagaan yang ingin menggunakan AI generatif dalam tugas yang sangat sulit.
Saya sendiri menggunakan AI untuk mengautomasikan semakan kontrak dan pemeriksaan senarai hitam, tetapi pada awalnya, saya bimbang sama ada selamat untuk menghantar data ini ke awan. Dengan persekitaran on-premis, saya boleh menikmati manfaat AI tanpa kebimbangan sedemikian.
Memahami Kos dan Halangan Pengenalan dengan Tepat
Apabila mempertimbangkan pengenalan AI jenis on-premis, kos adalah kebimbangan utama. Perkhidmatan SB C&S memerlukan kos permulaan untuk pembelian pelayan dan GPU. Bergantung pada model, pelaburan sekitar RM100,000 hingga RM500,000 mungkin diperlukan dalam banyak kes.
Walau bagaimanapun, kos operasi mungkin lebih rendah berbanding jenis awan. Tiada yuran penggunaan API, dan tiada caj berdasarkan jumlah pemindahan data. Dalam jangka panjang, jika kos penggunaan awan bulanan adalah puluhan ribu hingga ratusan ribu ringgit, pelaburan boleh dipulihkan dalam 1 hingga 2 tahun.
Untuk pengenalan, ketersediaan kakitangan IT yang boleh menguruskan pelayan GPU dalaman juga merupakan faktor pertimbangan penting. Memandangkan rakan niaga jualan seperti SB C&S sering menyediakan sokongan pengenalan, bantuan untuk persediaan awal boleh diperolehi, tetapi operasi harian perlu dijalankan sendiri.
Pembezaan Penggunaan On-Premis dan Awan sebagai Titik Perubahan Strategi Perniagaan
Apa yang penting di sini ialah ia bukan pilihan “sama ada on-premis atau awan”. Pada hakikatnya, adalah lebih realistik untuk menggunakan kedua-duanya berdasarkan sifat tugas.
Sebagai contoh, untuk tugas yang kurang sulit seperti penulisan salinan pemasaran luaran atau analisis pasaran berdasarkan maklumat awam, AI awan boleh digunakan. Sementara itu, untuk tugas yang melibatkan analisis data pelanggan atau pengendalian maklumat kewangan dalaman, jenis on-premis boleh diguna pakai. Strategi hibrid ini mengoptimumkan keseimbangan antara risiko dan kos.
Menurut kajian PwC, syarikat Jepun ketinggalan di belakang negara lain dalam “penciptaan hasil” AI generatif. Salah satu puncanya ialah keraguan untuk menggunakan AI itu sendiri disebabkan kebimbangan keselamatan. Kemunculan jenis on-premis berpotensi untuk meruntuhkan halangan ini.
Langkah Pengenalan Konkrit
Sebagai pemimpin perniagaan, perkara pertama yang perlu dilakukan ialah “pemetaan data syarikat”. Kenal pasti tugas mana yang mengendalikan data apa, dan antara data tersebut, yang mana ingin diproses oleh AI. Selepas itu, pertimbangkan pengenalan AI on-premis untuk tugas yang mengendalikan data sulit.
Dalam perkhidmatan SB C&S, model bahasa besar sumber terbuka seperti Llama 2 dan Falcon boleh dipilih. Model-model ini boleh digunakan untuk tujuan komersial dan mempunyai tahap kebebasan penyesuaian yang tinggi. Secara teorinya, adalah mungkin untuk melatih semula model mengikut tugas syarikat.
Walau bagaimanapun, latihan semula model memerlukan pengetahuan khusus dan sumber GPU. Adalah disyorkan untuk terlebih dahulu menggunakan model sedia ada sebagaimana adanya dan mengesahkan sama ada ia boleh digunakan untuk tugas. Berdasarkan pengalaman saya, model generik selalunya memberikan ketepatan yang mencukupi pada peringkat awal.
Tindakan Segera yang Perlu Diambil oleh Pemimpin Perniagaan
Pengumuman SB C&S menunjukkan bahawa pilihan AI on-premis kini “terbuka kepada syarikat biasa”. Era di mana persekitaran AI yang selamat, yang sebelum ini hanya boleh dipertimbangkan oleh syarikat besar, kini boleh diperolehi oleh syarikat kecil dan sederhana dengan kos yang realistik telah tiba.
Mula-mula, minta demo AI on-premis yang ditawarkan oleh SB C&S atau vendor lain. Dengan mengesahkan operasi sebenar dan kos pengenalan, anda boleh membuat keputusan yang sesuai untuk syarikat anda. Pada masa yang sama, sahkan sejauh mana tugas boleh dilindungi oleh AI awan untuk memudahkan reka bentuk strategi hibrid.
Pengenalan AI kini berada dalam fasa “bagaimana untuk melakukannya” dan bukan lagi “sama ada untuk melakukannya atau tidak”. Kini setelah pilihan on-premis tersedia, sudah tiba masanya untuk pemimpin perniagaan sendiri memimpin strategi untuk memaksimumkan manfaat AI sambil melindungi data syarikat.
Menggunakan AI tanpa mendedahkan data sulit kepada pihak luar — pilihan baharu ini akan menjadi pemangkin yang membawa penggunaan AI syarikat Jepun ke peringkat seterusnya.
コメント