Sebab Institusi Kewangan Memilih “AI On-Premise” dan Bukan Awan
Syarikat kad kredit View Card telah memperkenalkan AI generatif dalam operasi pengurusan hutangnya. Yang menarik perhatian ialah bentuk pelaksanaannya. Mereka menggunakan sistem penjanaan dokumen perbicaraan “Court” yang beroperasi pada pelayan syarikat sendiri, iaitu jenis “on-premise”, dan bukan jenis berasaskan awan. Pilihan ini menunjukkan bahawa penggunaan AI dalam industri kewangan telah melangkaui dimensi kecekapan semata-mata.
Pengurusan hutang, terutamanya penyediaan dokumen berkaitan guaman, adalah operasi yang memerlukan ketepatan dan kerahsiaan yang tinggi. Menghantar dokumen yang mengandungi maklumat pelanggan, sejarah transaksi, dan hujah undang-undang kepada perkhidmatan awan luar membawa risiko yang besar. Kemudahan AI generatif dan kerahsiaan data yang mesti dilindungi oleh institusi kewangan. Jawapan untuk menyelesaikan dilema ini ialah pelaksanaan AI on-premise.
Menjalankan model AI dalam firewall syarikat sendiri. Kaedah ini mengurangkan risiko kebocoran data ke luar secara drastik. Kebimbangan terbesar yang dihadapi oleh ramai pengurus, terutamanya yang bertanggungjawab dalam bidang kewangan, penjagaan kesihatan, dan undang-undang, yang teragak-agak untuk menggunakan AI generatif terletak di sini. Kes Ippu Senkin dan View Card telah memberikan penyelesaian praktikal untuk “penggunaan AI dengan jaminan keselamatan”.
Fungsi Transkripsi “ChatSense” dan Strategi yang Berbeza
Platform AI untuk syarikat besar “ChatSense” yang juga menjadi berita, telah melancarkan fungsi perkongsian e-mel transkripsi. Perkhidmatan ini ditawarkan sebagai perkhidmatan berasaskan awan. Perbandingan antara kedua-duanya menunjukkan “titik perbezaan strategik” yang jelas dalam pelaksanaan AI.
Apa yang diselesaikan oleh ChatSense ialah “pengvisualan dan perkongsian maklumat” untuk minit mesyuarat dan e-mel tindak balas pelanggan. Ia sesuai untuk operasi yang memerlukan kerahsiaan yang agak rendah dan menekankan kelajuan dan kerjasama. Sebaliknya, AI on-premise yang dipilih oleh View Card bertujuan untuk “automasi operasi rutin yang sangat sulit”.
Apabila pengurus atau CTO ingin melaksanakan AI dalam syarikat mereka, perkara pertama yang harus ditanya ialah titik perbezaan ini. “Operasi mana yang hendak diautomasikan, dan dalam persekitaran mana?”. Ia bukanlah pilihan antara menyerahkan segala-galanya kepada awan atau membuat segala-galanya secara dalaman. Pendekatan hibrid yang memilih persekitaran optimum mengikut ciri operasi adalah jawapan yang realistik.
Kos dan Halangan Spesifik Pelaksanaan AI On-Premise
Jadi, berapakah kos dan keupayaan teknikal yang diperlukan untuk membina dan melaksanakan sistem AI generatif on-premise sendiri? Ini adalah isu praktikal yang membimbangkan ramai pengurus.
Pertama, kos perkakasan akan timbul. Untuk menjalankan model AI generatif terkini dengan selesa, pelayan dengan GPU berprestasi tinggi diperlukan. Sebagai contoh, jika satu unit NVIDIA A100 atau H100 diperkenalkan, pelaburan awal boleh mencecah berjuta-juta yen. Walau bagaimanapun, jika operasi yang diproses adalah terhad kepada penjanaan dokumen rutin tertentu seperti “penyediaan dokumen perbicaraan”, penggunaan model yang lebih kecil atau GPU dengan prestasi yang dikurangkan juga mungkin. Ini juga menawarkan pilihan untuk mengekang pelaburan awal kepada sekitar ratusan ribu yen.
Seterusnya, kos perisian dan operasi. Kerja memuat turun model AI generatif sumber terbuka (seperti Llama 3 atau Mistral) ke pelayan syarikat sendiri dan menyesuaikannya (fine-tuning) untuk operasi syarikat diperlukan. Proses ini memerlukan kepakaran jurutera AI atau mereka yang mempunyai pengetahuan MLOps. Jika tidak mempunyai sumber manusia dalaman, penyumberan luar kepada sistem integrator adalah biasa, dan kos pembangunannya juga boleh mencecah berjuta-juta yen.
Walau bagaimanapun, terdapat tanda perubahan besar di sini. Evolusi AI penjanaan kod (Claude Code, GitHub Copilot) telah menurunkan halangan pembinaan dan penyelenggaraan sistem AI itu sendiri. Era di mana pekerja dengan literasi IT tertentu boleh menggunakan alat ini untuk mencipta rangka kerja sistem, walaupun tanpa jurutera full-stack dalam syarikat, telah tiba. Ini bermakna PKS juga boleh mempertimbangkan AI on-premise sebagai pilihan yang realistik.
Model Baru yang Dibuka oleh “KreAI Bersama” Pentadbiran dan Syarikat
Satu lagi berita ialah SDT K.K. dari Bandar Fujisawa telah menandatangani perjanjian kerjasama dengan Bandar Namerikawa, Wilayah Toyama mengenai penggunaan AI generatif. Ini menunjukkan bentuk baru “KreAI Bersama”. Ia adalah model yang menggabungkan isu pentadbiran yang dihadapi oleh pihak berkuasa tempatan dengan kepakaran AI yang dimiliki oleh syarikat teknologi.
Apa yang menarik tentang kerjasama ini ialah mereka saling melengkapi sumber yang tidak dimiliki oleh pihak lain. Pihak berkuasa tempatan mempunyai misi yang jelas untuk meningkatkan perkhidmatan penduduk, serta bajet dan data (selepas dianonimkan) untuk tujuan itu. Sebaliknya, syarikat teknologi mempunyai keupayaan teknikal untuk melaksanakan AI dan ketangkasan untuk membangunkan produk dengan pantas.
Model kreAI “Pentadbiran x Syarikat” ini juga boleh digunakan untuk kerjasama antara syarikat swasta. Sebagai contoh, PKS yang kekurangan kepakaran membina AI on-premise sendiri boleh bekerjasama dengan syarikat IT tempatan. Syarikat menyediakan pengetahuan operasi dan data, manakala syarikat IT bertanggungjawab untuk pelaksanaan teknikal. Ini membuka jalan untuk mendapatkan penyelesaian AI yang selamat tanpa perlu menyediakan pelaburan awal yang besar atau tenaga kerja pakar secara sendiri.
Langkah Praktikal: Bagaimana untuk Mempertimbangkan “AI On-Premise” dalam Syarikat Anda
Kami mencadangkan empat langkah praktikal untuk pengurus atau CTO yang serius mempertimbangkan pelaksanaan AI on-premise dalam operasi syarikat mereka.
Langkah 1: Pemetaan “Kerahsiaan” dan “Kadar Rutin” Operasi
Pertama, nilai semua operasi berdasarkan dua paksi: “tahap kerahsiaan” dan “tahap kerutinan”. Operasi dengan kerahsiaan tinggi (maklumat peribadi pelanggan, data kewangan, harta intelek, dll.) dan juga kadar rutin yang tinggi (boleh dimanualkan, format dokumen ditetapkan) adalah calon keutamaan tertinggi untuk AI on-premise. “Penyediaan dokumen perbicaraan” View Card termasuk dalam kuadran ini. Sebaliknya, operasi dengan kerahsiaan rendah tetapi kadar rutin tinggi (penyediaan manual dalaman, draf laporan dalaman) menjadikan penggunaan AI berasaskan awan sebagai pilihan pertama.
Langkah 2: Mulakan dengan PoC (Pembuktian Konsep) Berskala Kecil
Berbahaya untuk melabur sejumlah besar wang sekaligus. Pertama, pilih tugas yang paling kecil dan mudah diukur hasilnya daripada calon operasi. Sebagai contoh, “penjanaan automatik notis berdasarkan klausa kontrak tertentu”. Untuk tugas ini, cuba jalankan model AI sumber terbuka yang ringan pada PC berprestasi tinggi atau pelayan ujian dalaman. Kaedah membina persekitaran peribadi maya dengan perkhidmatan awan (menggunakan AWS PrivateLink, Azure Private Endpoint) dan menjalankan PoC juga merupakan pilihan yang kos efektif. Pada peringkat ini, ukur ketepatan, kelajuan, dan yang paling penting, “kesediaan penerimaan dalaman”.
Langkah 3: Tentukan Keseimbangan antara Pembuatan Dalaman dan Penyumberan Luar
Jika PoC berjaya, tentukan kaedah pelaksanaan sebenar. Nilai sama ada syarikat anda mempunyai sumber berikut.
- Pakar Infrastruktur: Sumber manusia yang boleh menguruskan pelayan dan menetapkan rangkaian
- Pelaksana AI: Sumber manusia yang boleh memuat turun dan menyesuaikan model AI sumber terbuka
- Pakar Pengetahuan Domain Operasi: Sumber manusia yang memahami dengan mendalam operasi yang hendak diautomasikan
Jika semua ini tersedia, terdapat laluan untuk pembuatan dalaman. Jika tidak, penyumberan luar kepada sistem integrator, atau mencari model kerjasama tempatan jenis “Pentadbiran x Syarikat” seperti yang dinyatakan sebelum ini adalah realistik. Jika penilaian ini salah, walaupun sistem siap, ia tidak akan disesuaikan dengan operasi dan akhirnya tidak digunakan, menyebabkan “AI tersimpan mati”.
Langkah 4: Bina Kerangka Keselamatan dan Tadbir Urus Terlebih Dahulu
Selari dengan pertimbangan teknikal, reka bentuk tadbir urus adalah yang paling penting. Walaupun on-premise, tanggungjawab untuk dokumen yang dihasilkan oleh AI akhirnya terletak pada manusia. Sekurang-kurangnya peraturan berikut perlu dirangka.
- Aliran Kerja Semakan Manusia: Pihak yang bertanggungjawab dan proses untuk pengesahan akhir dan kelulusan output AI
- Sistem Pengurusan Log Penggunaan: Rekod lengkap tentang siapa, bila, dengan input apa, dan output apa yang diperoleh
- Polisi Kemaskini Model: Kekerapan dan prosedur untuk latihan semula model AI untuk mematuhi undang-undang baru atau peraturan dalaman
Jika teknologi mendahului dan tadbir urus mengekor, anda akan menanggung risiko yang besar.
Awan, atau On-Premise. Jawapannya Terletak dalam Operasi
Kes View Card menunjukkan bahawa penggunaan AI generatif mempunyai masa depan yang pelbagai dan bukan “hanya tertumpu kepada awan”. Pembebasan daripada pergantungan SaaS yang menyerahkan segala-galanya kepada perkhidmatan luar. Ia mencerminkan sikap pengurusan untuk mengembangkan data teras dan proses operasi syarikat sendiri di bawah kawalan sendiri.
Walau bagaimanapun, on-premise bukanlah jawapan untuk segala-galanya. Untuk operasi yang memerlukan kelajuan dan fleksibiliti, kelebihan AI berasaskan awan adalah mengatasi. Yang penting ialah menganalisis operasi syarikat anda dengan mendalam dan mengenal pasti “di mana terdapat ruang untuk automasi yang selamat”.
AI bukan lagi teknologi pada peringkat eksperimen. Kini apabila institusi kewangan mula menggunakannya secara praktikal dalam operasi teras seperti pengurusan hutang, tiba masanya untuk pengurus semua jenis industri melihat “operasi rutin yang sulit” syarikat mereka sendiri. Langkah pertama itu bermula bukan dengan perdebatan teknikal tentang awan atau on-premise, tetapi dengan soalan pengurusan: “Operasi manakah yang menjadi harta syarikat kami?”.
コメント