AI應用落地的第一條問題:用雲端AI還是本地AI?

article banner

致點科技創辦人作為香港電腦學會(HKCS)專業會員,最近參與了由HKCS舉辦的《Retail Tech Industry Group Seminar – Unlocking AI with Proven Use Cases》線下專題研討會。

研討會探討的主題對於中小企而言極具吸引力:透過應用AI技術,可以在不增加人手的情況下大幅提高營運效率。

致點科技創辦人過去曾擔任大型集團企業的IT總監,對於如何運用資訊科技提升營運效率早已駕輕就熟,深信企業若能恰當地應用AI技術,將比傳統IT方案帶來更顯著的效率提升。

然而,考慮問題必須多角度切入。對於中小企來說,首要考量始終是——

成本效益。

如果投資的成本無法與回報成正比,那麼所謂AI落地、數碼轉型,也只是空談。

因此,在收益增長尚未明確的情況下,如何有效控制應用AI的相關成本,使企業既能跟上數碼化步伐,又不會因過度投入而成為犧牲者,無疑是企業主在決策時的一大掙扎點。

本地部署AI需要購置AI一體機,費用約為數萬至十數萬港元不等。但更重要的是,必須具備合適的環境來安裝及穩定運作這些設備。在香港這個地少人多的城市,這一點往往比設備本身更具挑戰性。不過,所耗電力成本則相對較低。

至於雲端AI方面,收費是以「token」為單位計算。由於這是個專業術語,而且不同的語言、措辭,甚至句子結構與語氣詞都會影響token的消耗量,致點科技建議以每個中文字對應1個token的方式來估算整體支出。

對於一般用途,即不涉及複雜計算或深度分析的場景,雲端AI的成本其實相當低廉。舉例來說,處理一百萬個中文字的成本僅約港幣35元,大概只是一頓兩餸飯的價格而已。

當然,有企業主可能會問:一百萬個中文字聽起來很多,但實際上到底能用多久?

這個問題的答案,取決於AI的具體應用場景。如果是應用於企業內部流程優化,且屬於非文字密集型業務,根據致點科技的經驗,每單交易平均會產生約五千字的記錄,一百萬字便可支援約200單交易。

這樣看來,選擇雲端AI明顯更具成本效益。

但如果屬於文字密集型業務,根據致點科技觀察,每單交易平均可產生逾二萬字的資料,是前者的四倍以上。同樣的一百萬字,便只能支援約50單交易。所幸此類業務通常收費較高,成本亦較易被覆蓋。

綜合上述計算,加上本地部署所面對的種種限制,香港中小企在推動AI落地時,首選方案仍是採用雲端AI服務。

然而,AI應用不僅是成本效益的考量,實際上還需投入不少隱形資源,例如流程自動化的重新設計、現有系統的整合與改動等。而更多企業主往往忽略的,卻是致點科技將於下一篇深入探討的重點:

數據合規與私隱保障問題。

* 文章配圖為致點科技自行拍攝。