台灣迷失的雲端運算產業

作者： -

或許是在政府急著救一落千丈的民調支持度壓力之下，最近突然出現了很多雲端產業相關的新聞...

北市雲端園區 年產值估千億元 (http://tw.news.yahoo.com/%E5%8C%97%E5%B8%82%E9%9B%B2%E7%AB%AF%E5%9C%92%E5%8D%80-%E5%B9%B4%E7%94%A2%E5%80%BC%E4%BC%B0%E5%8D%83%E5%84%84%E5%85%83-213000708.html)
首片政府雲 中華電奪標 (http://pro.udnjob.com/mag2/it/storypage.jsp?f_ART_ID=80116)

還有立委開始爭取雲端園區位置...
http://www.abao.org.tw/web/index.php/pv-cloud

說真的，在賴士葆提出不像樣的證所稅之前，我還蠻支持他的，另外我以前念中學的時候就在木柵，我很喜歡文山區，但...在文山區催生一個雲端科技園區是個...什麼樣詭譎的想法啊?

誰能跟這些立委說明一下，雲端產業不需要科技園區(下面有一篇，我就不多說了)(參考https://www.facebook.com/notes/ben-jai/%E6%94%BF%E5%BA%9C%E4%B8%8D%E6%87%89%E8%A9%B2%E8%A8%AD%E7%BD%AE%E9%9B%B2%E7%AB%AF%E7%94%A2%E6%A5%AD%E5%9C%92%E5%8D%80/10151185269654113)

另外上述的兩則新聞中，先不提台北市也想做雲端園區，郝市長說：『市府設置Taipei-Free免費無線上網、積極鋪設光纖網路等，北市還聚集金融服務業、資通訊等知識密集產業，還有許多企業設立營運總部及研發中心，最重要的是"硬體人才"充沛，可提供雲端產業所需人才。 』這整個搞錯了，你只看到雲端運算的硬體需求，沒發現其實雲端的核心在軟體應用嗎???

我已經在各種場合或課程中說了不下數十次，台灣要發展IaaS我當然沒資格攔阻(雖然我打從心底覺得機會不高，你要幹掉現在市場上哪一家IaaS/PaaS廠商? IBM? Amazon? MS? Google? 政府的目標是要設定成要讓大家來用搭建在台灣的IaaS/PaaS嗎??? 不管怎麼看都是個不切實際的夢)

而台灣那麼多的中小企業軟體公司，卻沒有任何輔導這些軟體公司成為"全球化SaaS廠商"的計畫? 雲端是全球化的競爭，沒有關稅機制可以擋，不需要WTO/FTA，SaaS產品早就在全球開始競爭了，雲端不是自己在台灣喊喊開心就可以的。台灣的軟體公司不缺乏創意或能力，但缺乏將產品或Solutions國際化的能力...這部分才是政府要施力的地方，雲端產業絕對不是蓋機房、框地搞園區、這樣是不會成的...

從這幾則新聞看起來，台灣政府(不知道被哪一個廠商洗腦)成似乎想要發展自己的IaaS/PaaS，好，這也很好，但能不能先看一下目前國外做的產品已經在哪一個水平，不然政府把幾百億金額丟中華電信和台達電，就算我不在乎這是我的納稅錢，就算我不在乎怎麼把錢這樣亂分配，到頭來，台灣廠商交了白卷，是誰要負責呢??? 是誰要承擔呢?

上述這些新聞中的財源，如果我沒記錯，都是來自一個五年四百億的預算...

簡單的說，就是台灣政府想要引導靠政府吃飯的軟體廠商來撐住用台灣納稅人花錢幫中華電信和台達電做出來的雲端IaaS與PaaS，好，如果中華電信和台達電做出來的雲好過Microsoft, 好過AWS, 好過GAE, 強過CISCO, 強過IBM...那我幹嘛不用呢???

反過來講，如果台灣自己搞得IaaS/PaaS很爛，那靠台灣軟體廠商來撐也撐不住的...老大哥...沒有人跟你說過雲端Solutions要做就要全球化嗎? 你必須要做到全球前三名，才有機會在市場上存活，要做PaaS就要有本事把Azure, AWS, GAE幹掉啊...

不然我從哪個角度來看，這些案子都只是在分錢而已...

反而台灣為數相當多的軟體開發中小企業、小型軟體或專案開發廠商、App開發商，SaaS(Software as a Services)軟體研發商，由於根本沒有參加分錢會議的機會，所以政府彷彿以為這些廠商都不存在一樣，別忘了除了IaaS/PaaS之外，台灣其實有不少的創意團隊、軟體研發人才，是可以好好發展SaaS產品的，你看這個 http://cacoo.com 雲端繪圖產品，就是出自一間15個員工的小軟體公司，透過multi-language的設計與雲端技術加持，全球都可以使用這個由日本這家小公司所開發雲端SaaS服務!!!

台灣想要發展雲端產業，不管是PaaS/IaaS或SaaS，在那個領域就得要做到全球前三名，這確實有一定的難度，台灣廠商(不過就是中華電信、台達電、鴻海、華碩之類的廠商)想要去拚在IaaS/PaaS領域的這一塊紅海，我沒意見，只是政府就真的要傻傻的補助和支持這麼多錢嗎? 那一片藍海的SaaS產業，怎麼不見政府投入資源鼓勵廠商呢? 不僅如此，從上面的新聞中看起來，現在吃政府發包出來的專案飯的SI或軟體公司，將來還得被迫使用中華電信、台達電拿台灣納稅人補助的錢建構出(我個人預期)不太有競爭力和優勢的半調子PaaS產品，這無疑是本末倒置!

政府不需要把錢到處撒，補助SaaS軟體廠商也不是分錢，而是透過類似資策會或其他的機構，輔導這些SaaS軟體廠商所開發出的軟體產品國際化，因為誰都知道台灣的內需太小，不足以支撐雲端SaaS/PaaS/IaaS任何一個產業，台灣的雲端(包含App)要能外銷，要能國際化，要能賺外國人的錢，台灣軟體與雲端產業才有生存的空間。

而台灣軟體人才充沛、功力也不差，根本不需要政府補助在這類硬體或技術上，SaaS產業需要政府幫忙的是國際軟體行銷、國外貿易、稅法、金流、國際法律與國外代理...等這些在傳統台灣軟體業不熟悉的領域。所以不需要分錢(補助)給SaaS，不需要搞雲端園區，不需要自己弄PaaS/IaaS給我們用(現在國外的公有雲大家已經用的開心，台灣自己搞的PaaS再等他發展三年能不能有一樣的水平我都覺得很難說)。

我以前老闆說過一個故事：他有天很忙碌，行程很趕，要立刻去一個會議地點，本來的司機請假，因此他只好急急忙忙衝下樓叫了計程車，上車就說：『快，開快點!!!』過了一兩個路口，他才想起來這不是他平常的公司車司機，而他也根本沒跟計程車司機說要去哪裡，所以疑惑的開口問：你知道我要去哪嗎? 計程車司機說：『我不知道，也不是很在乎，我只負責計程收費，不過我的確照你吩咐的開得很快了，是吧~』

我可以理解政府現在民調低落，有很大的壓力，但你要去一個地點，只是車開得快還不行，你一開始就得要走正確的路線，否則不僅僅將來可能繞路，漫無目的的耗油狂奔，短期是讓計程車司機賺到錢沒錯(想降低失業率? 還是砸錢刺激帶動產業?)，但是這樣做對我們國家整體的目標與方向一點意義都沒有。

而且，沒有方向的開快車在路上亂跑，早晚是會出車禍的。



分享

留言

JT_taipei表示…
台灣要在雲端裡面能賺到錢是有些困難 而你在文章中所題的 "資策會" 坦白說 這個機構20幾年來 軟體廠商不瞧它的不多.... 再讓它去分配錢 不見得是所有人樂見的....


一項政策的實施 從開始到最終 沿途都有要撈錢的人 真正能到要輔助的對象的錢有多少 始終是個問號 ?
2012年12月22日 下午1:53
David寫道…
@JT_taipei,

重點不在哪一個單位，資策會裡面也有我的好朋友和努力的工作人員，但他們所在的位置並沒有辦法影響上面的人的決策。

也因此，如果您也同意，政府不應該這樣分錢，請盡可能把這樣的訊息傳遞出去，因為台灣政府持續這樣做下去，對台灣的軟體產業和雲端運算發展都沒有好處...
2012年12月22日 下午2:00
陳傳興寫道…
老師，小弟不才，提供一個小小的建議。

要不要花一點點時間，為你的Blog加上"分享"功能，網路上有很多免費資源，例如，AddThis…，像AddThis都有教學，幾個簡單的步驟，就可以為blogger所有文章加上多目標分享的功能。

這讓我們想分享你文章的人，很有幫忙，對於你想把"訊息傳遞出去"也更直接更快。
2012年12月22日 下午2:13
David寫道…
@傳興,

好建議，我加FB Share先...
2012年12月22日 下午2:36
wa114040@gmail.com寫道…
其實套上炒房兩個字你就知道政府心裡在想什麼了
2013年5月9日 上午10:37
張貼留言

這個網誌中的熱門文章

使用LM Studio輕鬆在本地端以API呼叫大語言模型(LLM)

作者： -
圖片
最近上課常被問到，如何在地端環境搭建出大語言模型(LLM)，並且呼叫其API。 一開始我不太理解為何會有這樣的需求(因為在地端自行搭建運行LLM的成本不一定比較低，即便可能比較安全)，但被問多了，也就開始遍尋相關的解決方案，看看有沒有什麼最簡單的方式，可以讓開發人員在地端測試大語言模型? 後來我選擇 LM Studio ，它就是一款設計來運行大型語言模型（LLM）的平台，有個算是挺優雅的整合環境，讓一般 end-user 或開發人員，都可以輕易地在 local 端進行模型的部署和測試。 LM Studio 本身支援多種模型架構和框架，當然，最重要的是，它是免費的。 下載安裝 都很容易，我就不多說。 安裝好之後，你可以看到首頁中已經呈現了許多 Hugging Face上的模型： 這顯然是因為Hugging Face是大部分免費開源模型的集散地。 你可以搜尋自己喜歡的模型，透過LM Studio下載到local之後，就可以直接載入(下圖一)： 隨手設定一下 system prompt(上圖二)，然後，就可以直接對談了。(上圖三) LM Studio會使用你的GPU進行運算(如果有的話)，你會發現，原來有好的設備(GPU)，運行的速度可以如此之快。 Local Server 對於開發人員來說，它還有個超級更友善的功能。 LM Studio本身還提供一個 local server，可以幫你把模型包裹起來讓你直接透過API呼叫該模型的功能，例如： 上圖是我們開啟 LM Studio中 Local Server功能後的結果，你可以透過 localhost 的 1234 port 來呼叫這個被 LM Studio 運行起來的大語言模型。(有沒有發現，我們用的也是 chat/completions API) 透過Postman簡單提供一下 JSON Body: { "model": "LM Studio Community/Meta-Llama-3-8B-Instruct-GGUF", "messages": [ { "role": "system", "content": "你是AI助理，請一律用繁體中...
Read more »

VS Code的字體大小

作者： -
圖片
身為.net developer，這年頭是什麼code都得要會寫的年代。 而雖然我的NB還沒從Windows淪陷為Mac OS，但寫Node.js和Python免不了要用VS Code，這是一種愛的表現。 但歲月不饒人，盡管微臣非常熱於配合，但VS Code預設字體的大小在我還沒錢買大尺寸螢幕的狀況下，實在讓老臣難以適應。當下的第一個反應是什麼? 當然是 Ctrl+滑鼠滾輪往上推…哇靠，沒用。看…這設計…恩，千錯萬錯一定是我的錯。 只好從選單 file –> Preferences –> Settings: 在出來的視窗中，你可以看到 editor.fontsize: 沒錯，改它就行了。改不動? 喔，不好意思，我沒仔細看說明，要copy到右邊是吧，沒問題，copy->paste->modify->Save…搞定。 好簡單啊…連ctrl+(mouse scroll up)都用不到了呢… 咦?這是一篇抱怨文嗎? 沒有，誰說的? 免費的tool我們還有什麼好抱怨的呢…要感恩啦。 啊….對了，如果你還是堅持要使用 Ctrl+滑鼠滾輪，請找關鍵字… "editor.mouseWheelZoom"
Read more »

使用 Dify 建立企業請假機器人

作者： -
圖片
八卦與未來 上個月，前Google執行長Eric Schmidt在史丹福有場演講，媒體關注的是八卦消息(如果你也曾關注，網路上有很多鐵定可以找到)，但我注意到的則是他提到了自己認為接下來 AI(特別是大語言模型) 可能的發展方向，包含: Large Context Window AI Agent Text-to-Action 底下這邊有這一個段落的影片： https://www.youtube.com/watch?v=zl3k1ksFZdY 為何我會關注這部分? 因為上述的三個方向，也是身為開發人員的我，過去這一年，來與LLM打交道後的感想。昨天，我在 twMVC 的研討會分享中，展示了一個其實我過去早做過了N百次的範例，就是企業的請假機器人。(唯一不同的是，這次我幾乎沒有寫任何程式碼) 場景是，員工在家裡生病了，想要透過語音或是app進行請假，你可以看底下這個運行的範例 (git圖檔會循環播放，開始是 『我好像感冒了』)： 用自然語言對談的方式，即可完成請假。 我說過，類似這樣的範例我做過很多次，用 LINE Bot 搭配 C# 做過，用MS Bot Framework 做過，前陣子也用 Semantic Kernel 框架做過，更早期，還沒有AI的時代，我也在EIP和HR系統裡做過。 但我想說的是，這 就是 Text-to-Action 的呈現，也是一個典型的 AI Agent 的例子，它讓我們透過自然語言(可以是語音或文字)，直接命令機器人(Chat Bot、AI 助理、Agent、Assistant …不管你叫它什麼…)幫你完成一件事情(請假、售票、查詢資料、做財務報表、統計圖表、寫程式…etc.)。 這是一直以來人類對電腦最底層的需求與期待。 隨著 LLM 能夠處理和記憶的 Context 愈來愈被放大，AI Agent 所能夠處理的任務就更加的不受限制。 自然語言才是最符合人類直覺的操作 順帶一提，我昨天在研討會中講了一個故事。 有天，你覺得自己需要聘請一位助理，因此上網張貼徵人啟事，沒多久，你找到了一位號稱上知天文、下知地理的高材生，來幫助你更有效率的完成工作。 他什麼都好，唯一的一個小缺點是，你不能直接對這個助理下達指令，你必須用一種只有這個助理看得懂的語法，才能要求這個助理幫你完成特定的工作。這些語法還挺...
Read more »

使用 Dify API 快速建立一個包含前後文記憶的對談機器人

作者： -
圖片
Dify 這個產品我就暫時先不介紹了，它找到了一個挺好的切入點跨入AI Agent市場。讓不喜歡(或不擅長)寫太多 Code 的開發人員，也可以快速的建立一個具有前後文、記憶的對談機器人。 其實若單就設計 Chat Bot 來談，它本質上和 GPTs 有那麼一點點像，你只需要給一個 system prompt ，再加上一點點的資料上傳做為 RAG 的數據來源，就可以生出一隻有模有樣的對談機器人。 但 GPTs 做出來的 Chat Bot 被綁在 ChatGPT 的 UI 裡面，你不容易把它跟 LINE Bot (LINE 官方帳號) 或其它 UI (例如 MS Teams) 串在一起，而 Dify 呢? 則給你了一個 chat-messages API，讓你能很快的實現這個功能，把你在 Dify 平台上做好的 Chat Bot 轉變成可以正式運行的 LINE Bot 或 其它 Bot。 這也是今天我們要介紹的部分。 建立 Assistant 我們先用 Dify 以底下這個 system prompt 建立了一個請假助理： 發佈後，你可以在Dify 內建的 Web UI 上測試： 你會發現，這個 chat bot 已經有著基本的記憶，然後可以依照 system prompt 完成對談和任務。 不要問我在這邊建立出一個假單有什麼用，正常情況下是要直接讓 chat bot 寫入資料庫(例如 HR 系統，直接完成請假)，只是我們還沒談到這一段，這部分以後再展開來談。 chat-messages API 好，透過上面那樣建立一個對談機器人超容易，且內建就有了記憶和前後文的功能。讓開發人員快樂的不得了。跟使用無腦 GPTs 生成術差不多。然而，如果只能在 Web 上用，不能串接 MS Teams、LINE…等介面，做了也是白搭。 但，Dify 貼心的提供了 API，我們來試試看。先Gen個 API Key： 生成了 API key 之後，你只需要透過底下這樣的 rest api，即可進行呼叫： 你會發現，開發人員只要使用單一的這一個 https://api.dify.ai/v1/chat-messages API 即可進行對談。每次只需要透過 query 輸入用戶說的話，response 中的 answer 則是 LLM (Assist...
Read more »

使用 Dify 串接 LINE Bot

作者： -
圖片
一開始寫這篇文章的時候，我有點困擾。 到底這一篇我到底該命名 『使用 Dify 串接 LINE Bot』 ，還是 『使用 LINE Bot 串接 Dify』?? 但我想，反正你應該知道我的意思，本文就是討論如何把兩者串在一起。 如果不熟悉 Dify ，本篇文章的前面還有兩邊文章你可以簡單的介紹了一下，所有連結位置在底下: https://studyhost.blogspot.com/search?q=dify 總的來說(我20年前就這麼說話了，最近有人說AI很喜歡說『總的來說』，但顯然是AI學我的)，我們可以在 Dify 裡面設計一個類似底下這樣的 workflow，他可以是一個簡單的對談聊天機器人，也可以是串接到後端HR請假系統，可以協助企業進行請假的 AI 助理： 顯而易見，使用 Dify 的好處很多。而在這邊它對我們來說，意義上是一個所視即所得的 Chat Bot(AI助理)設計平台，你可以在 Dify 中先把對談流程設定好，並且進行測試。 設計初步完善之後，我們可以透過Dify API來進行串接，例如串接到 Teams Bot或是LINE Bot。API的部分我們之前在 這一篇 介紹過。 由於Dify內建處理了對談前後文與記憶的部分，並且可以直接串接OpenAI的API(或是其它LLM亦可，同時也便於抽換)，這讓我們開發 AI 助理輕省不少。 這也是我覺得 Dify 作為一個 LLMOps 開發平台(Platform)應該算是當之無愧的原因了。 串接到 LINE Bot 那在Dify上開發測試完之後，我們當然希望能夠整合在 LINE Bot(或是隨便其它什麼 Bot)上面。前面說過，由於 Dify 有提供一組API，我們可以透過該API輕易地進行串接，API的部分，我們在先前 這一篇 介紹過。因此，我們底下要更進一步，談談如何實際跟 LINE Bot 整合在一起。 其實架構上不複雜，我們只需要建立一個 LINE Bot 的 WebHook ，並且在其中呼叫 Dify API即可： 也就是上圖中，紅色虛線框起來的這一段。 這部分該如何進行呢? 倒也容易，我們看底下 WebHook 的部分： var responseMsg = "" ; //準備回覆訊息 if ( LineEvent != n...
Read more »