LINE Developer Day 2019 現場筆記 (三) – LINE Bot 與 DevOps

作者： -

前面提過，LINE是一家非常熱愛Open Source的公司，諸多的solutions中，十有八九是藉由純Open Source技術來實現的，你很少很少很少看到其他軟體大廠的服務在LINE出現。也因此，當我在議程表當中，看到有Microsoft相關的場次時，不由得眼睛一亮，身為MVP，說什麼我也得前往瞧瞧…

議程表當中，共有兩個與Azure有關的場次，一場是由Kenichiro Nakamura分享的How to optimize bot development lifecycle with DevOps(這場非常有意思，我待會說)，另一場則是Ayako Omori的Developing chatbot with Cloud 101 for LINE account auto-reply，兩場都是純日文演說，我也都硬著頭皮參加了。

Bot Framework

Ayako Omoris那一場是少數沒有英文即時翻譯的日文演說，導致我基本上是完全聽不懂講者在說什麼，不過，我卻大致可以掌握整場的內容。很矛盾? 一點也不。

因為內容是我非常熟悉的Azure Cognitive Services與Bot Framework，我發現技術語言是跨國籍的，我雖然完全聽不懂講者的日文，但只看Demo和操作，基本能夠掌握八成左右(所以如果讀者想去國外工作，大可不用過度擔心語文的問題)，講者除了大致完整的介紹了MS Bot Framework與LINE Bot如何整合，還有如何使用LUIS和QnA Maker服務，這些過去我在書籍和線上課程中大致也都有介紹，講者能在幾十分鐘的時間內把這些內容都塞進去，也算是不容易了。

除此之外，她也提到了MS最近釋出的BotFramework-Composer(這就是個新玩意了)：

Bot Framework Composer是一套open source的Chat Bot設計工具，可以讓你用視覺化的方式來建立Chat Bot。除了支援上圖這樣的所視及所得對談設計界面，也支援LUIS和QnA Maker，讓設計人員可以自由的使用這些雲端服務並整合在Bot當中，雖然目前還只是預覽版本，但未來頗值得期待。我知道台灣坊間也不乏這樣的工具，但掛著微軟的招牌，加上又是open source，背後有MS Bot Framework撐腰，又有自然語言語意分析加持，其前景很讓人看好。

開發Chat Bot的DevOps自動化

另一個與微軟有關的場次是由Kenichiro Nakamura介紹的How to optimize bot development lifecycle with DevOps，講者是MS的開發人員，同時也是LAE：

主題的內容是開發Bot時的DevOps。

開發Chat Bot也需要DevOps? 當然，在這個時代不管開發麼甚麼，都需要DevOps，Chat Bot當然也是。講者談到了Chat Bot的開發其實更需要DevOps，特別是我們常常有正式、測試環境、為了讓LINE Bot的開發與測試更順暢，一般來說，我們在開發一個LINE Bot時，會特別建立2-3個LINE Bot Account，分別將其設定成Dev/UAT/Production環境。

而Azure WebApp的好處就在這邊體現了，我們可以透過WebApp的Slot機制來做不同的環境佈署。當我們建立了WebApp後，對該WebApp分別建立額外的Dev or UAT Slot，然後針對不同的Slot配置環境參數：

其實這個做法，基本我們在Azure Web App上幾乎是天天上演，算的上是開發Chat Bot的best practice了。然後，再搭配Azure DevOps，來實現自動化CI/CD:

只要在MS的世界中談到DevOps，那毫無懸念的就是採用Azure DevOps，然後LINE Bot的開發可以採用WebApp(不管是Linux based或是Windows based)，以Slot切分出Dev/UAT/Production環境，搭配Azure DevOps的Release Management自動化佈署與簽核功能，在開發人員有任何修改後，自動上版到Dev/UAT環境，待UAT環境的測試人員確認無誤後，可以在portal上按下Approve鈕(上圖右)，就繼續自動上版到Production環境。

這個在MS世界中幾乎算是理所當然、生來就有的流程，在Open Source世界多少還是需要一些環境上的配置，但Azure雲端服務搭配Azure DevOps，基本可以近乎自動的實現上面所有的流程。

有趣的Bot

對我來說，前面介紹的那些不算是特別新鮮的內容，但這位講者一上場，立即就吸引了我的目光…原因是，他帶來了一隻非常有意思的Bot。

開場的第一張投影片，他先請大家掃QR Code加一隻LINE Bot為好友，這隻Bot可以幹嘛呢? 它可以索取當前的投影片：

這是一隻有著Rich Menu的LINE Bot，按下該LINE Bot的Rich Menu，就可以下載講者當前螢幕上撥放的投影片!!!

這有意思，這樣大家就不用拍照了啊~

這對講師超級有用的!

為甚麼呢? 每次我在上課，總是會看到許多學員在底下拍照，可能是覺得某一張投影片相當精彩，所以想要拍照存證留念，但我自己也會坐在底下當學員，這樣拍照出來的品質我清楚的很，有時候實在慘不忍睹。

而且，不是每一個講者都會在會後立即釋出投影片，特別是我，我上課的投影片常常是幾百張裡面的幾十張。因為我會把同樣的主題放在一個.pptx檔案裡面，然後看不同的課程就挑其中一小段來講。因此，我不是很方便把整份投影片都給學員。

但學員常常需要做筆記或是從投影片上摘錄重要的資訊啊，怎麼辦呢? 這就是你常常看到學員在底下拍照的原因了。

現在有了這支Bot超讚的啊。

你只要在台下打開手機，眼睛盯著台上的螢幕，喜歡哪一張投影片，就立即在手機上按一下，那一張投影片就會自動下載到你的手機裡，超完美的啊。我看到這支Bot之後立刻被吸引，第一時間就給他安裝了起來，不過…

開場前10分鐘還可以用…後來似乎就…掛了。

發生了什麼事情嗎? 當下我不知道，但不管如何，這個Bot太讓人驚艷了，我立刻下定決心，我回台北之後要自己做一個出來玩。

發生了什麼?

後來，我跟講者聯繫上，請教了他是怎麼實現這個Bot的。他告訴我，基本上是採用了MS Office的VSTO開發技術，透過設計一個外掛(Add-Ins)，在PowerPoint的 “下一頁” Event上，做一些動作，把當前的投影片位置提供給Bot的WebAPI(底下是講者blog上的介紹):

而到底當下究竟發生了什麼? 導致現場Bot有問題的呢? 這個故事你可以看底下講者的Blog，有現場報導般的說明:

在LINE Developer Day 2019通過LINE bot分發PowerPoint幻燈片的故事

你會發現，這個故事的主角不僅僅是這支Bot，還包含了講者開發這支Bot的過程，以及他如何使用Azure DevOps做開發的版控與rollback，是個非常精彩的故事。

這整個故事讓這場研討會變的很有意思，講者用自身的LINE Bot開發DevOps經驗，來講在開發LINE Bot時候DevOps扮演了如何重要的角色。不只是過程吸引人，產出的Bot也非常吸引人…

後記

從看到那隻Bot的那一天開始，一直到我回台灣，我始終對那隻LINE Bot念念不忘。終於，我找了一個周末的下午，在自己的環境重新開發了一隻類似的Bot，我改變了做法，在PowerPoint的VSTO當中，Hook 投影片播放的下一頁事件，在該事件發生時，再抓取當前的投影片，然後以非同步的方式上傳到Imgur圖床，並且把該位置丟給LINE Bot的WebAPI。

此時，只要有任何用戶按下Rich Menu上抓取當前投影片的按鈕，LINE Bot就會將該圖片下載到用戶手機上，完成當前投影片下載的任務…

哈，非常完美，下一次，換我帶給學員surprise～

LINE Developer Day 2019 現場筆記 (一) - 看見LINE、開發者、未來
LINE Developer Day 2019 現場筆記 (二) - 關於LIFF的改變與未來

留言

Eng Soon Cheah寫道…
在Microsoft Ignite 就有 BotFramework-Composer(Preview) Release Workshop 了。
2019年12月3日 下午5:09
Unknown寫道…
Cool 最後的Bot有創意，果然科技始終來自需求~
2019年12月3日 晚上11:00
張貼留言

這個網誌中的熱門文章

使用LM Studio輕鬆在本地端以API呼叫大語言模型(LLM)

作者： -
圖片
最近上課常被問到，如何在地端環境搭建出大語言模型(LLM)，並且呼叫其API。 一開始我不太理解為何會有這樣的需求(因為在地端自行搭建運行LLM的成本不一定比較低，即便可能比較安全)，但被問多了，也就開始遍尋相關的解決方案，看看有沒有什麼最簡單的方式，可以讓開發人員在地端測試大語言模型? 後來我選擇 LM Studio ，它就是一款設計來運行大型語言模型（LLM）的平台，有個算是挺優雅的整合環境，讓一般 end-user 或開發人員，都可以輕易地在 local 端進行模型的部署和測試。 LM Studio 本身支援多種模型架構和框架，當然，最重要的是，它是免費的。 下載安裝 都很容易，我就不多說。 安裝好之後，你可以看到首頁中已經呈現了許多 Hugging Face上的模型： 這顯然是因為Hugging Face是大部分免費開源模型的集散地。 你可以搜尋自己喜歡的模型，透過LM Studio下載到local之後，就可以直接載入(下圖一)： 隨手設定一下 system prompt(上圖二)，然後，就可以直接對談了。(上圖三) LM Studio會使用你的GPU進行運算(如果有的話)，你會發現，原來有好的設備(GPU)，運行的速度可以如此之快。 Local Server 對於開發人員來說，它還有個超級更友善的功能。 LM Studio本身還提供一個 local server，可以幫你把模型包裹起來讓你直接透過API呼叫該模型的功能，例如： 上圖是我們開啟 LM Studio中 Local Server功能後的結果，你可以透過 localhost 的 1234 port 來呼叫這個被 LM Studio 運行起來的大語言模型。(有沒有發現，我們用的也是 chat/completions API) 透過Postman簡單提供一下 JSON Body: { "model": "LM Studio Community/Meta-Llama-3-8B-Instruct-GGUF", "messages": [ { "role": "system", "content": "你是AI助理，請一律用繁體中
Read more »

VS Code的字體大小

作者： -
圖片
身為.net developer，這年頭是什麼code都得要會寫的年代。 而雖然我的NB還沒從Windows淪陷為Mac OS，但寫Node.js和Python免不了要用VS Code，這是一種愛的表現。 但歲月不饒人，盡管微臣非常熱於配合，但VS Code預設字體的大小在我還沒錢買大尺寸螢幕的狀況下，實在讓老臣難以適應。當下的第一個反應是什麼? 當然是 Ctrl+滑鼠滾輪往上推…哇靠，沒用。看…這設計…恩，千錯萬錯一定是我的錯。 只好從選單 file –> Preferences –> Settings: 在出來的視窗中，你可以看到 editor.fontsize: 沒錯，改它就行了。改不動? 喔，不好意思，我沒仔細看說明，要copy到右邊是吧，沒問題，copy->paste->modify->Save…搞定。 好簡單啊…連ctrl+(mouse scroll up)都用不到了呢… 咦?這是一篇抱怨文嗎? 沒有，誰說的? 免費的tool我們還有什麼好抱怨的呢…要感恩啦。 啊….對了，如果你還是堅持要使用 Ctrl+滑鼠滾輪，請找關鍵字… "editor.mouseWheelZoom"
Read more »

使用 Dify 建立企業請假機器人

作者： -
圖片
八卦與未來 上個月，前Google執行長Eric Schmidt在史丹福有場演講，媒體關注的是八卦消息(如果你也曾關注，網路上有很多鐵定可以找到)，但我注意到的則是他提到了自己認為接下來 AI(特別是大語言模型) 可能的發展方向，包含: Large Context Window AI Agent Text-to-Action 底下這邊有這一個段落的影片： https://www.youtube.com/watch?v=zl3k1ksFZdY 為何我會關注這部分? 因為上述的三個方向，也是身為開發人員的我，過去這一年，來與LLM打交道後的感想。昨天，我在 twMVC 的研討會分享中，展示了一個其實我過去早做過了N百次的範例，就是企業的請假機器人。(唯一不同的是，這次我幾乎沒有寫任何程式碼) 場景是，員工在家裡生病了，想要透過語音或是app進行請假，你可以看底下這個運行的範例 (git圖檔會循環播放，開始是 『我好像感冒了』)： 用自然語言對談的方式，即可完成請假。 我說過，類似這樣的範例我做過很多次，用 LINE Bot 搭配 C# 做過，用MS Bot Framework 做過，前陣子也用 Semantic Kernel 框架做過，更早期，還沒有AI的時代，我也在EIP和HR系統裡做過。 但我想說的是，這 就是 Text-to-Action 的呈現，也是一個典型的 AI Agent 的例子，它讓我們透過自然語言(可以是語音或文字)，直接命令機器人(Chat Bot、AI 助理、Agent、Assistant …不管你叫它什麼…)幫你完成一件事情(請假、售票、查詢資料、做財務報表、統計圖表、寫程式…etc.)。 這是一直以來人類對電腦最底層的需求與期待。 隨著 LLM 能夠處理和記憶的 Context 愈來愈被放大，AI Agent 所能夠處理的任務就更加的不受限制。 自然語言才是最符合人類直覺的操作 順帶一提，我昨天在研討會中講了一個故事。 有天，你覺得自己需要聘請一位助理，因此上網張貼徵人啟事，沒多久，你找到了一位號稱上知天文、下知地理的高材生，來幫助你更有效率的完成工作。 他什麼都好，唯一的一個小缺點是，你不能直接對這個助理下達指令，你必須用一種只有這個助理看得懂的語法，才能要求這個助理幫你完成特定的工作。這些語法還挺
Read more »

使用C#開發LineBot(3) - 使用LineBotSDK發送Line訊息

作者： -
圖片
新版的Line Messaging API，要主動發送訊息給用戶不是很困難，主要是透過Push API，可以參考底下的官方說明 : https://devdocs.line.me/en/#push-message 另外，如果你想申請一個Line Bot，可參考: 關於LineBot (1) - 用c#建立一個LineBot 前陣子說過，我們為了團隊開發方便，做了一個 Nuget Package 以便於讓撰寫C#的開發人員可以方便的進行Line Messaging API的操作。 所以，如果你想要透過該SDK來發送訊息給用戶，可以透過底下的指令: isRock.LineBot.Utility.PushMessage(               UserId, 要傳送的訊息, AccessToken); 別忘了使用前，要先引用linebotSDK這個套件: 當您在.net 4.x的專案中，安裝上述lintbotSDK，即可透過前面提到的指令發送訊息給用戶，但請注意，該用戶必須加你的bot為好友。 你可能在使用時會碰到一個問題，怎麼知道用戶的id呢? 請注意，PushAPI的Line用戶id並非你的line ID，而是一長串項是底下這樣的id: U6OX388eOX3634X2OX2e341OX06b8OX4123 這個ID會在你的用戶跟你的bot交朋友，或是對談的時候，由系統傳送給你所設定的WebHook網址(其本質上是一個asp.net WebAPI或類似的API服務)。你會在Line傳遞給該WebHook URL的封包中的JSON形式資料內獲得。 也就是說，當你的用戶傳訊息給你的Bot，或是與你的Bot做朋友(或封鎖)，你所在你的LineBot後台，所設定的這個WebHook，都會收到這些相關的訊息。其設定位置如下: 訊息內容是以JSON的格式出現。 但是，如果你還不知道怎麼寫一個WebHook，該怎麼辦呢? 寫個WebHook其實很簡單，以asp.net來說，就是寫一個asp.net WebAPI即可。(有空我再說明，但今天比較沒空) (2017更新，WebHook開發方式請參考 這裡 ) 如果你沒空寫，可以先用底下這個工具(注意這個工具 僅限測試使用 ，我們不保證其穩定性與可用性、與資料安全性): http://isbaas.azurewe
Read more »

使用Qdrant向量資料庫實作語意相似度比對

作者： -
圖片
什麼是向量資料庫? 在許多的AI實作當中，都有向量資料庫的使用需求。例如RAG(檢索增強生成)、或是資料的相關性比對、相似性搜尋…等，這些應用情境中，我們都會用到向量資料庫。 向量資料庫主要的任務，當然就是存儲和查詢向量數據。被儲存的向量數據通常是高維度的資料，以陣列(集合)的形式呈現。 例如，OpenAI就有提供一組Embedding API，讓我們可以把文字給向量化。你可以透過該 API，把一句話(一段文字)轉換成向量數據，類似底下這樣： OpenAI 的這組 Embedding API，在預設狀況下，會把資料轉成 1536 維度的向量數據，其背後的行為是把文字送給一個訓練好的模型，透過該模型跑出這組向量數據，再回傳給用戶。 然而，把一段文字給向量化的目的是什麼呢? 當我們把文字做了這種轉換後，在 1536 維度的座標空間(向量數據)中，愈相似的文字，透過Embedding API會得到距離愈接近的座標點，藉此，我們得以迅速的判斷兩段文字在語意上的相似性。 而向量資料庫中所謂的查詢功能，主要就是向量的檢索，像是『近鄰搜索（Nearest Neighbor Search）』，當用戶或應用程式提交一個向量查詢時，向量資料庫會幫我們找出資料庫中，與之最相似(接近)的向量座標點。 因此，開發人員只需要透過 Embedding API，把文字轉成向量，再把轉換好的向量座標值，儲存到向量資料庫之中，未來就可以透過向量資料庫來查詢相似(接近)的文字。 關於這個部分，如果讀者有興趣，前陣子有段網路上的影片把多維度向量資料庫的概念介紹的蠻清楚的: https://www.youtube.com/watch?v=W_ZUUDJsUtA https://www.youtube.com/watch?v=ct20Kv8yn0U 為何需要? 向量資料庫最實務上的應用，就是找到類似的特徵值。 例如，當我們把人臉的特徵值以向量資料的形式儲存到向量資料庫中之後，我們就可以透過資料庫本身提供的搜尋功能，快速地尋找出相似的人臉，這也是許多AI應用實現的基礎。 我們底下的程式碼範例，則是找出最接近的問題。(呃…什麼意思?🤔 請往下繼續看) 我們在建立對談機器人時候，常常需要讓機器人回答用戶的問題。這時，我們會讓用戶輸入問句，然後透過 Embedding API
Read more »