追悼賈伯斯

作者： -
寫在一個多月前，賈伯斯辭職時...

留言

張貼留言

這個網誌中的熱門文章

開啟 teams 中的『會議轉錄(謄寫)』與Copilot會議記錄、摘要功能

作者： -
圖片
在 Teams 中有一個非常好用的功能，可以透過 “謄寫” 把 Teams 的語音會議變成逐字稿，這部分當然是用到語音識別(語音轉文字)的AI技術。 開始謄寫與自動會議紀錄 當啟動一個會議之後，主席可以透過底下這個『開始謄寫』功能來開啟： 這個功能之所以重要，是因為他也是 Teams Copilot 要能夠順利使用的基礎。我們可以透過 Teams Copilot 進行會議的摘要、總結、整理、或是進行會議內容的詢問，而這後面用的則是LLM(大語言模型)的能力： 這功能對於需要參加很多會議的主管、或是在開會遲到的同仁，都是很方便的功能，可以透過詢問Copilot快速地進入會議狀況。 開啟 “謄寫” 功能 然而，這一切的基礎 “謄寫” 功能卻不是每一個機構都有預設開啟，如果你發現你的 “謄寫” 功能是灰色的(無法點選)，就意味著你的組織沒有開啟(或沒有為你開啟)這個功能。 那組織的管理員該如何開啟此功能呢? 很簡單，只需要到 Teams 系統管理中心，點選 『設定和原則』 --> 『會議』： 進入 『會議』 的設定之後，找到『會議錄製』–>『轉錄』 將其『開啟』即可: 如此一來，組織內的同仁就可以順利的使用 Tteams 會議中的語音轉文字(謄寫)功能，也可以使用 Copilot 來查詢會議的內容囉。 Enjoy it~
Read more »

使用LM Studio輕鬆在本地端以API呼叫大語言模型(LLM)

作者： -
圖片
最近上課常被問到，如何在地端環境搭建出大語言模型(LLM)，並且呼叫其API。 一開始我不太理解為何會有這樣的需求(因為在地端自行搭建運行LLM的成本不一定比較低，即便可能比較安全)，但被問多了，也就開始遍尋相關的解決方案，看看有沒有什麼最簡單的方式，可以讓開發人員在地端測試大語言模型? 後來我選擇 LM Studio ，它就是一款設計來運行大型語言模型（LLM）的平台，有個算是挺優雅的整合環境，讓一般 end-user 或開發人員，都可以輕易地在 local 端進行模型的部署和測試。 LM Studio 本身支援多種模型架構和框架，當然，最重要的是，它是免費的。 下載安裝 都很容易，我就不多說。 安裝好之後，你可以看到首頁中已經呈現了許多 Hugging Face上的模型： 這顯然是因為Hugging Face是大部分免費開源模型的集散地。 你可以搜尋自己喜歡的模型，透過LM Studio下載到local之後，就可以直接載入(下圖一)： 隨手設定一下 system prompt(上圖二)，然後，就可以直接對談了。(上圖三) LM Studio會使用你的GPU進行運算(如果有的話)，你會發現，原來有好的設備(GPU)，運行的速度可以如此之快。 Local Server 對於開發人員來說，它還有個超級更友善的功能。 LM Studio本身還提供一個 local server，可以幫你把模型包裹起來讓你直接透過API呼叫該模型的功能，例如： 上圖是我們開啟 LM Studio中 Local Server功能後的結果，你可以透過 localhost 的 1234 port 來呼叫這個被 LM Studio 運行起來的大語言模型。(有沒有發現，我們用的也是 chat/completions API) 透過Postman簡單提供一下 JSON Body: { "model": "LM Studio Community/Meta-Llama-3-8B-Instruct-GGUF", "messages": [ { "role": "system", "content": "你是AI助理，請一律用繁體中...
Read more »

實際嘗試使用DeepSeek API

作者： -
圖片
突然造成關注的 DeepSeek DeepSeek 是一家於2023年由中國私募基金「幻方量化」創立的人工智慧公司，專注於AI技術。算是少數專注於基底模型訓練的廠商。幻方量化這家公司的負責人很年輕，1985年生，才40歲，同時也是DeepSeek的創辦人。但他為何從投資領域跑來訓練AI模型? 如果對這家企業有興趣，可以參考 這裡 。) 從沒沒無聞到震動市場，主要是因為其最新成果 DeepSeek-V3 與 R1模型，採用「混合專家架構」設計，僅在需要時啟動部分「腦細胞」，以便於降低運算資源消耗。據傳，由於訓練該模型僅使用 2048 部 NVIDIA H800 GPU，耗時約兩個月，以極低的成本(約為560萬美元)完成訓練，但 R1 模型在數學和推理基準測試中表現出色，號稱與OpenAI的o1模型效果相當。 據聞 Meta 和 OpenAI 對 DeepSeek 的快速崛起感到緊張，主要原因在於 DeepSeek 在各種壓力底下，居然可以更低的成本，基於過去開源的基礎完成更高階的成果展現。Meta的首席AI科學家Yann LeCun指出，DeepSeek的成功證明了開源模型(例如他們家的llama)正在超越專有模型(像是 GPT or Gemini)，強調了開放研究與開源的重要性。 總之這些進展引起了矽谷的關注，甚至有Meta員工匿名表示，內部出現了恐慌情緒，工程師們正在連夜嘗試複製DeepSeek的技術。 可預見的未來，模型(不管是雲端或地端)的可選擇性將會大增，在使用的成本上也有機會日漸低廉。因此，我們就來看看 DeepSeek API 的使用。 使用 DeepSeek API DeepSeek 也有提供雲端版本的API，要使用 DeepSeek 的 API，您需要先申請 API 金鑰(以信用卡或PayPal付費)，位於 這裡 : 申請後，您可以透過發送 HTTP POST 請求與 DeepSeek 的模型進行互動。以下是使用 cURL 的範例： curl https://api.deepseek.com/chat/completions \ -H "Content-Type: application/json" \ -H "Authorization: Bearer <DeepSeek API Key...
Read more »

Power Automate 自動化網頁操作小技巧

作者： -
圖片
今天，到客戶端上課的時候碰到了個問題，有個範例是使用 Power Automate Desktop 來進行自動化的 Google search。本來是個再簡單不過的動作，卻因為瀏覽器的行為導致搜尋的結果不正常。 🎷問題 (為了方便描述，我稍微做了簡化)其實整個 flow 大概只有底下這樣： 第一個步驟 : 自動開啟 chrome 瀏覽器，進入搜尋頁面? 第二個步驟 : 定位到 文字輸入方塊 中，輸入特定文字(上面的例子是 流感疫苗 )。 第三個步驟 : 模擬滑鼠自動按下 『Google 搜尋』鈕。 本來應該這樣就可以順利運行，但瀏覽器的一個行為，卻導致第三個步驟卡關。 就是 Chrome 瀏覽器在步驟二自動出現了彈出式的選單(我們姑且先不管為何會有這個異常行為，先看這個行為導致的結果)，彈出的選單壓住了底下的『搜尋』按鈕： 你會發現在這種狀況下，這時即便第三個步驟可以運行，搜尋出來的結果也不正確： 因為這時候搜尋到的，其實是排在選單上的候選項目『流感疫苗 副作用』，而非原本我們在文字方塊中輸入的文字『流感疫苗 』。 類似這樣的狀況其實很常在透過 power automate 進行瀏覽器自動化時發生。 這是今天到客戶端進行教育訓練時碰到的問題，碰到這種狀況，一時也讓我突然卡住無法繼續。 🎷解決方案 該如何解決呢？ 也不難，我讓學員一起和我想辦法，有位學員想出了這個主意 👉 就是『隨便點一下，讓選單消失』，然後再去按下那個『搜尋』鈕。 問題是，要怎麼『隨便點一下』? 我們使用『按一下網頁上的連結(或其他任何元素)』這個 action，來模擬滑鼠點選的行為: 按下google搜尋頁面上空白的地方，讓選單消失： 接著，再用同一個 action 來模擬搜尋鈕的點選： 瀏覽器就會自動在選單消失後，再繼續按下『搜尋』鈕，這樣，就可以順利進行搜尋囉。 🎷結語 在設計 RPA 流程時，因為瀏覽器或運行環境的變數，經常會遇到一些不確定性。因此，透過這類「小動作」來排除異常情境，可以讓自動化流程更穩定、更可靠。 而且，學員能夠親自操作並思考解決方案，不僅能提升學習效果，也能培養解決問題的思維，這點特別有趣！ 你有遇過類似的問題嗎？你會怎麼解決呢？
Read more »

使用 Render.com 作靜態網站的自動化佈署

作者： -
圖片
最近在上課時，為了讓不想花錢申請 Azure 雲端服務的學員，也能夠實際體驗 CI/CD 的開發流程，我一直在尋找一個 免費、簡單 的網站部署的平台。希望用戶只要有 GitHub 帳號，就能將 repo 內的網站經由 GitHub Actions 自動佈署到雲端。 試過幾個方案之後，最後選擇了 Render.com 。它不但提供免費的靜態網站託管，還能輕鬆與 GitHub 整合，自動化部署流程幾乎沒什麼難度，非常適合教學與初學者練習使用。 什麼是 Render.com Render.com 是一個現代化的雲端平台，提供簡單、快速且免費的網站服務。​透過與 GitHub 的整合，開發者可以輕鬆地將靜態網站自動部署到 Render，並利用 GitHub Actions 進行持續整合與部署（CI/CD）。 Render 支援多種服務類型，包括： 靜態網站（Static Sites） ：​適用於 HTML、CSS、JavaScript 等前端資源，透過全球 CDN 提供快速、安全的內容傳遞。 Web 服務（Web Services） ：​支援 Node.js、Python、Ruby 等後端應用程式的部署。(但不支援 .net) 私有服務（Private Services） 、 背景工作（Background Workers） 、 排程任務（Cron Jobs） ：​適用於內部服務、非同步處理及定時任務。 如何從 GitHub 部署靜態網站到 Render Render 本身直接支援自動化佈署，你可用 GitHub 帳號申請Render.com ，並且直接建立一個靜態網站： 你可以在建立站台的時候，直接選擇要從哪一個 GitHub Repo 進行佈署: 在選擇好後，你可以配置該網站關聯的資料來源位置(選擇Repo中的資料夾): 設定完成之後，只需要一鍵就能佈署完成： 如果要變成自動化呢? 我們可以在 GitHub Repo 中設定 Action，來進行網站的自動化佈署。 由於Render.Com 提供一個自動化佈署的 WebHook(本質上就是一個API)，只要呼叫該API， Render.com 就可以自動從 GitHub repo 中取得最新的程式碼，並且佈署到伺服器端： 也因此，只要我們為其配置一個 GitHub Acti...
Read more »