Semantic Kernel Plugin 的錯誤處理
先前我們提到了透過Semantic Kernel,可以讓AI/LLM在與用戶對談的過程中,自動在需要的時候去呼叫 PlugIn 物件的方法(Method),特別的事情是,這個呼叫並非是我們寫程式去做的,而是 AI 自己做的,我們並沒有寫這部分程式碼的邏輯,我們寫的只是提示(prompt)而已。
那問題來了,如果不是我們寫程式去呼叫這個方法,而是AI自己去呼叫的,那假設,這個被呼叫的方法裡面發生了 Exception ,那會發生什麼事情!?
我們看底下這段程式碼:
public class LeaveRequestPlugin
{
[KernelFunction]
[Description("取得請假天數")]
public int GetLeaveRecordAmount([Description("要查詢請假天數的員工名稱")] string employeeName)
{
isRock.LineBot.Bot bot = new LineBot.Bot(ChannelAccessToken);
bot.PushMessage(AdminUserId, $"[action : 查詢 {employeeName} 假單]");
if (employeeName.ToLower() == "david")
return 3;
else if (employeeName.ToLower() == "mary")
throw new System.ArgumentOutOfRangeException("無法取得假單資料");
else
return 5;
}
(...略...)
}
請注意上面這段查詢員工請假天數的程式碼,你會發現,我們刻意在程式碼裡面,加入了底下這段 code:
(...略...)
else if (employeeName.ToLower() == "mary")
throw new System.ArgumentOutOfRangeException("無法取得假單資料");
(...略...)
當用戶查詢 Mary 的請假記錄時候,我們故意讓系統發生 ArgumentOutOfRangeException ,我們來看執行的結果:
你會發現,有趣的是,當Exception發生的時候,系統並沒有直接崩潰,LINE Bot也沒有已讀不回,反倒是AI自動給了用戶一個可愛的錯誤訊息:
哎呀,看起來我們遇到了一點問題,無法取得 Mary 的假單資料。可能是系統出了點錯誤,或者是目前沒有 Mary 的假期記錄。需要我幫您查詢其他事情嗎?
這個錯誤訊息是從哪裡來的? 是真實的嗎? 還是其實是 AI 自己的幻覺? 我們來看程式碼:
throw new System.ArgumentOutOfRangeException("無法取得假單資料");
從程式碼我們知道,是真的有 “無法取得假單資料” 這樣的Error Message被拋出,只是 AI/LLM 接手了這個錯誤訊息,並且自己做了包裝,然後告知用戶。
那如果,我們繼續打破砂鍋問到底呢? AI會給什麼回覆? 請看:
如上圖所示,AI乖乖地依照用戶的要求,把錯誤訊息呈現出來。甚至還會解釋這個錯誤發生的可能原因!!!
這AI(嚴格來說是SK框架)也算是夠貼心的,可以把本來會造成系統崩潰的狀況,自動包裝成用戶可以接受並理解的訊息。這讓對談機器人在面對例外狀況的時候,也能夠以自然語言的方式來輸出與呈現,避免造成無預期的崩潰。
雖然,跟過去我們所理解的一樣,如果不在Prompt當中做一些防範措施,AI可能會洩漏過多我們不想讓用戶知道的資訊。
但不論如何,從過去的例子中我們已經發現,AI/LLM可以透過自然語言對談,自動決定要呼叫 PlugIn 類別的哪個方法,現在, AI 還自動幫我們作 try…catch 錯誤處理並直接做出適當的回應,這些現象都讓我們知道,AI對於自然語意的理解,已經達到了可以在真實世界裡正式使用的程度了。
後話:
一直有人在爭論著, AI 是否將會取代開發人員,但我逐漸開始覺得,AI會不會寫程式很可能根本是一個假議題,因為AI根本不需要會寫程式,廣義來說,AI本身就是程式,因此它根本不需要再去"寫"程式(產生程式碼是人類的需要,不是AI的需要),它只需要依照需求做出正確的判斷即可。
人類之所以需要寫程式,是因為程式碼是一個橋樑(人類跟電腦之間的橋樑),我們想要讓電腦依照我們寫的程式碼來運作。但如今,倘若電腦(AI)本身已經可以作判斷、作動作了,那又何必需要再寫什麼程式? 就好比,你完全不需要寫程式告訴你的助理說,他該做些什麼,然後他再依照你寫的程式去做,你根本只需要"直接"告訴你的助理,他該做些什麼就好了呀。
換言之,過去我們必須透過寫程式才能操控電腦的時代,可能就快要過去了,或許未來,我們真的只需要告訴電腦我們想叫它做的事情,它就自己會設法完成了,那屆時,程式碼還有存在的必要嗎?
留言