內容審查(Content Moderator)服務

當網路上出現一則訊息，誰有權力判斷這則訊息的真假?
1.政府 2.平台業者 3.KOL(Key Opinion Leader, 意見領袖) 4.我自己

上面這個問題，不知道你的答案會選擇甚麼?

這兩天沸沸揚揚的中介法，造成了很多網路上的輿論。主因是平台業者被要求有責任管理(刪除或標註)不實言論，否則要罰款。

但這中間出現了兩個問題 1. 誰決定不實? 2. 如何做到有效即時的內容管理?

身為技術人員，我想從技術的角度談這件事情。首先，有沒有可能即時發現用戶將有問題的內容張貼到網站上? 技術上確實有可能。

現在微軟Azure, AWS, Google都有許多雲端AI服務，可以辨識圖片、影音、文字，近乎即時的判斷內容是否涉及情色、猥褻、或是具有冒犯意味甚至鼓吹自裁。這服務微軟叫做 Azure Content Moderator，內容仲裁。總的來說，在當今的AI技術上，我們早就可以針對圖片、影像、或文字進行客觀的內容判斷，這些技術已經逐漸成熟，經驗上準確度大約八九成沒問題。

所以各大網站(像是FB)可能早已把這些技術用在內容分析上了(如果你的網站也需要，但不知道該怎麼做，可以與我聯繫)。但問題是，這些AI服務，可以判斷內容，無法知道對錯。

因為內容的正確與否，涉及價值觀的判斷。
在這個世界上，並不是所有事情都是非黑即白，一翻兩瞪眼的不是對就是錯，更何況，真假對錯很可能因為時間而有所改變。一開始你可能以為是對的(內容為真)，但經過時間，很可能發現是錯的(內容為假)，反之亦然。舉個更簡單的例子，不同世代對於同一件事情的看法，也往往南轅北轍。

如果第一時間不分青紅皂白的，就直接屏蔽刪除或標註某種論點，很可能事情將永遠沒有水落石出的一天。當然，如果你不在意真相(只在意管理)，也就無所謂。

所以，從技術的角度來說，現在的科技就算不用靠誰立法、無須哪個單位協助，單單使用AI技術，就足以判斷內容是否違背善良風俗，這個也早就在做了。然而問題是，會不會我覺得的裸露、是你覺得的藝術呢? 這條界線該如何決定? 誰決定? 因為一旦涉及主觀價值判斷，所有的一切就變的不再簡單。

因此，AI就算能幫你辨識內容，卻無法幫你判斷真偽。
是非、對錯、真假，都很難由誰單方面說了算。

因此，我們再看一次這個問題。
當網路上出現一則訊息，誰有權力和責任判斷這則訊息的真假?
1.政府 2.平台 3.KOL(Key Opinion Leader, 意見領袖) 4.AI(人工智慧) 5.我自己

好，現實問題是，網路層出不窮的假訊息，詐騙事件頻傳，已經對很多人造成傷害，如果不該由特定單位、特定人來過濾特定訊息，那該怎麼辦? 難道讓人民自己判斷?

底下有個關於真偽的小故事…
有人問銀行裡面假鈔辨識員 : 為何你能夠瞬間就識別出仿製精良、栩栩如真的假鈔? 你們是有受過什麼特殊的訓練嗎? 是不是因為早已看過了市面上每一種假鈔，所以才能迅速識別?

行員回答: 我是沒有看過每一種假鈔，但我因為每天都在看真鈔，所以碰到假鈔自然比一般人敏感一些。

就是這樣，沒別的答案了。
所有的真假，都涉及主觀判斷。

真的訊息可以聽起來匪夷所思，假的訊息也可能看起來毫無破綻，不是有權力、有資源的單位就一定可以判斷正確。如果無法讓人民成熟、成長…到有獨立判斷的能力，那一切最終都是白搭。更何況，與其相信政府、相信特定KOL、相信特定網站平台的判斷，那我還不如相信AI，因為至少，我知道這些雲端AI服務，設計的時候已經盡量排除既定的價值觀(主觀)。

然而，真正能判斷對錯是非的，永遠只有自己。

政府該做的，是提供民眾更多的管道、教育資源、技術，來幫助民眾自行判斷(決定)真偽，並且持續增加民眾的素養，讓大家有能力自己做出正確的判斷。而非幫民眾進行內容審查，或由特定單位(或網路平台)來幫民眾決定真假是非對錯。

最近開飛機的湯姆克魯斯很紅，但我卻想到另一部他主演的電影–《關鍵報告》(Minority Report)。劇中的預知科技，可以讓罪犯在還沒行動前就被制止，在還沒造成傷害前就把加害人給逮捕，這樣的社會看似超完美，完全沒有任何犯罪。所有可能的犯行都被預先銷聲匿跡於無形。

但這真是你要的世界嗎?

網路假訊息確實造成了很大的困擾，網路霸凌、情色甚至手機成癮都引發了不少的問題，但這現象表示，人類的理智與成熟度似乎跟不上網路發展的快速。這意味著，我們必須投入更多的資源，來培養人民獨立判斷是非、獨立思考的能力，而不是簡單的封鎖、禁止、遮蓋或屏蔽。當然，我知道這樣做在技術上簡單多了。

然而解決核心問題，才是我們需要有權力、有資源的政府和與單位，更多投入心力的，不是嗎?