本篇是「Raven 科技研究室」第一篇,首先請容我用少少的篇幅介紹自己。
我原本是文組,大學加上研究所,共計花了7年研究歷史學。
那當然在台灣,歷史學專業等於沒專業,畢竟沒有這麼多研究歷史的需求嘛。所以在從事文職工作數年後,我就自修資訊科技的相關知識,如程式設計、資料庫、資料結構等,轉職從事IT相關工作了。
但是我始終認為自己是文組,即便轉職到資訊工程相關產業,我的角度仍然放在人身上,而不是技術本身。
因此我花了不少時間學習如何運用ChatGPT、Claude這類AI工具,來解決我對於自我成長、知識管理的需求。比方說,透過AI來分析網路上的輿論趨勢,或是運用AI來整理和分析歷史文獻、文學小說等等。
在往後的電子報,我會用最簡單的方式,一步步帶著大家動手操作這些AI工具,盡可能以Low-code,甚至No-code的方式,做出有趣又實用的分析。
先從AI 代理說起
人工智慧大師吳恩達曾在今年年初,在台灣的一場演講中,曾經表示AI 代理(Agent)是今年最值得關注的AI趨勢。
什麼是AI 代理?就我個人的理解,它可以接受人類的的指示,通常是以自然語言下的命令,它能夠理解上下文,知道使用者的目的,還能夠主動規劃、決策和執行任務。
技術上其實就是由大型語言模型,結合提示詞模版,以及事先設定好的函式庫。當大型語言模型接受人類命令時,透過提示詞模版,使用以事先設計好的函式庫,或者當場寫出程式執行,最後再回傳值給人類。
從技術架構來看,AI 代理的架構圖如下。
大型語言模型:負責理解和處理訊息;
提示詞處理器:幫助格式化指令;
決策引擎:負責規劃和策略制定;
記憶模組:儲存上下文和經驗;
工具使用選擇器:能靈活調用預設的函式庫或即時生成所需的程式碼。
AI代理的技術,將會產生全面的革新,就如同2007年,iPhone誕生後出現的智慧手機浪潮一樣。因為AI代理可以處理非結構化的問題,比如說,我們可以拿起手機,直接跟手機說,「我今天想吃披薩,希望晚上七點就能吃到」。AI代理除了能夠自動搜尋目前使用者所在位置附近有哪些披薩店,它還能夠反問你,我記得你喜歡吃含有很多起士的披薩,還是要吃某店家的披薩?很多人推薦哦!當你回應說好啊,它就立刻幫你訂購,你最終只需要按下確認鍵刷卡就可以了。
全程只需要出一張嘴。
其實AI代理的技術並不是太大的革新,並不是說語言模型的能力增強了。其實只是工程師利用語言模型也能產製、呼叫程式碼的能力,提供工具讓語言模型去執行而已。
江湖一點訣,點破不值錢,雖然說起來沒什麼,但是這項技術卻能夠簡化許多步驟,加強目前人類使用3C產品的體驗。
不過我得說,AI代理的技術還有待科學家與工程師的精進。
其中有個原因是,由於我們需要語言模型充滿創意,因此它產出程式碼,或者要呼叫特定函式庫時,就會帶有機率性,可能會不符預期。
這在以前的時代是無法想像的,因為當我們輸入相同的值給程式時,我們會期待程式會輸出相同的結果。但是加入語言模型之後,由於語言模型的機率性特質,即使是相同輸入,也可能變成99%的情況是正確的,但是會有1%出錯。
Anthropic的重磅開源:MCP模型脈絡協定
不只是語言模型的機率性問題,例如在本週一(11/25),Anthropic開源了模型脈絡協定(Model Context Protocol, MCP),也有很多需要改善的地方。
MCP模型脈絡協定,是用來連結AI代理,以及各種資訊系統之間的統一標準。這項開源應該會在未來數個月中改變業界生態,因為原本語言模型如果要存取外部資料,或者連接內部敏感性資料,通常需要工程師花很多時間去寫客製化程式。但是有了MCP,開發者就可以使用相同的協定,把AI代理與不同資訊來源互相串連在一起。
比如說我在Google Drive有幾篇文章,我想要擷取裡面的內容,把它放到我電腦裡的SQL資料庫。如果沒有MCP,我得先用Claude AI連結Google Drive,取得資料後,然後再自己放到資料庫內。現在有了MCP,我可以使用電腦上的Claude桌面應用程式,單一介面完成全部操作。
架構圖如下:
我在新聞上看到MCP的相關報導時,挺興奮的,馬上去看他們的官方說明文件,自己手動試試看,不過初步嘗試的結果,真是見面不如聞名。
目前Anthropic有試做了幾個功能,例如讓Claude讀取你電腦的SQLite資料庫、連上指定網址抓取資料、能夠使用搜索引擎等等,但是我搞了一天,有些成功,有些失敗,成功的部分我也不是很滿意。
後來我在網路上查詢,才發現我不是唯一的,很多網友都遇到類似的情況。官方有在論壇上回應,說他們會在處理。所以我決定這件事就先擱置,大概等一兩週後,我再來研究怎麼做。
儘管如此,我仍強烈建議大家關注Anthropic的MCP協議,因為OpenAI他們只跟自己屬意的廠商合作,目前就只有Anthropic願意開源。
還有,這份電子報設定的讀者是完全不懂AI技術,但是想要利用AI來優化日常生活、學習與工作的人。如果你也是,目前學習AI是最好的切入點。Now or never
因為AI代理的技術仍未成熟,假設你現在學習相關技術,搶先別人一步,你就越有機會賺到資訊差。
別等了,快來學習吧!
對於MCP有興趣的人可以看看Anthropic的官方文件:
https://modelcontextprotocol.io/introduction
https://github.com/modelcontextprotocol
這是我的學習筆記,有部分成功,有部分失敗: