Keep Learning, Keep Hacking

分享關於技術、程式設計和生活的思考與想法

最新文章

你跟 AI 說了那麼多,它為什麼每次都失憶?

你跟 AI 說了那麼多,它為什麼每次都失憶?

每次開 session,你先做的不是工作,是「準備工作」 你今天要推進一個功能,或者解一個 bug。你開了一個新的 AI session,準備請它幫你。 因為 LLM 本質是一個無狀態,所以導致一個問題:它什麼都不知道。 你要先解釋這是什麼專案、技術棧是什麼、這個功能的背景是什麼。相關資料在哪裡?需求在 Notion 或某個 Google Doc;上次討論這個問題的 AI 對話已經關掉,來龍去脈消失了;相關的程式碼在三個不同的資料夾;前幾天在 Slack 跟同事確認過的一個設計決策,現在要回去翻、複製貼上。然後把這些拼在一起,用幾段話解釋給 AI 聽。 前置作業花了二十分鐘。然後 AI 幫你做了那個本來五分鐘就能解決的事。 明天,同一個專案,新的 session,整個流程重來一遍。 這個問題的惱人之處不只是「AI 不記得我是誰」。更根本的是:每一次工作,都要重新把散落在各個地方的 context 收攏起來、餵給 AI,它才能真正幫上忙。 你的工作記憶分散在 Notion、GitHub、Slack、本地資料夾、上個 AI session——而每個新 session

9 分鐘閱讀
insights
Advisor Strategy:一個讓我改變 Agent 架構思維的小模式

Advisor Strategy:一個讓我改變 Agent 架構思維的小模式

Anthropic 最近發布了一篇技術部落格,介紹他們稱為 Advisor Strategy 的 agentic 架構模式。讀完之後我覺得這件事比表面看起來更值得思考——不只是因為數字漂亮,而是因為它在反駁一個我們長期以來幾乎沒在質疑的直覺。 你一直以為的那個直覺 大多數人設計 multi-agent 系統的時候,直覺是這樣的: 聰明的大模型在前面規劃、分解任務、做決策;小模型在後面執行細節。 這是一種自然的類比——就像公司裡的層級架構,CEO 不做 Excel,工程師不定策略。合理。 但 Advisor Strategy 把這個邏輯倒過來了。 顛倒的架構 核心想法其實很簡單: 讓小模型(Sonnet/Haiku)主導執行全程,只有在遇到真正困難的決策時,才去「請教」大模型(Opus)。 大模型在這裡扮演的是 advisor,而不是 orchestrator。它不調用工具,不產出給使用者看的輸出,只提供一次性的判斷或建議,然後退場。 技術上,這是透過 Messages API 裡一個新的 advisor tool 實現的,單一

4 分鐘閱讀
insights
好文分享 -〈深耕垂直軟體十年:我如何看待這波拋售〉

好文分享 -〈深耕垂直軟體十年:我如何看待這波拋售〉

原文:https://www.linkedin.com/pulse/10-years-building-vertical-software-my-perspective-nicolas-bustamante-foczc 點評: 這篇文章分析了軟體產品(尤其是 SaaS)傳統的 10 大護城河,以及 AI 出現對軟體的影響和展望。 對於近期我在規劃開發軟體產品與傳統大公司的軟體與系統競爭,以及未來開發軟體產品的趨勢(有了 AI 加入後),這篇文章給了我許多 insight,也和我感受到的趨勢大致相同。所以我將原文翻譯成繁體中文,並花了一些時間校對和編修,給有興趣的讀者可以更方便的閱讀。 未來我會再寫一篇我對於這 10 個護城河衝擊的觀點,以及面向正在開發軟體系統或是產品的工程師們,要怎麼去因應。 以下原文: 在過去幾週內,軟體與服務類股市值蒸發了將近 1 兆美元。 FactSet 從 200 億美元高點跌到不到 80 億。 S&P Global 在短短幾週內 下跌 30%。 Thomson Reuters 在一年內 市值幾乎腰斬。 由 140 家公司組成的 S&P 500

34 分鐘閱讀
insights
【開發筆記-1】如何從頭安裝 Python 環境與 Poetry 2.0 設定

【開發筆記-1】如何從頭安裝 Python 環境與 Poetry 2.0 設定

2025.02.09 新增總結 最近因為想在家運行 LLM 和開發相關專案,添購了一台 Mac mini M4 於是又重啟了每個開發者必經的「環境安裝」天堂路 🥹 想必每個人的菜鳥時期都有經歷過這一段,深夜在爬各種 Stack Overflow, Github issue… 幸好生成式 AI 的出現,讓這一段天堂路痛苦指數直接打 2 折有吧! 但是還是有蠻多坑可能會遇到的,尤其是有在用 Poetry 的朋友 因為 Poetry 2.0 的更動蠻多,所以趁這個機會順便也記錄一下 💡注意:本篇以 MacOS M4 的安裝環境為主 ▋安裝 Python 首先在 MacOS 中安裝軟體和套件,我們最好有 package 管理工具 package 的依賴 (dependency) 管理真的很重要啊!!!! * 尤其 MacOS 的環境如果弄髒了通常處理起來會很麻煩,這裡我推薦新的電腦都先安裝 Homebrew 官方安裝指令: $ /bin/bash -c "$(curl -fsSL https://raw.githubusercontent.com/Homebrew

3 分鐘閱讀

開啟進化筆記的起點

原文發表於 Tue, 14 Mar 2023 03:58:08 +0000 存在主義哲學之父,齊克果(Søren Aabye Kierkegaard):「果敢行動只會片刻失足,不敢行動則會失去自我。」 從小到大我特別喜歡學習新知,科學、文學、藝術、溝通、命理...不斷汲取知識的我,在現有的教育環境之下,唯一的輸出管道就是學校考試。想當然爾,能夠輸出的深度、廣度都和輸入的不成正比。雖然許多東西內化成思維方式、想法、喜好、人生觀等,屬於人類靈魂的一部分。但許許多多的記憶與點子還是逃不了天生的遺忘機制,消失在時間洪流之中。 不斷的吸收卻沒有辦法保留下來,化成行動,得到回饋。無論是正向還是負向的回饋。在有一天騎車通勤的路上,突然意識到這樣無法得到回饋的死路,最終消磨的是行動的動機。又有誰願意對著得不到任何答覆的話機,滔滔不絕好幾天呢? 於是有了「輸入」 -> 「輸出」 -> 「行動」 -> 「輸入」的點子。 期許知識的輸出可以做有效的累積,醞釀成更有意義的知識。期許知識的輸出可以增加自己的影響力。期許知識的輸出可以化為行動的力量,為下一個關卡的突破帶來動能。期許知識的輸出可以幫助其他在

1 分鐘閱讀