跳到主要內容

發表文章

Qwen 3.8 27b 測試心得

 最近一陣子沒有更新 Blog,主因是沒有辦法在第一時間發出與眾不同的消息,畢竟不是靠炒知名度賺錢的網紅,有些業務相關的又不方便發表。另一點則是覺得AI文缺乏靈魂,自己寫的文章雖然粗鄙,卻有人味兒。 話說公司的Jetson Thor相容機因為研華的 Firmware 與原廠不相容,所以我還不能使用多媒體功能,而 LLM 推論速度之前一直上不去,直到最近幾個月受到開放原始碼的進步,終於達到勉強可用的程度。而公司內部的產品則是使用 5090 在推論。 我測試上週出現的 Qwen 3.8 27b 以體感來說,能力達到 Claude Sonnet 4.6 的程度,用 5090跑的速度可接受,也可以達到  120 tokens/sec,不使用 Subagents 的話,地端 coding 完全沒問題,可以不靠雲端LLM也可以 happy coding。因為主要拿來開發公司的內部系統,就不方便貼圖,有興趣的人自己弄2張 3060 Ti 16GB 也有類似的效果。 目前我主要用 Jetson Thor 跑 Qwen 3.8 27b長時間 code review 與 refactoring ,因為速度太慢,即時coding則不建議用 Jetson Thor 或 DGX Spark,還是用 5090 比較合適。 逛Ollama 時看到  huihui_ai/Qwen3.8-abliterated  似乎很猛,於是拿來叫它分析一些平時會被阻擋的內容,或是分析 apk 之類的工作,也可以分析網路攻擊,實在是太方便了,若不是現在 DGX Spark 漲到 17萬一臺實在買不下手(RTX 5090一張也漲到17萬),真想去買一臺在家跑 Qwen 3.8 27b + MiniMax H3 自己做些有趣的影片呀~  
最近的文章

最短路徑 Shortest Paths .net 10 version

今天幫同事把 他用到的最短路徑套件修復多執行緒問題,原本是 .net 4.0,我改成 .net 10,讓AI修復整個套件。  原本的 YanQi 演算法是用 Java 版改過來,.Net版 裡有 bug,所以後來我再去抓原始的 Java 程式,結果 Java 程式裡又是用別人的 Jar, 所以再去找原始 YanQi Jar 的原始碼來修。現在 AI 很強,直接找出他改錯的地方,再用其他方式修正原本 Dictionary 不是 Thread Safe 的問題。 原本的演算法及語法都修復,並且從 nUnit 改為 xUnit。 至於到底修了多少,請自行去看 git log。 https://github.com/tenyi/adapters-shortest-paths-dotnet

零參考 ZeroReferences 找出 dot net 程式內 未使用到的方法

  由於被同事質疑在某專案中引用的 Library 太多未使用到的方法,決定自行開發一個減肥程式。

Gemma4 :地端 Coding 的時代到來

今天趁著連假,在家沒事就拿起 Macbook M1 Pro 16GB RAM的舊筆電,執行 ollama launch claude --model gemma4:e2b ,這樣的記憶體需求小,但為了怕 context 不足,在執行 Ollama 時要設定 OLLAMA_CONTEXT_LENGTH=65536 ,至少要設定 32768才足夠寫程式。 雖然筆電不快但是使用Gemma4最小的模型,能夠讓 Claude Code 自主使用 Rust 寫出Native GUI 的 貪食蛇,真不是普通的強。有興趣的朋友,可以在有8GB 以上VRAM的顯卡試試,這代表著地端Coding時代到了! 以我的 Macbook 16GB 為例,執行 Gemma4:e4b 沒有壓力,效果比e2b更好一些。 無論使用何種模型, 想要LLM Coding效果好必須要留足夠的RAM給作業系統與Context,Happy Coding! 後記:看到 Agentic Coding 基準測試 排行,可證明我說的沒錯,Gemma4相當能打,在Jetson Thor上跑Gemma4-31B就是地端的首選。若使用5090搭配Gemma4,我會選擇26B模型,把 Context盡可能拉大,這樣才會跑得順。

MikroTik 的 中文註解亂碼解決方法

 自從去年臨時 換成MikroTik路由器 後,功耗和效能都非常滿意,臺灣代理商送來時就有預設的Firewall Rules,完全沒有問題,唯一的不滿就是註解在網路介面看到時是亂碼,詢問代理商說要用 WinBox v3 Windows 版本 才能正常顯示註解。 WinBox v3 還有另一個問題,在高解析度螢幕上文字非常小。 我在家使用的主力是 mac 和 Linux,我也不喜歡使用 WinBox ,能夠使用瀏覽器才方便。