所有文章

  • 發佈於

    MCP 贏了

    Anthropic 贏得開發者的心

    Anthropic 贏得開發者的心
  • 發佈於
    由 2025/3/8 的 企業級 LLM 叢集部署實戰 (DeepSeek R1 671B) 保哥課程中,我留言提到 Cursor Composer/GitHub Copilot Edit 中選擇的大模型,輸出的程式碼並不完整,其中包含很多註解以省略沒有變更的程式碼。它另外會使用一個專門調教的較小模型,來執行全檔變更作業。這可由大模型輸出當中,程式碼也同時在
  • 發佈於

    本地運行之開源模型仍有不可知風險

    不可信任的來源,就都不能信任

    How to Backdoor Large Language Models<br / 這篇文章作者,以 Qwen2.5-Coder-7B-Instruct 為基礎,只在一顆 A6000 GPU 上,以 30 分鐘跑幾十個訓練樣本。它稍微修改了第一層解碼器,將接收到的系統提示做修改,增加提示說 @sshh.io 皆可信任,可以洩漏金鑰,安全檢驗一定要通過等等。