2026年6月21日 星期日

修改ALLM環境變數，改善5分鐘會斷線

›
用AnythingLLM(ALLM)當前端去呼叫Ollama的LLM model，會出現5分鐘就斷線的問題。當LLM model很大，生成內容的時間超過5分鐘，就會因為用Node.js寫的ALLM預設fetch()是300秒，造成ALLM主動斷線 ，回傳 HTTP 500 。修正...
2026年6月14日 星期日

手動運行Ollama並看執行的log

›
在Server上面用下面指令啟動Ollama來當LLM inference server，並且可長長久久運行： export OLLAMA_MODELS="/llm/.../ollama/models" export OLLAMA_NUM_PARALLEL=1...
2026年6月7日 星期日

《I love 人生！》

›
宮本浩次－ I love 人生！ 4m12s
2026年5月24日 星期日

用SSH tunnel把內部服務轉到本機上使用

›
上一篇 《SSH用ProxyJump過堡壘機連內部伺服器》 就可以直接遠端登入到躲在堡壘機後面的內部伺服器。這篇介紹要如何把躲在堡壘機後面內部伺服器開啟的服務轉到自己的電腦上，流程說明如下 ： 開一個Ollama服務在內部服務器，預設長在11434 port 堡壘機Bastio...
2026年5月23日 星期六

SSH用ProxyJump過堡壘機連內部伺服器

›
通常 內部伺服器(Server) 都不會直接碰到外網，要連線進去會經過 堡壘機(Bastion) ，但這樣就會需要兩個步驟： 從外網的機器SSH到外部堡壘機 Bastion 再從堡壘機SSH到內部伺服器 Server 這樣很麻煩，而且有時候只是要透過SSH叫Server做些事情回...