ollama模型使用記錄
使用者因為在架站上玩得太上癮,導致記憶體不足。購買了DDR4 16G記憶體,並測試不同模型的效能。根據伺服器20GB記憶體,估算出可同時處理使用者的表格。最終選擇了cwchang/llama-3-taiwan-8b-instruct:latest模型,但發現速度過慢。經測試後發現是Blinko用到之前的模型,統一模型後記憶體降至18G~20G,符合使用者的硬體規格。
我只是想找個地方記錄
使用者因為在架站上玩得太上癮,導致記憶體不足。購買了DDR4 16G記憶體,並測試不同模型的效能。根據伺服器20GB記憶體,估算出可同時處理使用者的表格。最終選擇了cwchang/llama-3-taiwan-8b-instruct:latest模型,但發現速度過慢。經測試後發現是Blinko用到之前的模型,統一模型後記憶體降至18G~20G,符合使用者的硬體規格。
摘要:
這篇註釋主要是討論在使用 Docker-Compose 部署服務時,如何正確配置資料庫連線。作者遇到了一個問題,即在更新 blinko 服務時,會出現資料庫連線錯誤的訊息。經過分析日誌和詢問 AI 後,發現這是因為將具有相同資料庫名稱的 blinko 和 linkwarden 服務放在同一個內網(ollama-network)中所導致的。
作者解釋了 PostgreSQL 資料庫連線 URL 的格式結構,並詳細說明了每個部分的含義。最後,提供了一些實務補充,如容器之間使用服務名稱作為 DNS 名稱是 Docker 的特性,以及在本機測試時可能需要修改連線字串。
總結來說,這篇註釋主要解決了在 Docker-Compose 環境中配置資料庫連線的問題,並提供了一些實用的建議。