playground是壞的

#2
by metalnow - opened

model not found.

@metalnow 嗨嗨,我在 playground 頁面有加註說因為 GPU 有可能被挪用在生成資料而導致無法對話唷,請見諒 🙏 (GPU poor 🥹)

lianghsun changed discussion status to closed

了解。感謝回答。另外想問是否有機會在ollama上可以使用,目前在上面看到有一個fork的model,但用起來是有問題的。

了解。感謝回答。另外想問是否有機會在ollama上可以使用,目前在上面看到有一個fork的model,但用起來是有問題的。

ollama 可以的,想問一下你是測哪一個量化 model(或者是用哪個 repo)?再提供給我一下詳細資料,我去檢查看哪個環節出問題 👀 謝謝你的回饋。

lianghsun changed discussion status to open

Hi @metalnow , 我們已經更新了 lianghsun/Llama-3.2-Taiwan-3B-Instruct-GGUF ,先前您提到的量化模型在對話時可能會出現問題,目前測完已經修復,詳細修復原因請見 model card 👀。請照以下步驟操作:

# 先移除舊版的 gguf
> ollama rm hf.co/lianghsun/Llama-3.2-Taiwan-3B-Instruct-GGUF:Q6_K # <-- 請換成你使用的量化版本

# 重新跑 gguf
> ollama run hf.co/lianghsun/Llama-3.2-Taiwan-3B-Instruct-GGUF:Q6_K

目前我們測出的結果是正常如下:

>>> 你好阿
你好啊!有什麼事情需要我幫忙的嗎?如果沒有特別的事情,我們可以聊聊最近的新聞或者分享一些生活的小技巧哦。

>>> 能告訴我怎麼煮蔬菜豆腐湯嗎
當然可以!以下是如何做出美味的蔬菜豆腐湯:

### 材料
- **豆腐**:1盒(約300克),切成小塊
- **蔬菜**:高麗菜、紅蘿蔔、玉米筍,切成小塊
- **雞粉**或**雞精**:1茶匙
- **鹽**:適量
- **水**:約1000毫升
- **香油**:少許(可選)

### 做法
1. **準備材料**:將豆腐切成小塊,高麗菜、紅蘿蔔和玉米筍切成小塊。
2. **煮湯底**:在鍋中加入1000毫升的水,將水煮沸後再放入切好的豆腐塊,煮約5分鐘至豆腐稍微軟化。
3. **加入蔬菜**:將高麗菜、紅蘿蔔和玉米筍加入鍋中,再煮約2-3分鐘,直到蔬菜變軟。
4. **調味**:加入1茶匙的雞粉或適量的鹽,以及少許香油(可選),攪拌均勻。
5. **最後一步**:將湯煮至沸騰,並保持中火,讓湯更加濃鬱,這樣蔬菜豆腐湯就完成啦!

如有什麼問題,歡迎再提出來,謝謝你 😀。

lianghsun changed discussion status to closed

Sign up or log in to comment