Ollama + Llama-3.2-11b-vision-uncensored like 22
Request: Support for pulling this model directly into my ollama enviornment.Note: I want to start by saying that I don’t fully know all the details and complexities of this request.Context:Huggingface has native ollama integration [1]Llama3.2-vision (the censored version) is already on ollama [2]My understanding is that this is llama.cpp compatible, which is what ollama is built on top of.Question: How easy is it to do this?[1]Use Ollama with any GGUF Model on Hugging Face Hub[2]The llama3.2-vision library
2024-12-10T06:45:00Z
It seems easy.note（ノート）Ollama で Hugging Face Hub の GGUF をそのまま使ってみる｜ぬこぬこtl;dr    Ollama で Modelfile を作成することなく、Hugging Face Hub で公開されている GGUF 形式のモデルをそのまま動かせるようになったよ    やり方は簡単で ollama run hf.co/{ユーザー名}/{リポジトリ名} とするだけ    量子化タイプの指定はデフォルト Q4_K_M で好きなタイプも指定可    チャットテンプレートはデフォルトは GGUF 内ビルトインテンプレートで自分で指定することも可    


Use...