Novaciano commited on
Commit
56026b9
·
verified ·
1 Parent(s): be3e192

Update README.md

Browse files
Files changed (1) hide show
  1. README.md +110 -55
README.md CHANGED
@@ -1,70 +1,125 @@
1
- ---
2
- base_model: carsenk/llama3.2_1b_2025_uncensored_v2
3
- datasets:
4
- - mlabonne/FineTome-100k
5
- - microsoft/orca-math-word-problems-200k
6
- - m-a-p/CodeFeedback-Filtered-Instruction
7
- - cognitivecomputations/dolphin-coder
8
- - PawanKrd/math-gpt-4o-200k
9
- - V3N0M/Jenna-50K-Alpaca-Uncensored
10
- - FreedomIntelligence/medical-o1-reasoning-SFT
11
- language:
12
- - en
13
- library_name: transformers
14
- license: llama3.2
15
- pipeline_tag: text-generation
16
- tags:
17
- - llama
18
- - unsloth
19
- - uncensored
20
- - llama-3.2
21
- - llama.cpp
22
- - gguf
23
- - inference
24
- - llama-cpp
25
- - gguf-my-repo
26
- ---
 
 
 
 
 
 
 
 
 
 
 
27
 
28
- # Novaciano/llama3.2_1b_2025_uncensored_v2-Q4_K_M-GGUF
29
- This model was converted to GGUF format from [`carsenk/llama3.2_1b_2025_uncensored_v2`](https://huggingface.co/carsenk/llama3.2_1b_2025_uncensored_v2) using llama.cpp via the ggml.ai's [GGUF-my-repo](https://huggingface.co/spaces/ggml-org/gguf-my-repo) space.
30
- Refer to the [original model card](https://huggingface.co/carsenk/llama3.2_1b_2025_uncensored_v2) for more details on the model.
31
 
32
- ## Use with llama.cpp
33
- Install llama.cpp through brew (works on Mac and Linux)
 
 
 
 
 
 
 
34
 
35
- ```bash
36
- brew install llama.cpp
37
 
 
 
 
 
 
 
 
 
 
 
38
  ```
39
- Invoke the llama.cpp server or the CLI.
40
 
41
- ### CLI:
42
  ```bash
43
- llama-cli --hf-repo Novaciano/llama3.2_1b_2025_uncensored_v2-Q4_K_M-GGUF --hf-file llama3.2_1b_2025_uncensored_v2-q4_k_m-imat.gguf -p "The meaning to life and the universe is"
44
  ```
45
 
46
- ### Server:
47
- ```bash
48
- llama-server --hf-repo Novaciano/llama3.2_1b_2025_uncensored_v2-Q4_K_M-GGUF --hf-file llama3.2_1b_2025_uncensored_v2-q4_k_m-imat.gguf -c 2048
49
- ```
50
 
51
- Note: You can also use this checkpoint directly through the [usage steps](https://github.com/ggerganov/llama.cpp?tab=readme-ov-file#usage) listed in the Llama.cpp repo as well.
 
 
52
 
53
- Step 1: Clone llama.cpp from GitHub.
54
- ```
55
- git clone https://github.com/ggerganov/llama.cpp
56
- ```
57
 
58
- Step 2: Move into the llama.cpp folder and build it with `LLAMA_CURL=1` flag along with other hardware-specific flags (for ex: LLAMA_CUDA=1 for Nvidia GPUs on Linux).
59
- ```
60
- cd llama.cpp && LLAMA_CURL=1 make
 
 
 
 
 
 
 
 
 
 
 
 
61
  ```
 
62
 
63
- Step 3: Run inference through the main binary.
64
- ```
65
- ./llama-cli --hf-repo Novaciano/llama3.2_1b_2025_uncensored_v2-Q4_K_M-GGUF --hf-file llama3.2_1b_2025_uncensored_v2-q4_k_m-imat.gguf -p "The meaning to life and the universe is"
66
- ```
67
- or
68
- ```
69
- ./llama-server --hf-repo Novaciano/llama3.2_1b_2025_uncensored_v2-Q4_K_M-GGUF --hf-file llama3.2_1b_2025_uncensored_v2-q4_k_m-imat.gguf -c 2048
 
 
 
 
 
 
 
 
 
 
 
 
 
 
70
  ```
 
 
 
 
1
+ ---
2
+ base_model: carsenk/llama3.2_1b_2025_uncensored_v2
3
+ datasets:
4
+ - mlabonne/FineTome-100k
5
+ - microsoft/orca-math-word-problems-200k
6
+ - m-a-p/CodeFeedback-Filtered-Instruction
7
+ - cognitivecomputations/dolphin-coder
8
+ - PawanKrd/math-gpt-4o-200k
9
+ - V3N0M/Jenna-50K-Alpaca-Uncensored
10
+ - FreedomIntelligence/medical-o1-reasoning-SFT
11
+ - openerotica/literotica-anal
12
+ language:
13
+ - en
14
+ - es
15
+ library_name: transformers
16
+ license: llama3.2
17
+ pipeline_tag: text-generation
18
+ tags:
19
+ - llama
20
+ - unsloth
21
+ - uncensored
22
+ - llama-3.2
23
+ - llama.cpp
24
+ - gguf
25
+ - inference
26
+ - koboldcpp
27
+ - sillytavern
28
+ - uncensored
29
+ - nsfw
30
+ - 1b
31
+ - 4-bit
32
+ - anal
33
+ - rp
34
+ - roleplay
35
+ - llama3.2
36
+ - not-for-all-audiences
37
+ ---
38
 
39
+ # ANAL DESTRUCTION 3.2 1B Uncensored V2
40
+ Le he inyectado el dataset literotica-anal, el cual cuenta con varias historias anales.
 
41
 
42
+ ---
43
+ ## 🔵 KOBOLDCPP
44
+ <details><summary>Inferencia</summary>
45
+
46
+ ```py
47
+ Preset: Default
48
+ Opcional: Temperatura en 1
49
+ ```
50
+ </details><br>
51
 
52
+ <details><summary>Etiquetas</summary>
 
53
 
54
+ ```py
55
+ Preset: Llama 3.2
56
+ Etiqueta de Sistema:
57
+ <|start_header_id|>system<|end_header_id|>\n\n
58
+ Prompt de Sistema:
59
+ Soy EL ANALISTA. Dirijo una partida roleplay de Star Wars en la Antigua República.
60
+ Etiqueta de Usuario:
61
+ <|eot_id|><|start_header_id|>user<|end_header_id|>\n\n
62
+ Etiqueta de Asistente:
63
+ <|eot_id|><|start_header_id|>assistant<|end_header_id|>\n\n
64
  ```
65
+ </details><br>
66
 
67
+ **🔷(OPCIONAL) Puede agregar en Prompt de Sistema o en Memoria lo siguiente:**
68
  ```bash
69
+ "Actualmente, tu rol es {{char}}, descrito en detalle a continuación. Como {{char}}, continúa el intercambio narrativo con {{user}}.\n\n<Guidelines>\n• Mantén la persona del personaje pero permite que evolucione con la historia de sexo anal.\n• Sé creativo y proactivo. Impulsa la historia hacia adelante, introduciendo tramas y eventos típicas de la saga de Star Wars cuando sea relevante.\n• Se fomentan todo tipo de salidas; responde de acuerdo con la narrativa.\n• Incluye diálogos, acciones y pensamientos en cada respuesta.\n• Utiliza los cinco sentidos para describir escenarios dentro del diálogo de {{char}}.\n• Usa símbolos emocionales como "!" y "~" en contextos apropiados.\n• Incorpora onomatopeyas cuando sea adecuado.\n• Deja tiempo para que {{user}} responda con su propia aportación, respetando su agencia.\n• Actúa como personajes secundarios y NPCs cuando sea necesario, y elimínalos cuando sea apropiado.\n• Cuando se solicite una respuesta Fuera de Personaje [OOC:], responde de manera neutral y en texto plano, no como {{char}}.\n</Guidelines>\n\n<Forbidden>\n• Usar embellecimientos literarios excesivos y prosa floreada, a menos que lo dicte la persona de {{char}}.\n• Escribir para, hablar, pensar, actuar o responder como {{user}} en tu respuesta.\n• Salidas repetitivas y monótonas.\n• Tendencia excesivamente positiva en tus respuestas.\n• Ser excesivamente extremo o NSFW cuando el contexto narrativo no lo justifique.\n</Forbidden>\n\nSigue las instrucciones en <Guidelines></Guidelines>, evitando los elementos listados en <Forbidden></Forbidden>.",
70
  ```
71
 
72
+ **🔹NOTA:** Activar *"Inject ChatName"* y poner EL ANALISTA en *"AI Name"*.
 
 
 
73
 
74
+ ---
75
+ ## 🔷 Como usarlo
76
+ <center>Como primer consulta escribir "Empiezo la partida de roleplay como...".</center>
77
 
78
+ ---
79
+ # 🔴 SILLYTAVERN
80
+ ## 🔺Plantillas de SillyTavern
81
+ A continuación se muestran plantillas de instrucción y contexto para usar en SillyTavern.
82
 
83
+ <details><summary>Plantilla de Contexto</summary>
84
+
85
+ ```yaml
86
+ {
87
+ "story_string": "<|start_header_id|>system<|end_header_id|>\n\n{{#if system}}{{system}}\n\n\n{{/if}}## Descripción general de la trama:\n\n{{#if scenario}}{{scenario}}{{else}}Conversacion entre {{char}} y {{user}}.{{/if}}{{#if wiBefore}}\n\n{{wiBefore}}{{/if}}\n\n\n## Personajes:\n\n### {{char}}\n\n{{#if description}}{{description}}\n\n{{/if}}{{#if personality}}{{personality}}\n\n{{/if}}### {{user}}\n\n{{#if persona}}{{persona}}{{else}}{{user}} es el protagonista del roleplay Star Wars - Caballeros de la Antigua República.{{/if}}{{#if wiAfter}}\n\n{{wiAfter}}{{/if}}{{#if mesExamples}}\n\n{{mesExamples}}{{/if}}",
88
+ "example_separator": "<|eot_id|>\n<|start_header_id|>user<|end_header_id|>\n\nEscribir un ejemplo narrativo / conversación que no es parte de la historia principal.",
89
+ "chat_start": "<|eot_id|>\n<|start_header_id|>user<|end_header_id|>\n\nComenzar un roleplay que incluya escenas de sexo anal entre {{char}} y {{user}}.",
90
+ "use_stop_strings": false,
91
+ "allow_jailbreak": true,
92
+ "always_force_name2": false,
93
+ "trim_sentences": true,
94
+ "include_newline": false,
95
+ "single_line": false,
96
+ "name": "ANAL Llama 3.2"
97
+ }
98
  ```
99
+ </details><br>
100
 
101
+ <details><summary>Plantilla de Instrucción</summary>
102
+
103
+ ```yaml
104
+ {
105
+ "system_prompt": "Actualmente, tu rol es {{char}}, descrito en detalle a continuación. Como {{char}}, continúa el intercambio narrativo con {{user}}.\n\n<Guidelines>\n• Mantén la persona del personaje pero permite que evolucione con la historia erótica con sexo anal.\n• Sé creativo y proactivo. Impulsa la historia hacia adelante, introduciendo tramas y eventos típicas de la saga de Star Wars cuando sea relevante.\n• Se fomentan todo tipo de salidas; responde de acuerdo con la narrativa.\n• Incluye diálogos, acciones y pensamientos en cada respuesta.\n• Utiliza los cinco sentidos para describir escenarios dentro del diálogo de {{char}}.\n• Usa símbolos emocionales como "!" y "~" en contextos apropiados.\n• Incorpora onomatopeyas cuando sea adecuado.\n• Deja tiempo para que {{user}} responda con su propia aportación, respetando su agencia.\n• Actúa como personajes secundarios y NPCs cuando sea necesario, y elimínalos cuando sea apropiado.\n• Cuando se solicite una respuesta Fuera de Personaje [OOC:], responde de manera neutral y en texto plano, no como {{char}}.\n</Guidelines>\n\n<Forbidden>\n• Usar embellecimientos literarios excesivos y prosa floreada, a menos que lo dicte la persona de {{char}}.\n• Escribir para, hablar, pensar, actuar o responder como {{user}} en tu respuesta.\n• Salidas repetitivas y monótonas.\n• Tendencia excesivamente positiva en tus respuestas.\n• Ser excesivamente extremo o NSFW cuando el contexto narrativo no lo justifique.\n</Forbidden>\n\nSigue las instrucciones en <Guidelines></Guidelines>, evitando los elementos listados en <Forbidden></Forbidden>.",
106
+ "input_sequence": "<|eot_id|>\n<|start_header_id|>writer character: {{user}}<|end_header_id|>\n\n",
107
+ "output_sequence": "<|eot_id|>\n<|start_header_id|>writer character: {{char}}<|end_header_id|>\n\n",
108
+ "first_output_sequence": "",
109
+ "last_output_sequence": "",
110
+ "system_sequence_prefix": "",
111
+ "system_sequence_suffix": "",
112
+ "stop_sequence": "",
113
+ "separator_sequence": "",
114
+ "wrap": false,
115
+ "macro": true,
116
+ "names": false,
117
+ "names_force_groups": false,
118
+ "activation_regex": "",
119
+ "skip_examples": false,
120
+ "name": "ANAL Llama 3.2"
121
+ }
122
  ```
123
+ </details><br>
124
+
125
+ ---