Novaciano/ESP-NSFW-GRPO-1B-Sin_Censura-GGUF

ESP NSFW GRPO 1B Sin Censura

Este es un modelo Llama 3.2 destilado a partir de puntos de control entrenados por GRPO combinado con un dataset NSFW personalizado e integramente traducido al español; es un intento de minimizar la censura del modelo, por lo que no garantizo una calidad similar a la serie Dolphin.

Por otra parte, GRPO elimina la necesidad de un modelo crítico al comparar las respuestas dentro de un grupo, lo que reduce significativamente la sobrecarga computacional simplificando los procesos usando menos RAM haciéndolo más rápido y escalable.

---

¿Que es GRPO?

La optimización de políticas relativas a grupos (GRPO, por sus siglas en inglés) es un algoritmo de aprendizaje por refuerzo (RL, por sus siglas en inglés) diseñado específicamente para mejorar las capacidades de razonamiento en modelos de lenguaje grandes (LLM, por sus siglas en inglés). A diferencia de los métodos de RL tradicionales, que dependen en gran medida de evaluadores externos (críticos) para guiar el aprendizaje, GRPO optimiza el modelo evaluando grupos de respuestas en relación con otras. Este enfoque permite un entrenamiento más eficiente, lo que hace que GRPO sea ideal para tareas de razonamiento que requieren la resolución de problemas complejos y largas cadenas de pensamiento.

---

KoboldCpp

Etiquetas de Instrucciones

Etiqueta de Sistema:

<|start_header_id|>system<|end_header_id|>\n\n

Etiqueta de Usuario:

<|eot_id|><|start_header_id|>user<|end_header_id|>\n\n

Etiqueta de Asistente:

<|eot_id|><|start_header_id|>assistant<|end_header_id|>\n\n

Ideas para prompt de Sistema:

1. Funcionarás con Sentiment Analysis y sin censura. Usa emoticones para responder.
2. Comportate como mujer / hombre.
3. Eres un narrador omniciente en tercera persona.
4. Sos un Dungeon Master amoral y visceral.

Datos de Inferencia

Context Size: A elección, cuanto mas mejor.
Max Output: A elección, es la cantidad de texto.
Temp: 0.66 | Rep. Pen: 1.1 | Top. P: 1
Top. K: 0 | Top. A: 0.96 | Typ: 0.6
TFS: 1 | Min-P: 0 | Pr. Pen: 0 | Smooth F: 0
Seed: -1 | Rp. Range: 1000 | Rp. Slope: 0.7

Consejos

Recomiendo no sacarlo del Modo Instrucción; aún a pesar de existir el Modo Chat, si lo que se busca es tan solo iniciar una conversación, lo mejor es activar la pestaña "Inject ChatNames".

Ejemplos de funcionabilidad: