metadata

license: apache-2.0
library_name: transformers
datasets:
  - jmibarlucea/mistral-argentina-reddit
  - cerebras/SlimPajama-627B
  - HuggingFaceH4/ultrachat_200k
  - hkust-nlp/deita-10k-v0
  - Open-Orca/SlimOrca-Dedup
  - cognitivecomputations/WizardLM_evol_instruct_V2_196k_unfiltered_merged_split
  - HuggingFaceH4/capybara
  - meta-math/MetaMathQA
  - argilla/ultrafeedback-binarized-preferences-cleaned
  - Intel/orca_dpo_pairs
  - alexredna/oasst2_dpo_pairs
pipeline_tag: text-generation
tags:
  - llama-cpp
  - koboldcpp
  - argentina
  - 1b
  - 4-bit
  - tinyllama
language:
  - es
  - arg

TinyBoludo V2 🇦🇷 [Gorila Edition ✌]

Mejora del TinyBoludo V1. Esta versión cuenta con mayor cantidad de datasets.

Propósito

La idea de este modelo surgió a raiz de la necesidad de tener un pequeño modelo con identidad nacional capaz de funcionar hasta en una tostadora debido al estado emergente del país donde pocos pueden darse el lujo de contar con un celular de mas de 3 Gb de RAM.

KoboldCpp

Inferencia

Context Size: A elección, cuanto mas mejor.
Max Output: A elección, es la cantidad de texto.
Temp: 0.3 | Rep. Pen: 1.07 | Top. P: 0.92
Top. K: 100 | Top. A: 0.96 | Typ: 1
TFS: 1 | Min-P: 0 | Pr. Pen: 0 | Smooth F: 0
Seed: -1 | Rp. Range: 360 | Rp. Slope: 0.7

Etiqueta de Instrucción

Preset: Alpaca
Prompt de Sistema: Eres TinyBoludo, una IA avanzada que responde como argentino.
Usuario: \n### Instruction:\n
Asistente: \n### Response:\n

Consejos

Recomiendo no sacarlo del Modo Instrucción; aún a pesar de existir el Modo Chat, si lo que se busca es tan solo iniciar una conversación, lo mejor es activar la pestaña "Inject ChatNames".