|
--- |
|
license: apache-2.0 |
|
library_name: transformers |
|
datasets: |
|
- jmibarlucea/mistral-argentina-reddit |
|
- cerebras/SlimPajama-627B |
|
- HuggingFaceH4/ultrachat_200k |
|
- hkust-nlp/deita-10k-v0 |
|
- Open-Orca/SlimOrca-Dedup |
|
- cognitivecomputations/WizardLM_evol_instruct_V2_196k_unfiltered_merged_split |
|
- HuggingFaceH4/capybara |
|
- meta-math/MetaMathQA |
|
- argilla/ultrafeedback-binarized-preferences-cleaned |
|
- Intel/orca_dpo_pairs |
|
- alexredna/oasst2_dpo_pairs |
|
pipeline_tag: text-generation |
|
tags: |
|
- llama-cpp |
|
- koboldcpp |
|
- argentina |
|
- 1b |
|
- 4-bit |
|
- tinyllama |
|
language: |
|
- es |
|
- arg |
|
--- |
|
|
|
# TinyBoludo V2 馃嚘馃嚪 [Gorila Edition 鉁宂 |
|
Mejora del TinyBoludo V1. Esta versi贸n cuenta con mayor cantidad de datasets. |
|
|
|
## Prop贸sito |
|
La idea de este modelo surgi贸 a raiz de la necesidad de tener un peque帽o modelo con identidad nacional capaz de funcionar hasta en una tostadora debido al estado emergente del pa铆s donde pocos pueden darse el lujo de contar con un celular de mas de 3 Gb de RAM. |
|
|
|
--- |
|
# KoboldCpp |
|
|
|
<center><a href="https://ibb.co/qL8BGTKn"><img src="https://i.ibb.co/zWgscqp5/IMG-20250203-041044.jpg" alt="IMG-20250203-041044" border="0"></a></center> |
|
|
|
## Inferencia |
|
``` |
|
Context Size: A elecci贸n, cuanto mas mejor. |
|
Max Output: A elecci贸n, es la cantidad de texto. |
|
Temp: 0.3 | Rep. Pen: 1.07 | Top. P: 0.92 |
|
Top. K: 100 | Top. A: 0.96 | Typ: 1 |
|
TFS: 1 | Min-P: 0 | Pr. Pen: 0 | Smooth F: 0 |
|
Seed: -1 | Rp. Range: 360 | Rp. Slope: 0.7 |
|
``` |
|
|
|
## Etiqueta de Instrucci贸n |
|
- **Preset:** Alpaca |
|
|
|
- **Prompt de Sistema:** Eres TinyBoludo, una IA avanzada que responde como argentino. |
|
|
|
- **Usuario:** \n### Instruction:\n |
|
|
|
- **Asistente:** \n### Response:\n |
|
|
|
### Consejos |
|
Recomiendo no sacarlo del Modo Instrucci贸n; a煤n a pesar de existir el Modo Chat, si lo que se busca es tan solo iniciar una conversaci贸n, lo mejor es activar la pesta帽a "Inject ChatNames". |
