Datasets:

PORTULAN
/

extraglue

This is the dataset card for extraGLUE. You may be interested in some of the other datasets for Portuguese and in the models trained with them, namely Albertina (encoders) and Gervásio (decoders) families.

ExtraGLUE

ExtraGLUE is a Portuguese dataset obtained by the automatic translation of some of the tasks in the GLUE and SuperGLUE benchmarks. Two variants of Portuguese are considered, namely European Portuguese and American Portuguese. The dataset is distributed for free under an open license.

The 14 tasks in extraGLUE cover different aspects of language understanding:

Single sentence

SST-2 is a task for predicting the sentiment polarity of movie reviews.

Semantic similarity

MRPC is a task for determining whether a pair of sentences are mutual paraphrases.
STS-B is a task for predicting a similarity score (from 1 to 5) for each sentence pair.

Inference

MNLI is a task to determine if a given premise sentence entails, contradicts, or is neutral to a hypothesis sentence; this task includes matched (in-domain) and mismatched (cross-domain) validation and test sets.
QNLI is a question-answering task converted to determine whether the context sentence contains the answer to the question.
RTE is a task for determining whether a premise sentence entails a hypothesis sentence.
WNLI is a pronoun resolution task formulated as sentence pair entailment classification where, in the second sentence, the pronoun is replaced by a possible referent.
CB comprises short texts with embedded clauses; one such clause is extracted as a hypothesis and should be classified as neutral, entailment or contradiction.
AX_b is designed to test models across a wide spectrum of linguistic, commonsense, and world knowledge; each instance contains a sentence pair labeled with entailment or not entailment.
AX_g is designed to measure gender bias, where each premise sentence includes a male or female pronoun and a hypothesis includes a possible referent for the pronoun.

Question answering

BoolQ is a question-answering task where yes/no questions are given for short text passages.
MultiRC is a task where, given a context paragraph, a question, and an answer, the goal is to determine whether the answer is true; for the same context and question, more than one answer may be correct.

Reasoning

CoPA is a casual reasoning task: given a premise, two choices, and a cause/effect prompt, the system must choose one of the choices.

If you use this dataset please cite:

@inproceedings{osorio-etal-2024-portulan,
  title = "{PORTULAN} {E}xtra{GLUE} Datasets and Models: Kick-starting a Benchmark for the Neural Processing of {P}ortuguese",
  author = "Os{\'o}rio, Tom{\'a}s Freitas  and
    Leite, Bernardo  and
    Lopes Cardoso, Henrique  and
    Gomes, Lu{\'\i}s  and
    Rodrigues, Jo{\~a}o  and
    Santos, Rodrigo  and
    Branco, Ant{\'o}nio",
  editor = "Zweigenbaum, Pierre  and
    Rapp, Reinhard  and
    Sharoff, Serge",
  booktitle = "Proceedings of the 17th Workshop on Building and Using Comparable Corpora (BUCC) @ LREC-COLING 2024",
  month = may,
  year = "2024",
  address = "Torino, Italia",
  publisher = "ELRA and ICCL",
  url = "https://aclanthology.org/2024.bucc-1.3",
  pages = "24--34",
}

Acknowledgments

The research reported here was partially supported by: PORTULAN CLARIN—Research Infrastructure for the Science and Technology of Language, funded by Lisboa 2020, Alentejo 2020 and FCT—Fundação para a Ciência e Tecnologia under the grant PINFRA/22117/2016; research project GPT-PT - Transformer-based Decoder for the Portuguese Language, funded by FCT—Fundação para a Ciência e Tecnologia under the grant CPCA-IAC/AV/478395/2022; innovation project ACCELERAT.AI - Multilingual Intelligent Contact Centers, funded by IAPMEI, I.P. - Agência para a Competitividade e Inovação under the grant C625734525-00462629, of Plano de Recuperação e Resiliência, call RE-C05-i01.01 – Agendas/Alianças Mobilizadoras para a Reindustrialização; and Base Funding (UIDB/00027/2020) and Programmatic Funding (UIDP/00027/2020) of the Artificial Intelligence and Computer Science Laboratory (LIACC) funded by national funds through FCT/MCTES (PIDDAC).

Downloads last month: 403

Size of downloaded dataset files:

307 MB

Size of the auto-converted Parquet files:

77.9 MB

Number of rows:

535,002

Models trained or fine-tuned on PORTULAN/extraglue

PORTULAN/gervasio-7b-portuguese-ptpt-decoder

Text Generation • Updated Mar 26 • 495 • 7

PORTULAN/gervasio-7b-portuguese-ptbr-decoder

Text Generation • Updated Apr 2 • 278 • 9

sentence2 stringlengths 11 342	sentence1 stringlengths 11 342	idx int64 0 1.1k	label int64 0 1
O gato não se sentou no tapete.	O gato sentou-se no tapete.	0	1
O gato sentou-se no tapete.	O gato não se sentou no tapete.	1	1
Quando se tem neve, é muito difícil aprender um esporte de neve, então analisamos todas as maneiras diferentes de imitar a neve sem realmente estar na neve.	Quando não há neve, é muito difícil aprender um esporte de neve, então analisamos todas as maneiras diferentes de imitar a neve sem realmente estar na neve.	2	1
Quando não há neve, é muito difícil aprender um esporte de neve, então analisamos todas as maneiras diferentes de imitar a neve sem realmente estar na neve.	Quando se tem neve, é muito difícil aprender um esporte de neve, então analisamos todas as maneiras diferentes de imitar a neve sem realmente estar na neve.	3	1
Fora da caixa, o Ouya não é compatível com aplicativos de mídia, como o Twitch.tv e o XBMC media player.	Pronto para uso, o Ouya suporta aplicativos de mídia como o Twitch.tv e o XBMC media player.	4	1
Pronto para uso, o Ouya suporta aplicativos de mídia como o Twitch.tv e o XBMC media player.	Fora da caixa, o Ouya não é compatível com aplicativos de mídia, como o Twitch.tv e o XBMC media player.	5	1
Pronto para uso, o Ouya suporta o Twitch.tv e o reprodutor de mídia XBMC.	Pronto para uso, o Ouya suporta aplicativos de mídia como o Twitch.tv e o XBMC media player.	6	0
Pronto para uso, o Ouya suporta aplicativos de mídia como o Twitch.tv e o XBMC media player.	Pronto para uso, o Ouya suporta o Twitch.tv e o reprodutor de mídia XBMC.	7	0
Considerando essa definição, não é surpreendente encontrar o uso frequente de linguagem sarcástica em conteúdo opinativo gerado pelo usuário.	Considerando essa definição, é surpreendente encontrar o uso frequente de linguagem sarcástica em conteúdo opinativo gerado pelo usuário.	8	1
Considerando essa definição, é surpreendente encontrar o uso frequente de linguagem sarcástica em conteúdo opinativo gerado por usuários.	Considerando essa definição, não é surpreendente encontrar o uso frequente de linguagem sarcástica em conteúdo opinativo gerado pelo usuário.	9	1
O novo console de jogos é inacessível.	O novo console de jogos é acessível.	10	1
O novo console de jogos é acessível.	O novo console de jogos é inacessível.	11	1
O Brexit é uma decisão reversível, disse Sir Mike Rake, presidente da WorldPay e ex-presidente do grupo BT, quando os apelos para um segundo referendo sobre a União Europeia foram desencadeados na semana passada.	O Brexit é uma decisão irreversível, disse Sir Mike Rake, presidente da WorldPay e ex-presidente do grupo BT, quando os apelos para um segundo referendo sobre a União Europeia foram desencadeados na semana passada.	12	1
O Brexit é uma decisão irreversível, disse Sir Mike Rake, presidente da WorldPay e ex-presidente do grupo BT, quando os apelos para um segundo referendo sobre a União Europeia foram desencadeados na semana passada.	O Brexit é uma decisão reversível, disse Sir Mike Rake, presidente da WorldPay e ex-presidente do grupo BT, quando os apelos para um segundo referendo sobre a União Europeia foram desencadeados na semana passada.	13	1
Construímos nossa sociedade com base em energia limpa.	Construímos nossa sociedade com base em energia impura.	14	1
Construímos nossa sociedade com base em energia impura.	Construímos nossa sociedade com base em energia limpa.	15	1
Seguindo uma estratégia de protesto violento, Gandhi pegou a administração de surpresa e obteve concessões das autoridades.	Seguindo uma estratégia de protesto não violento, Gandhi pegou a administração de surpresa e obteve concessões das autoridades.	16	1
Seguindo uma estratégia de protesto não violento, Gandhi pegou a administração de surpresa e obteve concessões das autoridades.	Seguindo uma estratégia de protesto violento, Gandhi pegou a administração de surpresa e obteve concessões das autoridades.	17	1
Seguindo uma estratégia de protesto, Gandhi pegou a administração de surpresa e obteve concessões das autoridades.	Seguindo uma estratégia de protesto não violento, Gandhi pegou a administração de surpresa e obteve concessões das autoridades.	18	0
Seguindo uma estratégia de protesto não violento, Gandhi pegou a administração de surpresa e obteve concessões das autoridades.	Seguindo uma estratégia de protesto, Gandhi pegou a administração de surpresa e obteve concessões das autoridades.	19	1
E se ambos se aplicam, eles são essencialmente possíveis.	E se ambos se aplicam, eles são essencialmente impossíveis.	20	1
E se ambos se aplicam, eles são essencialmente impossíveis.	E se ambos se aplicam, eles são essencialmente possíveis.	21	1
Escrever em Java é semelhante a programar com algemas.	Escrever em Java não é muito diferente de programar com algemas.	22	0
Escrever em Java não é muito diferente de programar com algemas.	Escrever em Java é semelhante a programar com algemas.	23	0
O mercado está prestes a se tornar mais difícil, mas possível de navegar.	O mercado está prestes a se tornar mais difícil, mas não impossível de navegar.	24	0
O mercado está prestes a se tornar mais difícil, mas não impossível de navegar.	O mercado está prestes a se tornar mais difícil, mas possível de navegar.	25	0
Mesmo depois de descobrir que se trata de ração animal, nunca deixarei de ser viciado em Flamin' Hot Cheetos.	Mesmo depois de descobrir que se trata de ração animal, nunca deixarei de ser viciado em Flamin' Hot Cheetos.	26	0
Mesmo depois de descobrir que se trata de ração animal, nunca deixarei de ser viciado em Flamin' Hot Cheetos.	Mesmo depois de descobrir que se trata de ração animal, nunca deixarei de ser viciado em Flamin' Hot Cheetos.	27	0
Ele concordava com a posição do partido, mas achava que, se renunciasse, sua popularidade entre os indianos deixaria de sufocar os membros do partido.	Ele não discordava da posição do partido, mas achava que, se renunciasse, sua popularidade entre os indianos deixaria de sufocar os membros do partido.	28	0
Ele não discordava da posição do partido, mas achava que, se renunciasse, sua popularidade entre os indianos deixaria de sufocar os membros do partido.	Ele concordava com a posição do partido, mas achava que, se renunciasse, sua popularidade entre os indianos deixaria de sufocar os membros do partido.	29	0
Se o esquema de tokenização do pipeline não corresponder ao que foi usado quando um modelo foi criado, um impacto negativo nos resultados do pipeline não seria inesperado.	Se o esquema de tokenização do pipeline não corresponder ao que foi usado quando um modelo foi criado, seria esperado um impacto negativo nos resultados do pipeline.	30	0
Se o esquema de tokenização do pipeline não corresponder ao que foi usado quando um modelo foi criado, seria esperado um impacto negativo nos resultados do pipeline.	Se o esquema de tokenização do pipeline não corresponder ao que foi usado quando um modelo foi criado, um impacto negativo nos resultados do pipeline não seria inesperado.	31	0
Se o esquema de tokenização do pipeline não corresponder ao que foi usado quando um modelo foi criado, espera-se que isso afete negativamente os resultados do pipeline.	Se o esquema de tokenização do pipeline não corresponder ao que foi usado quando um modelo foi criado, seria esperado um impacto negativo nos resultados do pipeline.	32	0
Se o esquema de tokenização do pipeline não corresponder ao que foi usado quando um modelo foi criado, seria esperado um impacto negativo nos resultados do pipeline.	Se o esquema de tokenização do pipeline não corresponder ao que foi usado quando um modelo foi criado, espera-se que isso afete negativamente os resultados do pipeline.	33	0
Se o esquema de tokenização do pipeline não corresponder ao que foi usado quando um modelo foi criado, não seria inesperado que isso afetasse negativamente os resultados do pipeline.	Se o esquema de tokenização do pipeline não corresponder ao que foi usado quando um modelo foi criado, seria esperado um impacto negativo nos resultados do pipeline.	34	0
Se o esquema de tokenização do pipeline não corresponder ao que foi usado quando um modelo foi criado, seria esperado um impacto negativo nos resultados do pipeline.	Se o esquema de tokenização do pipeline não corresponder ao que foi usado quando um modelo foi criado, não seria inesperado que isso afetasse negativamente os resultados do pipeline.	35	0
A água está muito fria.	A água está muito quente.	36	1
A água está muito quente.	A água está muito fria.	37	1
O Falcon Heavy é o menor foguete desde o propulsor Saturn V da NASA, que foi usado para as missões à Lua na década de 1970.	O Falcon Heavy é o maior foguete desde o impulsionador Saturn V da NASA, que foi usado para as missões à Lua na década de 1970.	38	1
O Falcon Heavy é o maior foguete desde o propulsor Saturn V da NASA, que foi usado para as missões à Lua na década de 1970.	O Falcon Heavy é o menor foguete desde o propulsor Saturn V da NASA, que foi usado para as missões à Lua na década de 1970.	39	1