SetFit with akhooli/sbert_ar_nli_500k_norm

This is a SetFit model that can be used for Text Classification. This SetFit model uses akhooli/sbert_ar_nli_500k_norm as the Sentence Transformer embedding model. A LogisticRegression instance is used for classification.

The model has been trained using an efficient few-shot learning technique that involves:

Fine-tuning a Sentence Transformer with contrastive learning.
Training a classification head with features from the fine-tuned Sentence Transformer.

Model Details

Model Description

Model Type: SetFit
Sentence Transformer body: akhooli/sbert_ar_nli_500k_norm
Classification head: a LogisticRegression instance
Maximum Sequence Length: 512 tokens
Number of Classes: 3 classes

Model Sources

Repository: SetFit on GitHub
Paper: Efficient Few-Shot Learning Without Prompts
Blogpost: SetFit: Efficient Few-Shot Learning Without Prompts

Model Labels

Label	Examples
sad	'نظير أب كنا فقدنا ومحبوب يمينا لقد جددت لي حزن يعقوب وهيجت أحزاني على خير صاحب لقيت الذي لاقاه يا خير مصحوب لئن كنت خالا زان حجب أخوة لقد كنت وجها للتقى غير محجوب وإن كنت كم أقررت لي عين فارح لقد سخنت من بعدها عين مكروب أقلب قلبا بالأسى أي واجب وأندب شخصا في الثرى أي مندوب بكيتك للحسنى وللبر والتقى وللبركات الموفيات بمطلوبي وللشمل مجموعا بيمنك وادعا وللخير كم سببته خير تسبيب بكتك محاريب التهجد في الدجى بكاء شج حاني الجوانح محروب بكتك زوايا الزهد كانت خبيئة لسكانها تدني لهم كل مرغوب بكتك ذوو الحاجات كنت إذا دعوا سفيرا لمضرور مجيرا لمنكوب بكتك ديار كنت أعطف والدا لمن حل من شبانها ومن الشيب وطائر يمن قد أويت كوكرها إلى نسب القربى بها خير منسوب إذا ألسن الآثار عنك تذاكرت شممنا على تذكارها نفحة الطيب عليك سلام الله من مترحل ترحل ذي جود من السحب مسحوب وهنئت بالجنات يا تاركي على سعير من الأحزان بعدك مشبوب نفارق محبوبا بدمع وحسرة فمن بين تصعيد عليك وتصويب وخفف ما نلقى من الحزن أننا بمن غاب عنا لاحقون بترتيب وما هذه الأيام إلا ركائب إلى الموت في نهج من العمر مركوب إذا ظن تبعيد الحمام وصلنه بشد على رغم النفوس وتقريب فكم هرم أو ناشئ عملت به عوامل من مجرور خطب ومنصوب وكم هين الأخلاق أو متغلب نفاه بحتم غالب غير مغلوب وكم ذي كتاب في الورى وكتيبة غدا داخلا من موته تحت مكتوب وكم غافل يلهو بساق من المنى يدير على أمثاله وعد عرقوب وكم آمل في العمر يحسب حاصلا أتاه حمام عاجل غير محسوب ودم يا إمام الوقت عمن فقدته وعش عيش مرجو مدى الدهر موهوب مضى الخال حيث الوجه باق لمادح فما الدهر فيما قد أتاه بمعتوب' 'دمع هوى سلكاه عن جلد وهى وجو أصيب فؤاده فتأوها نهنهت من دمعي فأقبل عاصيا والدمع أعصى ما يكون منهنها يا مودعا جفني السهاد مودعا وموليا ترك الفؤاد مولها قد كان عيشي بالدنو وخفضه سنة غدا كلفي بها متنبها حجبوا الأهلة في الأكلة وانثنوا فثوى كئيبا بالوداع متوها هز الدلال قدودهن وغبطة هز الأراك غصونه متشبها ولقد بعثن إلى الغصون ملامحا منها ومن لحظ العيون إلى المها يبدون كالشمس المنيرة حسرا وملثمين وكالأهلة أوجها ومنزه عن مشبه في حسنه أصبحت فيه عن السلو منزها منح القلى ونهى الجفون عن الكرى أهلا بما منح الحبيب وما نهى كيف السبيل إلى القلى وشفيعه وجه وجيه الحكم كيف توجها ألحاظه أسيافه وسنانه وسنانه إن جد فينا أو لها ولكم بليت بلائم في حبه أضحى ألدا في الخصام مفوها كان المفوه جاهدا فرددته مثنى العنان عن الملام مفهها يا كم زجرت المستهام فما ارعوى ونهيته كي يستفيق فما انتهى إني ألذ وأشتهي سقمي به ومن الشقاوة ما يلذ ويشتهى وتنوفة مجهولة جاورتها بنجيبة تطوى فتطوي المهمها فأريتها أوضاحها في ليلة بدر التمام بأفقها مثل السها جلبت سحابتها بلامع برقها وحيا بكى طربا لرعد قهقها تزجى إلى البحر المحيط محمد ذاك الذي فتح اللها بيد اللها بالكامل بن العادل المنصور قد نادى الندى لما دعاه مؤبها يا أيها الملك الذي لولاه لم يك في الورى لأبيه خلق مشبها بجحت دمشق على البلاد منيفة بمحمد تزهو كأحسن ما زها كمحمد إذ جاء يثرب قادما ومهاجرا ومنولا ومنوها أضحى السعيد الكامل الأوصاف مث ل الشمس حلت أوجها بل أوجها مستيقظ للملك رآب الثأى ما زال فيه منبها ومنبها وافته باليمن الأماني ما ونى ال إقسيس فيما جد فيه ولا وهى فأتى به فتح الفتوح مبيضا لكن من الأعداء سود أوجها بمشتت العزمات مرهوب الشبا متشاغل بالجد عنه ما لها فانهد إليه بعزمة شاذية فبها ينال من الأعادي ما اشتهى إن الممالك صرن في أيديكم وقفا عليكم مثل آمد والرها كل الممالك جنة بل سدرة ولديكم المأوى لها والمنتهى أنتم شموس بل بدور طلع وسواكم مثل الثريا والسها صدقاتكم أبقت عليكم ملككم ما فيكم من ساعة عنها لها ما ضيغم في الغيل يكشر قالصا عن ناجذيه مهجهجا ومجهجها يوما بأعظم فتكة منه إذا ما الصافنات نكصن عنه فرها يعد الجوائز موفيا بوعوده لم يأل في درء الخطوب المدرها خذها مكملة الحجى من أفوه قد فاق في حسن المقال الأفوها مدح لو الحجر الأصم غدا له سمع وأنشد بيتها لتدهدها وإذا المعيد شدا بها في مجلس طرب الجماد فلو أطاق لزهزها' 'جزعت أن شت صرف الحي فانفرقوا وأجمعوا البين بالرهن الذي علقوا فقمت أتبعهم عينا إذا طمعت أن يرعووا أو يعوجوا ساعة وسقوا لماحة يرفع الشخص البعيد لها قبل العيون إذا ما اغرورق الحدق واستنفروا بنوى حذاء تقذفهم إلى أقاصي هواهم ساعة انطلقوا إذا علوا ظهر حرباء يحاملهم آل الضحى وإذا ما أسهلوا غرقوا في آل دوية تجري السراب بها إذا ترقرق ضحل القاعة القرق وصاحب غير نكس قد نشأت به عن نومة وهو فيها مهمد أنق مسافر فرشته الأرض منزلة أدى كراه إليها النص والعنق فمال ميلا ولم يسلخ بواطنه سربا عن ذنوب المتن منخرق كأنه شارب يشفي لذاذته بالخمر أو وارم الأوداج مختنق فقمت أخبره بالغيث لم أره والبرق إذ أنا محزون له أرق مزن تسبح في ريح شآمية مكلل بعماء الماء منطلق لما اكفهر شريقي اللوى وأوى إلى تواليه من سفاره رفق تربص اليل حتى قال شائمه على الرويشد أو خرجائه يدق حتى إذا المنظر الغربي جاد دما من حمرة الشمس لما اغتالها الأفق القى على ذات أحفار كلاكله وشب نيرانه وانجاب يأتلق نارا يراجع منها العود جدته والنار تسفع عيدانا فتحترق وبات يحتلب الجوزاء درتها بنوئها حين هاجت مربع لثق يبكي ليدرك فحلا كان ضيعه بريق سبط منه وينزهق فما به بطن واد غب نضحته وإن تراغب إلا مسفه تئق جون المسارب رقراق تظل به شم المخارم والأثناء تصطفق يكاد يطلع صعدا ثم يغلبه غر الظواهر فالوادي به شرق إذا تحرف من برواء معرضة دعاه أبطح ذو حرفين منفهق عود له شعب يدعين أودية بملتقاهن منه الصفو والرتق فمن حصاه نقي في جوانبه مع الغثاء ومنه الراسب الغرق مستمسك بعزاز الأرض ضن به كاد يرد غراب الفاس مطرق يوما يظل به الحرباء معتقلا جذع الهشيمة يعلو ثم يرتفق كأنه شيخ سوء بز خلعته عاري الأشاجع مكلوم به رمق'
love	'أعدي علي هواه خصم جفونه مالي به قبل ولا بفنونه إن لم تجرني منه رحمة قلبه من ذا يجير عليه ملك يمينه صاب من الأتراك أصبى مهجتي فعبدت نور الحسن فوق جبينه متمكن في الحسن نون صدغه فتبين التمكين في تنوينه تنساب عقرب صدغه في جنة لم يجن منها الصب غير منونه ولوى ضفيرته فولى مدبرا فعل الكليم ارتاع من تبيينه قد أطمعتني فيه رقة خده لو أمكنتني فيه رقة دينه ورجوت لين قوامه لو لم يكن كالرمح شدة طعنه في لينه شاكي السلاح وما الذي في جفنه أعدى علي من الذي بجفونه ناديته لما ندت لي سينه وشعرت من لفظ السلام بسينه رحماك في دنف غدا وحياته ومماته وحراكه كسكونه إن لم تمن علي منة راحم فمناه أن يلقاه ريب منونه ولذا أبيت سوى سمات عدوه فأمانه من ذاك ظهر أمونه سننيخها في باب أروع ماجد فيرى محل الفضل حق يقينه حيث المعارف والعوارف والعلا في حد مجد جامع لفنونه بدر وفي الحسن بن أحمد التقت نجب مررن على العطا بركونه تبغي مناها في مناها عنده وتطوف بالحاجات عند حجونه فرع من الأصل اليماني طيب ورث البيان وزاد في تبيينه يبدي البشاشة في أسرة وجهه طورا ويحمي العز في عرنينه بسطت شمائله الزمان كمثل ما بسط الغناء نفوسنا بلحونه يثني عليه كل فعل سائر كالمسك اذ تثني على دارينه' 'لها الله عني ضامن وكفيل يتابع فيها أو يطاع عذول أبيت بأعلى الحزن والرمل عنده مغان لها معفوة وطلول وقد كنت أهوى الريح غربا مآبها فقد صرت أهوى الريح وهي قبول ومازالت الأحلام حتى التقى لنا خيالان باغي نائل ومنيل أنبهها وهنا وفي فضل مرطها مصاب قواه بالنعاس قتيل فيا حسنها إذ هب من سنة الكرى صريع بصيك الزعفران رميل عذرت النوى فيمن إليه اختيارها فما عذرها في الملك حين يزول أما وزعتني النفس عن بين ملصق إلى النفس تبكي بينه وتعول بلى قد تكرهت الفراق وأشفقت جوانح منها مثبت وعليل ودافعت جهدي عن ثريا فلم يكن إلى منعها من أن تباع سبيل فلا وصل إلا أن تجدد خلة ولا أنس إلا أن يكون بديل ولو أنجبت أم البريدي ما نأى علي جداه والبخيل بخيل نبا في يدي وابن اللئيمة واجد وينبو الحديث الطبع وهو صقيل بدا بالسباط الشقر والمرء مبتد من الناس بالرهط الذين يعول وكنت خليقا أن يشيع منتي عزاء على ما فات منه جميل فهل ينفعني في حمولة أنه لأوزن ما أعيا الرجال حمول أسى في نفوس الحاسدين وحسرة وغيظ على أكبادهم وغليل وكانوا إذا راموا تعاطي سعيه يفيء بعجز رأيهم فيفيل وما نقموا إلا تخرق منعم يطوع لهم إحسانه فيطول له همة نلقي عليها مهمنا فيدنو بعيد أو يدق جليل أقامت لنا عوج الخطوب ورحلت نوائب هذا الدهر وهي نزول فأصبح ما نرجو مؤدا قصيه إلينا وغالت ما نحاذر غول ولي أياد عندنا ما يغبها ثناء على سمع العدو ثقيل وكيف تخل الأرض بالنبت فوقها تحرى سماء ما تزال تخيل له بين جوذرز وبيب مناقب شراوى لأعلام الدجى وشكول فما سعيه عن نيلهن مؤخر ولا حده عن حوزهن كليل خطبنا إليه قوله غب فعله ومن يفعل المعروف فهو يقول وما ساعة من جاهه دون جوده بمبعدة من أن ينال جزيل أراني حقيقا أن أؤول إلى الغنى إذا كانت الشورى إليك تثول وإني على غربي وشغب شكيمتي لمعتبد للطول منك ذليل جلا أوجه الآمال حتى أضاءها هلال عليه بهجة وقبول صغير يرجى للكبير ضحى غد وكم من كثير قد بداه قليل نؤمل أن تسري إلينا وتغتدي أساكيب من آلائه وفضول إذا استحدثت فيكم زيادة واحد تدفق بحر أو تلاحق نيل' 'لا والتفات الظباء بالمقل وطيب غصن الخدود بالقبل وفطنة الشاعر الأريب إذا حل سراويل مطرق خجل وحرمة الرهز والفراغ على بيض غلام مرجرج الكفل لا زرت ظهر الحرام معتكفا ملبيا راكبا على جمل إلا على ظهر أمرد خنث تميل أردافه من الثقل لا أصحب الله فتية طربوا إلى ذوات الثدي والحبل أيورهم في الأنام قد وسمت جباهها هؤلا من السفل من أنا في موقف الحساب إذا نودي بالأنبياء والرسل ذلك يوم يجل عن خطري فما لمثلي هناك من عمل هنت على الخالق الجليل فما ينظر في قصتي ولا زللي'
joy	'رأى فحب فرام الوصل فامتنعوا فهام عشقا فاضني جسمه فنضا وحاول القرب فاستعصت مطالبه فسام صبرا فاعي نيله فقضا' 'حسب الأمير سماح وطد الحسبا ورتبة في المعالي فاتت الرتبا أعطى فقال العفاة النازلون به أنائلا أنشأت كفاه أم سحبا أغر لا يتحامى قرنه أبدا حتى يرد غرار السيف مختضبا كالليث لا يسلب الأعداء بزهم في الروع لكن ترى أرواحهم سلبا لا يعرف الغدر ما ضمت جوانحه على الوفاء ولا يبقي إذا وثبا أما عدي فقد عدته سيدها نجابة وهي تدعى السادة النجبا أسد إذا حاولت أرض العدا حملت على الكواهل غابا للقنا أشبا لما هممت بآثار مجددة حدوت للحاسد الأحزان والكربا أنشأته منزلا في قلب دجلة لا تمتاح جنته الغدران والقلبا صفا الهواء به والماء فاشتبها كأن بينهما من رقة نسبا وأصبح الغيث مخلوع العذار به فليس يخلع أبراد الحيا القشبا فمن جنان تريك النور مبتسما في غير إبانه والماء منسكبا ومن سواق على خضراء تحسبها مخضرة البسط سلوا فوقها القضبا كأن دولابها إذ حن مغترب نأى فحن إلى أوطانه طربا باك إذا عق زهر الروض والده من الغمام غدا فيه أبا حدبا مشمر في مسير ليس يبعده عن المحل ولا يهدي له تعبا ما زال يطلب رفد البحر مجتهدا للبر حتى ارتدى النوار والعشبا فالنخل من باسق فيه وباسقة يضاحك الطلع في قنوانه الرطبا أضحت شماريخه في الجو مطلعة إما ثريا وإما معصما خضبا تريك في الظل عقيانا فإن نظرت شمس النهار إليها خلتها لهبا والكرم مشتبك الأفنان توسعنا أجناسه في تساوي شربها عجبا فكرمة قطرت أغصانها سبجا وكرمة قطرت أغصانها ذهبا كأنما الورق المخضر دونهما غيران يكسوهما من سندس حجبا والماء مطرد فيه ومنعرج كأنما ملئت حياته رعبا وبركة ليس يخفي موج لجتها من القذى ما طفا فيها وما رسبا تسدي عليها الصبا بردا فإن ركدت رأيته دارس الأفواف مستلبا قد كللت بنجوم للحباب ضحى فإن دجا الليل عادت أنجما شهبا ترى الإوز سروبا في ملاعبها كما تأملت في ديباجة لعبا يرف منه على أمواجها زهر أربى على الزهر حتى عاد مكتئبا مسلم وسباع الطير حائمة يخطفن ما طار في الآفاق أو سربا كأنما الجارح المرهوب يحذره فليس يوفي عليه جارح ذهبا وسهم فوارة ما ارتد رائده حتى أصاب من العيوق ما طلبا أوفى فلم تثنه حرب الشمال وقد لاقته فاعتركا في الجو واحتربا كأن بركته درع مضاعفة تقل رمح لجين منه منتصبا والقصر يبسم في وجه الضحىفترى وجه الضحى عندما أبدى لنا شحبا يبيت أعلاه بالجوزاء منتطقا ويغتدي برداء الغيم محتجبا تطأمن نحوه الإيوان حين سما ذلا فكيف تضاهي فارس العربا إذا القصور إلى أربابها انتسبت أضحى إلى القمة العلياء منتسبا فصله لا وصلتك الحادثات ولا زالت سعودك فيه تنفد الحقبا بر وبحر وكثبان مدبجة ترى النفوس الأماني بينها كثبا ومنزل لا تزال الدهر عقوته جديدة الروض جد الغيث أو لعبا حصباؤه لؤلؤ نثر وتربته مسك ذكي فلو لم تحمه انتهبا وكل ناحية منه زبرجدة أجرى اللجين عليها جدولا سربا فإن دعاك إليه ذكر مأدبة فما نشأت وفيها للعلى أدبا وإن دعاك له ظل فرب وغى جعلت ظلك منها السمر والعذبا لا تكذبني فإني في مدائحكم مصدق القول لا أستحسن الكذبا من رام في الشعر شأوي كل عنه ومن ناوى أبا تغلب في سؤدد غلبا' 'صنو الرسول تحية وسلام عزت بك الأعراب والإسلام ياذا المهابة والوقار وعزة وفتى حمي الانف ليس يضام فاروق يا رمز العدالة والنهى لك في القلوب محبة وغرام او ما ترانا حول عيدك نلتقي وبفضل ذاك قلوبنا تلتام واذكرياتك اذ تعود بنا إلى ايام كنت ويا لها ايام ايام كان المجد مرتفع الذرى وعلى جبين الدهر منه سهام أيام كنا امة عربية تسعى إلى العلياء ليس تنام أيام كان الحق أوفر قوة وتعانق الصمصام والاقلام يا ايها الرجل العظيم وذكره حفلت به الاحقاب والاعوام وافى على جمل أجب وخادم لم تثنه الاوصاب والآلام ما اعدل الفاروق يمشي خاشعا والرمل لا ظهر البعير سنام والشمس تشرق فوقه ويزينه نور اليقين وهيبة وسلام طوباك أذ قدت البعير لخادم فتعادل الأسياد والخدام يا فاتح القدس العظيم وسيدا من سادة هم خيرون كرام أجريت حكمك في البلاد ولم تجر وبمثل حكمك تفخر الأحكام أفنيت عمرك خشية وتعبدا وسهرت ليلك والانام نيام وأذبت نفسك في الفضيلة والتقى وعراك من فرط الذهول سقام وحقرت يا صنو الرسول حياتنا ونبذتها وحياتنا اوهام عمر العظيم ألست اعدل فاتح شهدت بعفة نفسه الاقوام أعداء قومك حين يقرن ذكرهم بك حطموا وكأنهم اصنام فتحوا فجاروا واعتدوا يا ويحهم اعداء قومك ناكثون لئام شتان بينك في الحياة وبينهم النور انت وهم هبت ظلام فتحوا البلاد وقال فاتحهم هنا مجد الصليبيين عاد يقام فتحت انت وقلت نصرانية لا تحقروا وليحمها الإسلام ما ابعد القولين هذا سائغ عذب وذاك تمجه الافهام لا تشمتوا يا هؤلاء فاننا قوم على رغم الزمان كرام خلوا البلاد لنا والا بينكم يا عابثين وبيننا الايام'

Evaluation

Metrics

Label	Accuracy
all	0.7539

Uses

Direct Use for Inference

First install the SetFit library:

pip install setfit

Then you can load this model and run inference.

from setfit import SetFitModel

# Download from the 🤗 Hub
model = SetFitModel.from_pretrained("akhooli/setfit_ps")
# Run inference
preds = model("جنينة التين وجيرانها قد طيبت لذاتها وقتي وكثرت عندي ما أشتهي فالتين من فوقي ومن تحتي")

Training Details

Training Set Metrics

Training set	Min	Median	Max
Word count	11	164.8039	1000

Label	Training Sample Count
sad	3200
love	2735
joy	1512

Training Hyperparameters

batch_size: (16, 16)
num_epochs: (1, 1)
max_steps: 4000
sampling_strategy: undersampling
body_learning_rate: (2e-05, 1e-05)
head_learning_rate: 0.01
loss: CosineSimilarityLoss
distance_metric: cosine_distance
margin: 0.25
end_to_end: False
use_amp: False
warmup_proportion: 0.1
l2_weight: 0.01
seed: 42
run_name: setfit_psent_32k_aub_4k
eval_max_steps: -1
load_best_model_at_end: False

Training Results

Epoch	Step	Training Loss	Validation Loss
0.0005	1	0.2456	-
0.05	100	0.2512	-
0.1	200	0.2375	-
0.15	300	0.2092	-
0.2	400	0.1998	-
0.25	500	0.1943	-
0.3	600	0.1777	-
0.35	700	0.1601	-
0.4	800	0.1474	-
0.45	900	0.1475	-
0.5	1000	0.1351	-
0.55	1100	0.1258	-
0.6	1200	0.1198	-
0.65	1300	0.1118	-
0.7	1400	0.108	-
0.75	1500	0.0894	-
0.8	1600	0.0907	-
0.85	1700	0.0756	-
0.9	1800	0.0791	-
0.95	1900	0.068	-
1.0	2000	0.0659	-
1.05	2100	0.05	-
1.1	2200	0.05	-
1.15	2300	0.0502	-
1.2	2400	0.0449	-
1.25	2500	0.038	-
1.3	2600	0.0439	-
1.35	2700	0.0365	-
1.4	2800	0.0397	-
1.45	2900	0.0301	-
1.5	3000	0.0328	-
1.55	3100	0.0265	-
1.6	3200	0.0252	-
1.65	3300	0.0291	-
1.7	3400	0.0292	-
1.75	3500	0.031	-
1.8	3600	0.0246	-
1.85	3700	0.028	-
1.9	3800	0.0298	-
1.95	3900	0.0233	-
2.0	4000	0.0226	-

Framework Versions

Python: 3.10.14
SetFit: 1.2.0.dev0
Sentence Transformers: 3.3.1
Transformers: 4.42.2
PyTorch: 2.4.0
Datasets: 3.1.0
Tokenizers: 0.19.1

Citation

BibTeX

@article{https://doi.org/10.48550/arxiv.2209.11055,
    doi = {10.48550/ARXIV.2209.11055},
    url = {https://arxiv.org/abs/2209.11055},
    author = {Tunstall, Lewis and Reimers, Nils and Jo, Unso Eun Seo and Bates, Luke and Korat, Daniel and Wasserblat, Moshe and Pereg, Oren},
    keywords = {Computation and Language (cs.CL), FOS: Computer and information sciences, FOS: Computer and information sciences},
    title = {Efficient Few-Shot Learning Without Prompts},
    publisher = {arXiv},
    year = {2022},
    copyright = {Creative Commons Attribution 4.0 International}
}

akhooli
/

setfit_ps