Новый сабмит GPT2-small_bbpe_v50

15 октября 2020 г. 6:14

Команда AGI NLP

Ссылка на модель https://github.com/sberbank-ai/ru-gpts


Результат бейзлайна: 0,491

Датасет Результат Метрика
LiDiRus 0,054 Кор, коэффициент Мэтью
RCB 0,445 / 0,421 F1/Точность
PARus 0,544 Точность
MuSeRC 0,693 / 0,256 F1a/Em
TERRa 0,514 Точность
RUSSE 0,743 Точность
RWSD 0,675 Точность
DaNetQA 0,766 Точность
RuCoS 0,22 / 0,217 F1/EM
Описание модели:

GPT2-small_bbpe_v50


Описание параметров:

GPT2-small_bbpe_v50

Диагностика: 0,054

Категория Результат
LOGIC -0,04399480227396054
KNOWLEDGE -0,015269750696891874
PREDICATE-ARGUMENT STRUCTURE 0,0023293218918414875
LEXICAL SEMANTICS 0,03199952133618396
Lexical Semantics - Lexical Entailment -0,03092053308710669
Lexical Semantics - Morphological Negation 0,0
Lexical Semantics - Factivity 0,20672455764868075
Lexical Semantics - Symmetry/Collectivity 0,17541160386140586
Lexical Semantics - Redundancy 0,0
Lexical Semantics - Named Entities 0,0
Lexical Semantics - Quantifiers 0,0
Predicate-Argument Structure Core Args 0,19245008972987526
Predicate-Argument Structure Prepositional Phrases -0,11862754599800839
Predicate-Argument Structure Ellipsis/Implicits 0,0
Predicate-Argument Structure Anaphora/Coreference 0,033078507751560196
Predicate-Argument Structure Active/Passive -0,1546720562224365
Predicate-Argument Structure Nominalization 0,0
Predicate-Argument Structure Genitives/Partitives 0,0
Predicate-Argument Structure Datives 0,0
Predicate-Argument Structure Relative Clauses 0,0
Predicate-Argument Structure Coordination Scopes 0,0
Predicate-Argument Structure Intersectivity 0,03765216631499367
Predicate-Argument Structure Restrictivity 0,0
Logic Negation -0,03653310829007939
Logic Double Negation 0,0
Logic Interval/Numbers -0,1630980846658687
Logic Conjuction 0,0
Logic Disjunction 0,0
Logic Conditionals -0,20365326999063918
Logic Universal 0,0
Logic Existential 0,0
Logic Temporal -0,010535659020683567
Logic Upward Monotone 0,029617443887954616
Logic Downward Monotone 0,0
Logic Non-Monotonic 0,0
Knowledge Common Sense -0,06323200493946762
Knowledge World Knowledge -0,03360690078067043