--- language: Italian tags: - summarization Italian model datasets: - jrc-acquis widget: - text: "(1999/801/CE) IL CONSIGLIO DELL'UNIONE EUROPEA, visto il trattato che istituisce la Comunità europea, in particolare l'articolo 175, paragrafo 1 e l'articolo 300, paragrafo 2, prima frase e paragrafo 3, primo comma, vista la proposta della Commissione, visto il parere del Parlamento europeo(1), considerando quanto segue: (1) la Comunità è parte contraente della convenzione per la protezione del mare Mediterraneo dall'inquinamento(2), in prosieguo denominata %quot%Convenzione di Barcellona%quot%; essa ha inoltre stipulato quattro protocolli adottati nell'ambito della convenzione di Barcellona: il protocollo sulla prevenzione dell'inquinamento del mare Mediterraneo dovuto allo scarico di rifiuti da parte di navi e di aeromobili(3), il protocollo relativo alla collaborazione in materia di lotta contro l'inquinamento del mare Mediterraneo provocato dagli idrocarburi e altre sostanze nocive in caso di situazione critica(4), il protocollo relativo alla protezione del mare Mediterraneo dall'inquinamento di origine tellurica(5) e il protocollo relativo alle zone specialmente protette del Mediterraneo(6); (2) la Commissione ha partecipato, a nome della Comunità, ai negoziati sulla revisione del protocollo relativo alla protezione del mare Mediterraneo dall'inquinamento di origine tellurica, in prosieguo denominato %quot%protocollo%quot%; (3) a norma dell'articolo 174 del trattato la politica comunitaria nel settore dell'ambiente contribuisce anche alla realizzazione degli obiettivi di conservazione, protezione e miglioramento della qualità dell'ambiente e alla promozione, su scala internazionale, delle misure destinate a risolvere problemi ambientali di portata regionale o planetaria; (4) le modifiche apportate al protocollo rientrano, almeno in parte, nelle competenze comunitarie; la Comunità ha in effetti adottato varie direttive nel settore(7) e in detto contesto verifica che la conclusione di tali accordi internazionali non violi o alteri la portata del diritto comunitario vigente; (5) l'adesione della Comunità al protocollo modificato contribuisce a realizzare gli obiettivi di cui all'articolo 174 del trattato; (6) il protocollo modificato è stato adottato e aperto per la firma nel corso della conferenza dei plenipotenziari tenutasi a Siracusa il 7 e l'8 marzo 1996; (7) il Consiglio ha deciso di sottoscriverlo il 22 luglio 1996, data alla quale, tuttavia, il protocollo modificato non era più aperto alla firma, DECIDE: Articolo 1 Sono approvate a nome della Comunità le modifiche al protocollo relativo alla protezione del mare Mediterraneo dall'inquinamento di origine tellurica. Il testo di tali modifiche è accluso alla presente decisione. Articolo 2 Il presidente del Consiglio è autorizzato a notificare, a nome della Comunità, l'accettazione delle modifiche al protocollo relativo alla protezione del mare Mediterraneo dall'inquinamento di origine tellurica, a norma dell'articolo 16 della convenzione per la protezione del mare Mediterraneo dall'inquinamento(8). Articolo 3 La presente decisione è pubblicata nella Gazzetta ufficiale delle Comunità europee. Essa diventa efficace il giorno dell'adozione. Fatto a Lussemburgo, addì 22 ottobre 1999. Per il Consiglio Il Presidente S. MÖNKÄRE (1) GU C 219 del 30.7.1999, pag. 186. (2) Decisione 77/585/CEE, GU L 240 del 19.9.1977, pag. 1. (3) Decisione 77/585/CEE, GU L 240 del 19.9.1977, pag. 1. (4) Decisione 81/420/CEE, GU L 162 del 19.6.1981, pag. 4. (5) Decisione 83/101/CEE, GU L 67 del 12.3.1983, pag. 1. (6) Decisione 84/132/CEE, GU L 68 del 10.3.1984, pag. 36. (7) Direttiva 76/464/CEE del Consiglio, del 4 maggio 1976, concernente l'inquinamento provocato da certe sostanze pericolose scaricate nell'ambiente idrico della Comunità (GU L 129 del 18.5.1976, pag. 23). Direttiva modificata dalla direttiva 91/692/CEE (GU L 377 del 31.12.1991, pag. 48). Direttiva 96/61/CE del Consiglio, del 24 settembre 1996, sulla prevenzione e la riduzione integrate dell'inquinamento (GU L 257 del 10.10.1996, pag. 26). (8) La data di entrata in vigore delle modifiche al protocollo relativo alla protezione del mare Mediterraneo dall'inquinamento d'origine tellurica sarà pubblicata nella Gazzetta ufficiale delle Comunità europee a cura del Segretariato generale del Consiglio dell'Unione europea. " --- # legal_t5_small_summ_it model Model for Summarization of legal text written in Italian. It was first released in [this repository](https://github.com/agemagician/LegalTrans). This model is trained on three parallel corpus from jrc-acquis. ## Model description legal_t5_small_summ_it is based on the `t5-small` model and was trained on a large corpus of parallel text. This is a smaller model, which scales the baseline model of t5 down by using `dmodel = 512`, `dff = 2,048`, 8-headed attention, and only 6 layers each in the encoder and decoder. This variant has about 60 million parameters. ## Intended uses & limitations The model could be used for summarization of legal texts written in Italian. ### How to use Here is how to use this model to summarize legal text written in Italian in PyTorch: ```python from transformers import AutoTokenizer, AutoModelWithLMHead, TranslationPipeline pipeline = TranslationPipeline( model=AutoModelWithLMHead.from_pretrained("SEBIS/legal_t5_small_summ_it"), tokenizer=AutoTokenizer.from_pretrained(pretrained_model_name_or_path = "SEBIS/legal_t5_small_summ_it", do_lower_case=False, skip_special_tokens=True), device=0 ) it_text = "(1999/801/CE) IL CONSIGLIO DELL'UNIONE EUROPEA, visto il trattato che istituisce la Comunità europea, in particolare l'articolo 175, paragrafo 1 e l'articolo 300, paragrafo 2, prima frase e paragrafo 3, primo comma, vista la proposta della Commissione, visto il parere del Parlamento europeo(1), considerando quanto segue: (1) la Comunità è parte contraente della convenzione per la protezione del mare Mediterraneo dall'inquinamento(2), in prosieguo denominata %quot%Convenzione di Barcellona%quot%; essa ha inoltre stipulato quattro protocolli adottati nell'ambito della convenzione di Barcellona: il protocollo sulla prevenzione dell'inquinamento del mare Mediterraneo dovuto allo scarico di rifiuti da parte di navi e di aeromobili(3), il protocollo relativo alla collaborazione in materia di lotta contro l'inquinamento del mare Mediterraneo provocato dagli idrocarburi e altre sostanze nocive in caso di situazione critica(4), il protocollo relativo alla protezione del mare Mediterraneo dall'inquinamento di origine tellurica(5) e il protocollo relativo alle zone specialmente protette del Mediterraneo(6); (2) la Commissione ha partecipato, a nome della Comunità, ai negoziati sulla revisione del protocollo relativo alla protezione del mare Mediterraneo dall'inquinamento di origine tellurica, in prosieguo denominato %quot%protocollo%quot%; (3) a norma dell'articolo 174 del trattato la politica comunitaria nel settore dell'ambiente contribuisce anche alla realizzazione degli obiettivi di conservazione, protezione e miglioramento della qualità dell'ambiente e alla promozione, su scala internazionale, delle misure destinate a risolvere problemi ambientali di portata regionale o planetaria; (4) le modifiche apportate al protocollo rientrano, almeno in parte, nelle competenze comunitarie; la Comunità ha in effetti adottato varie direttive nel settore(7) e in detto contesto verifica che la conclusione di tali accordi internazionali non violi o alteri la portata del diritto comunitario vigente; (5) l'adesione della Comunità al protocollo modificato contribuisce a realizzare gli obiettivi di cui all'articolo 174 del trattato; (6) il protocollo modificato è stato adottato e aperto per la firma nel corso della conferenza dei plenipotenziari tenutasi a Siracusa il 7 e l'8 marzo 1996; (7) il Consiglio ha deciso di sottoscriverlo il 22 luglio 1996, data alla quale, tuttavia, il protocollo modificato non era più aperto alla firma, DECIDE: Articolo 1 Sono approvate a nome della Comunità le modifiche al protocollo relativo alla protezione del mare Mediterraneo dall'inquinamento di origine tellurica. Il testo di tali modifiche è accluso alla presente decisione. Articolo 2 Il presidente del Consiglio è autorizzato a notificare, a nome della Comunità, l'accettazione delle modifiche al protocollo relativo alla protezione del mare Mediterraneo dall'inquinamento di origine tellurica, a norma dell'articolo 16 della convenzione per la protezione del mare Mediterraneo dall'inquinamento(8). Articolo 3 La presente decisione è pubblicata nella Gazzetta ufficiale delle Comunità europee. Essa diventa efficace il giorno dell'adozione. Fatto a Lussemburgo, addì 22 ottobre 1999. Per il Consiglio Il Presidente S. MÖNKÄRE (1) GU C 219 del 30.7.1999, pag. 186. (2) Decisione 77/585/CEE, GU L 240 del 19.9.1977, pag. 1. (3) Decisione 77/585/CEE, GU L 240 del 19.9.1977, pag. 1. (4) Decisione 81/420/CEE, GU L 162 del 19.6.1981, pag. 4. (5) Decisione 83/101/CEE, GU L 67 del 12.3.1983, pag. 1. (6) Decisione 84/132/CEE, GU L 68 del 10.3.1984, pag. 36. (7) Direttiva 76/464/CEE del Consiglio, del 4 maggio 1976, concernente l'inquinamento provocato da certe sostanze pericolose scaricate nell'ambiente idrico della Comunità (GU L 129 del 18.5.1976, pag. 23). Direttiva modificata dalla direttiva 91/692/CEE (GU L 377 del 31.12.1991, pag. 48). Direttiva 96/61/CE del Consiglio, del 24 settembre 1996, sulla prevenzione e la riduzione integrate dell'inquinamento (GU L 257 del 10.10.1996, pag. 26). (8) La data di entrata in vigore delle modifiche al protocollo relativo alla protezione del mare Mediterraneo dall'inquinamento d'origine tellurica sarà pubblicata nella Gazzetta ufficiale delle Comunità europee a cura del Segretariato generale del Consiglio dell'Unione europea. " pipeline([it_text], max_length=512) ``` ## Training data The legal_t5_small_summ_it model was trained on [JRC-ACQUIS](https://wt-public.emm4u.eu/Acquis/index_2.2.html) dataset consisting of 22 Thousand texts. ## Training procedure ### Preprocessing ### Pretraining An unigram model with 88M parameters is trained over the complete parallel corpus to get the vocabulary (with byte pair encoding), which is used with this model. ## Evaluation results When the model is used for classification test dataset, achieves the following results: Test results : | Model | Rouge1 | Rouge2 | Rouge Lsum | |:-----:|:-----:|:-----:|:-----:| | legal_t5_small_summ_it | 75.07|65.53 |73.85| ### BibTeX entry and citation info