|
from copy import deepcopy |
|
import re |
|
from unidecode import unidecode |
|
from pandarallel import pandarallel |
|
import pandas as pd |
|
|
|
|
|
class Cleaner: |
|
|
|
def clear(self, paragraphs): |
|
if not paragraphs: |
|
return paragraphs |
|
texts = deepcopy(paragraphs) |
|
|
|
texts = self._removeParenteses(texts) |
|
texts = self._remove_undesired_chars(texts) |
|
texts = self._remove_barraNInvertido(texts) |
|
texts = self._remove_multiplos_hifens(texts) |
|
texts = self._remove_multiples_dots(texts) |
|
texts = self._remove_multiples_x(texts) |
|
texts = self._corrigeNumPalavra(texts) |
|
texts = self._corrigePalavraNum(texts) |
|
texts = self._d_ataToData(texts) |
|
texts = self._removeAnigap(texts) |
|
texts = self._removeNumSecoesInicio(texts) |
|
texts = self._removeNumSecoesInicio(texts) |
|
texts = self._removeNumSecoes(texts) |
|
texts = self._removeNumSecoes(texts) |
|
texts = self._remove_alternativas(texts) |
|
return texts |
|
|
|
@staticmethod |
|
def _removeParenteses(paragraphs): |
|
""" |
|
Remove padrões do tipo (conteudo). |
|
""" |
|
return re.sub(r'\(([^()]+)\)', ' ', paragraphs) |
|
|
|
@staticmethod |
|
def _remove_undesired_chars(paragraphs): |
|
""" |
|
Remove caracteres indesejados. |
|
""" |
|
return re.sub(r'([”“\\\\•●▪•_·□»«#£¢¿&!;*{}^~´`=|[\]²¹\+¨\t\'\"\)\(]|(0xx))', ' ', paragraphs) |
|
|
|
@staticmethod |
|
def _remove_barraNInvertido(paragraphs): |
|
""" |
|
Remove /n invertido. |
|
""" |
|
return re.sub(r'((\/n(\s))|(\/n$))', ' ', paragraphs) |
|
|
|
@staticmethod |
|
def _remove_multiplos_hifens(paragraphs): |
|
""" |
|
Remove multiplos hifens. |
|
O espaço antes e depois do token é por conta do padrão que retira os espaços antes e depois do texto. |
|
""" |
|
paragraphs = re.sub(r'((\s)-)+', ' - ', paragraphs) |
|
return re.sub(r'[-–]+', '-', paragraphs) |
|
|
|
@staticmethod |
|
def _remove_multiples_dots(paragraphs): |
|
""" |
|
Remove multiplos pontos. |
|
""" |
|
paragraphs = re.sub(r'\.+', '.', paragraphs) |
|
return re.sub(r'^\.\s', '', paragraphs) |
|
|
|
@staticmethod |
|
def _remove_multiples_x(paragraphs): |
|
""" |
|
Reduz multiplos x para apenas um x. |
|
""" |
|
return re.sub(r'(([xX]){2,})', 'x', paragraphs) |
|
|
|
@staticmethod |
|
def _corrigeNumPalavra(paragraphs): |
|
""" |
|
Corrige sentenças do tipo 1palavra para 1 palavra. |
|
""" |
|
return re.sub(r'((\d+)([a-zA-Z]{2,}))', r'\2 \3', paragraphs) |
|
|
|
@staticmethod |
|
def _corrigePalavraNum(paragraphs): |
|
""" |
|
Corrige sentenças do tipo palavra1 para palavra 1. |
|
""" |
|
return re.sub(r'(([a-zA-Z]{2,})(\d+))', r'\2 \3', paragraphs) |
|
|
|
@staticmethod |
|
def _d_ataToData(paragraphs): |
|
""" |
|
Corrige d ata para data. |
|
""" |
|
return re.sub(r'(([Dd] ata)|(D ATA))', 'data', paragraphs) |
|
|
|
@staticmethod |
|
def _removeAnigap(paragraphs): |
|
""" |
|
Remove padrões do tipo a n i g á p. |
|
""" |
|
return re.sub(r'(([aA] [Nn] [Ii] [Gg] [Áá] [Pp])|([aA] [Nn] [Ii] [Gg] [Áá]))', '', paragraphs) |
|
|
|
@staticmethod |
|
def _removeNumSecoesInicio(paragraphs): |
|
""" |
|
Remove padrões de numeros de secao no início. |
|
""" |
|
return re.sub(r'(^((\s)*(((\d{1,2}\.)(\d{1,2}(\.)?)*)|(\d)+)(\s)?[\-–]?))', ' ', paragraphs) |
|
|
|
@staticmethod |
|
def _removeNumSecoes(paragraphs): |
|
""" |
|
Remove padrões de numeros de secao. |
|
""" |
|
return re.sub(r'(\d{1,2}\.){1,}(\d{1,2}\s[\-–])?', ' ', paragraphs) |
|
|
|
@staticmethod |
|
def _remove_alternativas(paragraphs): |
|
""" |
|
Remove alternativas de questões. |
|
""" |
|
return re.sub(r'(^[bcdfghijklmnpqrstuvwxyz\:\/\,\.\;@-]([\.)-])?(\s)|(^[aeo][\.)-](\s)))', '', paragraphs, flags=re.IGNORECASE) |
|
|
|
|
|
class Corretor: |
|
def __init__(self, cased: bool, accents: bool) -> None: |
|
self.accents = accents |
|
self.cased = cased |
|
|
|
def corrige_termos(self, paragraphs): |
|
if not paragraphs: |
|
return paragraphs |
|
texts = deepcopy(paragraphs) |
|
|
|
texts = self._padraoEmail(texts) |
|
texts = self._corrigeCapitulo(texts) |
|
texts = self._telToTelefone(texts) |
|
texts = self._NtoNumero(texts) |
|
texts = self._artToArtigo(texts) |
|
texts = self._ccToCumulativamenteCom(texts) |
|
texts = self._remove_SbarraN(texts) |
|
texts = self._c_ontratacaoToContratacao(texts) |
|
texts = self._memoToMemorando(texts) |
|
texts = self._corrigeParagrafo(texts) |
|
texts = self._corrigeLicitacao(texts) |
|
texts = self._corrigeContratacao(texts) |
|
texts = self._corrigePregao(texts) |
|
texts = self._corrigeFiscal(texts) |
|
texts = self._corrigeObjeto(texts) |
|
texts = self._corrigeValor(texts) |
|
texts = self._corrigeCertidao(texts) |
|
texts = self._corrigeEmpenho(texts) |
|
texts = self._corrigeQuantidade(texts) |
|
texts = self._corrigeAditivo(texts) |
|
texts = self._corrigeSancao(texts) |
|
texts = self._corrigeEdital(texts) |
|
texts = self._corrigeGarantia(texts) |
|
texts = self._corrigeOnus(texts) |
|
texts = self._corrigeReajuste(texts) |
|
texts = self._corrigeDigital(texts) |
|
texts = self._incToInciso(texts) |
|
texts = self._padronizaCNPJ(texts) |
|
texts = self._padronizaSiglas(texts) |
|
texts = self._tokenizaURL(texts) |
|
texts = self._tokenizaEmail(texts) |
|
texts = self._tokenizaData(texts) |
|
texts = self._tokenizaHora(texts) |
|
texts = self._tokenizaNumero(texts) |
|
texts = self._tokenizaNumeroRomano(texts) |
|
texts = self._reduzNumeros(texts) |
|
texts = self._removeHifenInicial(texts) |
|
texts = self._corrigePontuacao(texts) |
|
texts = self._remove_characters_inicial(texts) |
|
texts = self._remove_characters_final(texts) |
|
texts = self._remove_multiples_spaces(texts) |
|
texts = self._remove_space_in_last_period(texts) |
|
texts = self._strip_spaces(texts) |
|
|
|
if not self.accents: |
|
texts = self._removeAcentos(texts) |
|
|
|
if not self.cased: |
|
texts = self._toLowerCase(texts) |
|
|
|
return texts |
|
|
|
@staticmethod |
|
def _padraoEmail(paragraphs): |
|
""" |
|
Padroniza a palavra email. |
|
""" |
|
return re.sub(r'(([eE][\-–]?mail([.:])*)|(E[\-–]?MAIL([.:])*))', 'email', paragraphs) |
|
|
|
@staticmethod |
|
def _corrigeCapitulo(paragraphs): |
|
""" |
|
Corrige c apitulo para capitulo. |
|
""" |
|
return re.sub(r'(c(\s)ap[ií]tulo)', 'capítulo', paragraphs, flags=re.IGNORECASE) |
|
|
|
@staticmethod |
|
def _telToTelefone(paragraphs): |
|
""" |
|
Corrige tel para telefone. |
|
""" |
|
return re.sub(r'(\b(tel)\b)', 'telefone', paragraphs, flags=re.IGNORECASE) |
|
|
|
@staticmethod |
|
def _NtoNumero(paragraphs): |
|
""" |
|
Convert nº para numero. |
|
""" |
|
paragraphs = re.sub(r'((\s)((([nN][º°])|(n[uú]mero)\.)|((([nN])|(([Nn][uÚ]mero)|(N[UÚ]MERO)))\.[º°])|([nN][º°])|([nN]\.)|([Nn][rR]))(\s)?)', ' número ', paragraphs) |
|
return re.sub(r'([º°])', ' ', paragraphs) |
|
|
|
@staticmethod |
|
def _artToArtigo(paragraphs): |
|
""" |
|
Corrige art. para artigo. |
|
""" |
|
return re.sub(r'(\b([Aa]rt\.)|(ART\.)|(([Aa]rt)|(ART))\b)', 'artigo', paragraphs) |
|
|
|
@staticmethod |
|
def _ccToCumulativamenteCom(paragraphs): |
|
""" |
|
Corrige c/c para cumulativamente com. |
|
""" |
|
return re.sub(r'(\b[cC]\/[cC]\b)', 'cumulativamente com', paragraphs) |
|
|
|
@staticmethod |
|
def _remove_SbarraN(paragraphs): |
|
""" |
|
Corrige padrões do tipo s/n para sem numero. |
|
""" |
|
return re.sub(r'(((\b([sS]\/(([nN]º)|([nN]))[,.]?))|([sS]\/(([nN]º)|([nN]))[,.]))(\s|\,|\.|\:|\;))', 'sem número ', paragraphs) |
|
|
|
@staticmethod |
|
def _c_ontratacaoToContratacao(paragraphs): |
|
""" |
|
Corrige c ontratação para contratação. |
|
""" |
|
return re.sub(r'(\b([cC] ontrata[cç][aã]o)|(C ONTRATA[CÇ][AÃ]O)\b)', 'contratação', paragraphs) |
|
|
|
@staticmethod |
|
def _memoToMemorando(paragraphs): |
|
""" |
|
Corrige memo para memorando. |
|
O espaço antes e depois do token é por conta do padrão que retira os espaços antes e depois do texto. |
|
""" |
|
return re.sub(r'(\b(([mM]emo)|(MEMO))\b)', 'memorando', paragraphs) |
|
|
|
@staticmethod |
|
def _corrigeParagrafo(paragraphs): |
|
""" |
|
Corrige formas de parágrafo para parágrafo. |
|
O espaço antes e depois do token é por conta do padrão que retira os espaços antes e depois do texto. |
|
""" |
|
paragraphs = re.sub(r'((\s|\.|\,|\;|\:|^)(§{2,})º?(\s|\.|\,|\;|\:|$))', ' parágrafos ', paragraphs) |
|
return re.sub(r'((\s|\.|\,|\;|\:|^)(§)º?(\s|\.|\,|\;|\:|$))', ' parágrafo ', paragraphs) |
|
|
|
@staticmethod |
|
def _corrigeLicitacao(paragraphs): |
|
""" |
|
Corrige ocorrências da palavra ou Licitaçã o" para "licitação". |
|
Corrige ocorrências da palavra ou "Licitaçã" para "licitação". |
|
""" |
|
paragraphs = re.sub(r'(\s|\.|\,|\;|\:)(iicitante)(\s|\.|\,|\;|\:)', ' licitante ', paragraphs, flags=re.IGNORECASE) |
|
paragraphs = re.sub(r'((\s|\.|\,|\;|\:)(licita[çc][aã](\s)o)(\s|\.|\,|\;|\:))', ' licitação ', paragraphs, flags=re.IGNORECASE) |
|
return re.sub(r'((\s|\.|\,|\;|\:)(licita[çc][aã])(\s|\.|\,|\;|\:))', ' licitação ', paragraphs, flags=re.IGNORECASE) |
|
|
|
@staticmethod |
|
def _corrigeContratacao(paragraphs): |
|
""" |
|
Corrige ocorrências da palavra Contrataçã o" para "contratação". |
|
Corrige ocorrências da palavra "Contrataçã" para "contratação". |
|
""" |
|
paragraphs = re.sub(r'((\s|\.|\,|\;|\:)(contrata[çc][aã](\s)o)(\s|\.|\,|\;|\:))', ' contratação ', paragraphs, flags=re.IGNORECASE) |
|
paragraphs = re.sub(r'(\s|\.|\,|\;|\:)(contrante)(\s|\.|\,|\;|\:)', ' contratante ', paragraphs, flags=re.IGNORECASE) |
|
return re.sub(r'((\s|\.|\,|\;|\:)(contrata[çc][aã])(\s|\.|\,|\;|\:))', ' contratação ', paragraphs, flags=re.IGNORECASE) |
|
|
|
@staticmethod |
|
def _corrigePregao(paragraphs): |
|
""" |
|
Corrige ocorrências da palavra "P REGÃO" para "pregão". |
|
Corrige ocorrências da palavra "regão" para "pregão". |
|
""" |
|
paragraphs = re.sub(r'((\s|\.|\,|\;|\:)(p(\s)reg[ãa]o)(\s|\.|\,|\;|\:))', ' pregão ', paragraphs, flags=re.IGNORECASE) |
|
paragraphs = re.sub(r'(\s|\.|\,|\;|\:)(pregoelro)(\s|\.|\,|\;|\:)', ' pregoeiro ', paragraphs, flags=re.IGNORECASE) |
|
paragraphs = re.sub(r'(\s|\.|\,|\;|\:)(opregoeiro)(\s|\.|\,|\;|\:)', ' o pregoeiro ', paragraphs, flags=re.IGNORECASE) |
|
paragraphs = re.sub(r'(\s|\.|\,|\;|\:)(apregoeira)(\s|\.|\,|\;|\:)', ' a pregoeira ', paragraphs, flags=re.IGNORECASE) |
|
paragraphs = re.sub(r'(\s|\.|\,|\;|\:)(pelopregoeiro)(\s|\.|\,|\;|\:)', ' pelo pregoeiro ', paragraphs, flags=re.IGNORECASE) |
|
paragraphs = re.sub(r'(\s|\.|\,|\;|\:)(pelapregoeira)(\s|\.|\,|\;|\:)', ' pela pregoeira ', paragraphs, flags=re.IGNORECASE) |
|
paragraphs = re.sub(r'(\s|\.|\,|\;|\:)(pregoeir a)(\s|\.|\,|\;|\:)', ' pregoeira ', paragraphs, flags=re.IGNORECASE) |
|
paragraphs = re.sub(r'(\s|\.|\,|\;|\:)(pregoeir o)(\s|\.|\,|\;|\:)', ' pregoeiro ', paragraphs, flags=re.IGNORECASE) |
|
paragraphs = re.sub(r'(\s|\.|\,|\;|\:)(pregoeir)(\s|\.|\,|\;|\:)', ' pregoeiro ', paragraphs, flags=re.IGNORECASE) |
|
paragraphs = re.sub(r'((\s|\.|\,|\;|\:)(reg[ãa]o)(\s|\.|\,|\;|\:))', ' pregão ', paragraphs, flags=re.IGNORECASE) |
|
paragraphs = re.sub(r'((\s|\.|\,|\;|\:)((preg)(\s)(pregoeira)|(pregoeira(\s)preg))(\s|\.|\,|\;|\:))', ' pregoeira ', paragraphs, flags=re.IGNORECASE) |
|
paragraphs = re.sub(r'((\s|\.|\,|\;|\:)((preg)(\s)(pregoeiro)|(pregoeiro(\s)preg))(\s|\.|\,|\;|\:))', ' pregoeiro ', paragraphs, flags=re.IGNORECASE) |
|
paragraphs = re.sub(r'((\s|\.|\,|\;|\:)(preg(\s)[aã]o)(\s|\.|\,|\;|\:))', ' pregão ', paragraphs, flags=re.IGNORECASE) |
|
return re.sub(r'((\s|\.|\,|\;|\:)(preg)(\s|\.|\,|\;|\:))', ' pregão ', paragraphs, flags=re.IGNORECASE) |
|
|
|
@staticmethod |
|
def _corrigeFiscal(paragraphs): |
|
""" |
|
Corrige ocorrências da palavra "F i scal" para "fiscal". |
|
Corrige ocorrências da palavra "scal" para "fiscal". |
|
""" |
|
paragraphs = re.sub(r'(\s|\.|\,|\;|\:|^)(f(\s)i(\s)scal)(\s|\.|\,|\;|\:)', ' fiscal ', paragraphs, flags=re.IGNORECASE) |
|
return re.sub(r'(\s|\.|\,|\;|\:|^)(scal)(\s|\.|\,|\;|\:)', ' fiscal ', paragraphs, flags=re.IGNORECASE) |
|
|
|
@staticmethod |
|
def _corrigeObjeto(paragraphs): |
|
""" |
|
Corrige ocorrências da palavra "O bjeto" para "objeto". |
|
Corrige ocorrências da palavra "bjeto" para "objeto". |
|
""" |
|
paragraphs = re.sub(r'(\s|\.|\,|\;|\:|^)(o?bjeto(\s)(o(\s))?bjeto)(\s|\.|\,|\;|\:)', ' objeto ', paragraphs, flags=re.IGNORECASE) |
|
paragraphs = re.sub(r'(\s|\.|\,|\;|\:|^)(abjeto)(\s|\.|\,|\;|\:)', ' objeto ', paragraphs, flags=re.IGNORECASE) |
|
return re.sub(r'(\s|\.|\,|\;|\:|^)(bjeto)(\s|\.|\,|\;|\:)', ' objeto ', paragraphs, flags=re.IGNORECASE) |
|
|
|
@staticmethod |
|
def _corrigeValor(paragraphs): |
|
""" |
|
Corrige ocorrências da palavra "valo r" para "valor". |
|
Corrige ocorrências da palavra "valo" para "valor". |
|
""" |
|
paragraphs = re.sub(r'(\s|\.|\,|\;|\:|^)(valo(\s)r)(\s|\.|\,|\;|\:)', ' valor ', paragraphs, flags=re.IGNORECASE) |
|
return re.sub(r'(\s|\.|\,|\;|\:|^)(valo)(\s|\.|\,|\;|\:)', ' valor ', paragraphs, flags=re.IGNORECASE) |
|
|
|
@staticmethod |
|
def _corrigeCertidao(paragraphs): |
|
""" |
|
Corrige ocorrências da palavra "cer dão" para "certidão". |
|
""" |
|
return re.sub(r'(\s|\.|\,|\;|\:|^)(cer(\s)d[ãa]o)(\s|\.|\,|\;|\:)', ' certidão ', paragraphs, flags=re.IGNORECASE) |
|
|
|
@staticmethod |
|
def _corrigeEmpenho(paragraphs): |
|
""" |
|
Corrige ocorrências da palavra "emprenho" para "empenho". |
|
""" |
|
return re.sub(r'(\s|\.|\,|\;|\:|^)(emprenho)(\s|\.|\,|\;|\:)', ' empenho ', paragraphs, flags=re.IGNORECASE) |
|
|
|
@staticmethod |
|
def _corrigeQuantidade(paragraphs): |
|
""" |
|
Corrige ocorrências da palavra "quantidad" para "quantidade". |
|
""" |
|
return re.sub(r'(\s|\.|\,|\;|\:|^)(quantidad)(\s|\.|\,|\;|\:)', ' quantidade ', paragraphs, flags=re.IGNORECASE) |
|
|
|
@staticmethod |
|
def _corrigeAditivo(paragraphs): |
|
""" |
|
Corrige ocorrências da palavra "adi vo" para "aditivo". |
|
""" |
|
return re.sub(r'(\s|\.|\,|\;|\:|^)(adi(\s|\.|\,|\;|\:)vo[s]?)(\s|\.|\,|\;|\:)', ' aditivo ', paragraphs, flags=re.IGNORECASE) |
|
|
|
@staticmethod |
|
def _corrigeSancao(paragraphs): |
|
""" |
|
Corrige ocorrências da palavra "sansão" para "sanção". |
|
Corrige ocorrências da palavra "sansões" para "sanções". |
|
""" |
|
paragraphs = re.sub(r'(\s|\.|\,|\;|\:|^)(sans[ãa]o)(\s|\.|\,|\;|\:)', ' sanção ', paragraphs, flags=re.IGNORECASE) |
|
return re.sub(r'(\s|\.|\,|\;|\:|^)(sans[oõ]es)(\s|\.|\,|\;|\:)', ' sanções ', paragraphs, flags=re.IGNORECASE) |
|
|
|
@staticmethod |
|
def _corrigeEdital(paragraphs): |
|
""" |
|
Corrige ocorrências da palavra "editai" para "edital". |
|
""" |
|
paragraphs = re.sub(r'(\s|\.|\,|\;|\:|^)(edita(\s)l)(\s|\.|\,|\;|\:)', ' edital ', paragraphs, flags=re.IGNORECASE) |
|
paragraphs = re.sub(r'(\s|\.|\,|\;|\:|^)(editai)(\s|\.|\,|\;|\:)', ' edital ', paragraphs, flags=re.IGNORECASE) |
|
return re.sub(r'(\s|\.|\,|\;|\:|^)(edita)(\s|\.|\,|\;|\:)', ' edital ', paragraphs, flags=re.IGNORECASE) |
|
|
|
@staticmethod |
|
def _corrigeGarantia(paragraphs): |
|
""" |
|
Corrige ocorrências da palavra "garana" para "garantia". |
|
""" |
|
paragraphs = re.sub(r'(\s|\.|\,|\;|\:|^)(garanti(\s|\.|\,|\;|\:)a)(\s|\.|\,|\;|\:)', ' garantia ', paragraphs, flags=re.IGNORECASE) |
|
return re.sub(r'(\s|\.|\,|\;|\:|^)((garana)|(garania))(\s|\.|\,|\;|\:)', ' garantia ', paragraphs, flags=re.IGNORECASE) |
|
|
|
@staticmethod |
|
def _corrigeOnus(paragraphs): |
|
""" |
|
Corrige ocorrências da palavra "anus" para "ônus". |
|
""" |
|
return re.sub(r'(\s|\.|\,|\;|\:|^)(anus)(\s|\.|\,|\;|\:)', ' ônus ', paragraphs, flags=re.IGNORECASE) |
|
|
|
@staticmethod |
|
def _corrigeReajuste(paragraphs): |
|
""" |
|
Corrige ocorrências da palavra "parareajuste" para "para reajuste". |
|
""" |
|
return re.sub(r'(\s|\.|\,|\;|\:|^)(parareajuste)(\s|\.|\,|\;|\:)', ' para reajuste ', paragraphs, flags=re.IGNORECASE) |
|
|
|
@staticmethod |
|
def _corrigeDigital(paragraphs): |
|
""" |
|
Corrige ocorrências da palavra "digitai" para "digital". |
|
""" |
|
return re.sub(r'(\s|\.|\,|\;|\:|^)(digitai)(\s|\.|\,|\;|\:|$)', ' digital ', paragraphs, flags=re.IGNORECASE) |
|
|
|
@staticmethod |
|
def _incToInciso(paragraphs): |
|
""" |
|
Corrige inc. para inciso. |
|
O espaço antes e depois do token é por conta do padrão que retira os espaços antes e depois do texto. |
|
""" |
|
return re.sub(r'(\b(inc)\b)', 'inciso', paragraphs, flags=re.IGNORECASE) |
|
|
|
@staticmethod |
|
def _padronizaCNPJ(paragraphs): |
|
""" |
|
Padroniza CNPJ. |
|
""" |
|
return re.sub(r'(\b(c\.n\.p\.j\.?)\b)', 'cnpj', paragraphs, flags=re.IGNORECASE) |
|
|
|
@staticmethod |
|
def _padronizaSiglas(paragraphs): |
|
""" |
|
Corrige lc para lei complementar. |
|
O espaço antes e depois do token é por conta do padrão que retira os espaços antes e depois do texto. |
|
""" |
|
paragraphs = re.sub(r'(\b(cf)\b)', 'Constituição Federal', paragraphs, flags=re.IGNORECASE) |
|
paragraphs = re.sub(r'(\b(n?cpc)(\/15)?\b)', 'Código de Processo Civil', paragraphs, flags=re.IGNORECASE) |
|
paragraphs = re.sub(r'(\b(clt)\b)', 'Consolidação das Leis do Trabalho', paragraphs, flags=re.IGNORECASE) |
|
paragraphs = re.sub(r'(\b(cdc)\b)', 'Código de Defesa do Consumidor', paragraphs, flags=re.IGNORECASE) |
|
return re.sub(r'(\b(lc)\b)', 'lei complementar', paragraphs, flags=re.IGNORECASE) |
|
|
|
@staticmethod |
|
def _tokenizaURL(paragraphs): |
|
""" |
|
Tokeniza URL. |
|
""" |
|
return re.sub(r'(((https?:\/\/)(www\.))|(www\.)|(https?:\/\/))[-a-zA-Z0-9@:%.\+~#=]{1,256}\.[a-zA-Z@0-9()]{1,6}\b([-a-zA-Z0-9()@:%\+.~#?&\/=]*)', ' url ', paragraphs) |
|
|
|
@staticmethod |
|
def _tokenizaEmail(paragraphs): |
|
""" |
|
Tokeniza email. |
|
""" |
|
return re.sub(r'(\b([a-zA-Z0-9._%+-]+@[a-zA-Z0-9.-]+\.[a-zA-Z]{2,})\b)', ' mail ', paragraphs) |
|
|
|
@staticmethod |
|
def _tokenizaData(paragraphs): |
|
""" |
|
Tokeniza data. |
|
""" |
|
return re.sub(r'(\b([0-3][0-9]\/[0-1][0-9]\/(([0-9]{2})|([0-2][0-9]{3})))\b)', ' date ', paragraphs) |
|
|
|
@staticmethod |
|
def _tokenizaHora(paragraphs): |
|
""" |
|
Tokeniza hora. |
|
""" |
|
return re.sub(r'(\b(([0-1][0-9])|(2[0-3]))(\:|h)([0-5][0-9])?\b)', ' hour ', paragraphs) |
|
|
|
@staticmethod |
|
def _tokenizaNumero(paragraphs): |
|
""" |
|
Tokeniza número. |
|
""" |
|
return re.sub(r'([0-9])+', ' number ', paragraphs) |
|
|
|
@staticmethod |
|
def _tokenizaNumeroRomano(paragraphs): |
|
""" |
|
Tokeniza número romano. |
|
""" |
|
return re.sub(r"(\s|\.|\,|\;|\:|^)(?=[XVIΙ])(XC|XL|L?X{0,3})([IΙ]X|[IΙ]V|V?[IΙ]{0,3})(\s|\.|\,|\;|\:|$)", ' number ', paragraphs, flags=re.IGNORECASE) |
|
|
|
@staticmethod |
|
def _reduzNumeros(paragraphs): |
|
""" |
|
Reduz números. |
|
""" |
|
return re.sub(r'(([\.\\\/\;\:\s])*(number([\-–\.\\\/\;\:\,\s])*)+)', ' number ', paragraphs) |
|
|
|
@staticmethod |
|
def _removeHifenInicial(paragraphs): |
|
""" |
|
Remove hifen inicial. |
|
""" |
|
return re.sub(r'^\s*[\-–]\s*', '', paragraphs) |
|
|
|
@staticmethod |
|
def _corrigePontuacao(paragraphs): |
|
""" |
|
Corrige má formatação nas vírgulas (nome , outro nome). |
|
Corrige má formatação nos pontos (nome . Outro nome). |
|
Corrige má formatação na pontuação (.,:). |
|
""" |
|
paragraphs = re.sub(r'((\s)+(\,))', ',', paragraphs) |
|
paragraphs = re.sub(r'((\s)+(\.))', '.', paragraphs) |
|
paragraphs = re.sub(r'((\s)+(\:))', ':', paragraphs) |
|
|
|
paragraphs = re.sub(r'((\,)+)', ',', paragraphs) |
|
paragraphs = re.sub(r'((\.)+)', '.', paragraphs) |
|
paragraphs = re.sub(r'((\:)+)', ':', paragraphs) |
|
return re.sub(r'((\.\,)|(\,\.))', '.', paragraphs) |
|
|
|
@staticmethod |
|
def _remove_characters_inicial(paragraphs): |
|
""" |
|
Remove caracteres finais. |
|
""" |
|
return re.sub(r'(^((\s)*[ª\%\·\.\:\\\/\,\;@\-–]){1,})', '', paragraphs) |
|
|
|
@staticmethod |
|
def _remove_characters_final(paragraphs): |
|
""" |
|
Remove caracteres finais. |
|
""" |
|
return re.sub(r'(((\s)*[ª\·\:\\\/\,\;@\-–]){1,}$)', '', paragraphs) |
|
|
|
@staticmethod |
|
def _remove_multiples_spaces(paragraphs): |
|
""" |
|
Remove multiplos espaços nas sentenças. |
|
""" |
|
return re.sub(r'\s+', ' ', paragraphs) |
|
|
|
@staticmethod |
|
def _remove_space_in_last_period(paragraphs): |
|
""" |
|
Remove espaços finais na sentença e coloca o ponto final. |
|
""" |
|
return re.sub(r'\s\.$', '.', paragraphs) |
|
|
|
@staticmethod |
|
def _strip_spaces(paragraphs): |
|
""" |
|
Remove espaços antes e depois do texto. |
|
""" |
|
return paragraphs.strip() |
|
|
|
@staticmethod |
|
def _removeAcentos(paragraphs): |
|
""" |
|
Remove acentos das palavras. |
|
""" |
|
return unidecode(paragraphs) |
|
|
|
@staticmethod |
|
def _toLowerCase(paragraphs): |
|
""" |
|
Converte o texto para caixa baixa. |
|
""" |
|
return paragraphs.lower() |
|
|
|
|
|
class Remover: |
|
def removeSentences(self, paragraphs): |
|
if not paragraphs: |
|
return paragraphs |
|
texts = deepcopy(paragraphs) |
|
|
|
texts = self._removeSentencasComCaracteresIndesejados(texts) |
|
texts = self._removePalavrasQuebradas(texts) |
|
|
|
return texts |
|
|
|
@staticmethod |
|
def _removeSentencasComCaracteresIndesejados(paragraphs): |
|
""" |
|
Remove sentenças que têm interrogação. |
|
""" |
|
if re.search(r'([\@\?ʼˢ˫βδθιμξοσφωώасфֹֻ־׀׃ׄ؛؟عُ٭ڊڎڡଋขงจฉซญฏทนผภวษฬᴏᴓᴼᵌᵒᶟᶲᶾḉṕầẽễ‐‑‒–—―‖‗‘’‚‛„‟†‡‥…‰′″‹›‾⁄⁒⁰⁴⁵⁶⁻⁽⁾ⁿ₀₂₄ₒ€₹⃝⃰℃℉ℎℓ№™⅓⅔⅜⅝ⅱ（）＋，－：＝ｪｺﾁﾉﾍﾤ𝐀𝐂𝐋𝐍𝐎𝐏𝐐𝐑𝐒𝐕𝐚𝐜𝐞𝐠𝐢𝐥𝐦𝐧𝐨𝐫𝐬𝐭𝐮𝐯𝐳𝐴𝐵𝐶𝐷𝐸𝐹𝐺𝐻𝐼𝐿𝑀𝑁𝑂𝑃𝑄𝑅𝑆𝑇𝑈𝑉𝑋𝑍𝑎𝑏𝑐𝑑𝑒𝑓𝑔𝑖𝑗𝑘𝑙𝑚𝑛𝑜𝑝𝑞𝑟𝑠𝑡𝑢𝑣𝑥𝑧𝑨𝑩𝑪𝑫𝑭𝑮𝑰𝑲𝑳𝑴𝑵𝑶𝑷𝑸𝑹𝑺𝑽𝒂𝒄𝒅𝒆𝒇𝒈𝒊𝒌𝒍𝒎𝒏𝒐𝒑𝒒𝒓𝒔𝒕𝒖𝒗𝒛🌞←↑→↓↔↩⇁⇒⇛∅∆∑−∕∗∘∙√∝∞∫∬∴≃≅≈≠≤≥≦≺≼⊠⋅⋯⌧〈〉⎓⎛⎜⎝⎞⎟⎠⎡⎢⎣⎤⎯①②③④⑤⑥⑦⑧⑨⑩⓭⓮⓯─│┤═▒■▲▶▷►▼◄◆◊○◐◗◙◦◯◻◼◾☐☒☺♀♠♣♥♦♪♯⚫✇✈✉✐✓✔✗✦✱✲✳✴✵✶✷✹✺✻✼✽✾✿❀❁❂❄❆❇❈❉❊❋❍❏❑❒❖❘❙❚❜❤❥❦❧❯❱❲❳❴❶❷❸❹❺❻❼❽❾❿➀➁➂➃➄➅➋➔➙➛➢➷⦁⩾⮚。〃「」】〔〕〖ꞏꟷ갇갭떷퐀fffiflffifflε¸äåæèëìîï𩅅ñòöøùûüýþÿăęőœŕřšžǧ˝あえがきくさしすつでなぬねふまむめもやゆるれわゑをイセタトブプミムヰン・㊦㌧㌫㌱㍉㍍㘷丁七上且丘乞亀云互五亘亜亡亨京亭什仰仲伍会佃低何使來倉健側儀億允克冊出函切別到則剛副劇加劣助勘勾匂匝匤印卲厄厨句叩叫可台叶吃各合同名吠含呑呼商喜喝喧嗣嘩嘱噌噴回国圄址坤垂埠場士壬壷奮如姫孤宜宣寄富寒対尊尤屯山岨岳嵩嶋川州工左巳巴巾幼庇廿当心急意慧成手押抽担拙持挿捕捻揃描損撃整旧晦暮曲書最朋楓檲櫨歡止正毎毛治注浮灣為焔煎照爪独獄王班璯生田申町畦番疵的皿盃盆直着瞳確磨祖禽秘種竜章競筋簡簿紅純細紺組締縊缶置罵翻耽聞聾肋肌肥肴胞脆脇脚膏臆自至舟舶艇色芯荷萱葦蘭虹蜜蝿融血裏西观言訃訊討証詰誇誓語説読誼調論諾謀謹譜議豆象豹貂負蹄車軋軍軸輩辞迎迫造都醜重量金釦鈍鈎鈬鋏鋤鋳録鍋鐘関閥閲阀階随雀雄雪電震霜露面音韸餌館馘香馨馰馴髄魯鯖鰹鳶鴫鵬鶴ǿ˙ɛɵʃśʺʽ˂ˇ˃ˆː˗˘˛˜\d])', paragraphs, flags=re.IGNORECASE): |
|
return '' |
|
else: |
|
return paragraphs |
|
|
|
@staticmethod |
|
def _removePalavrasQuebradas(paragraphs): |
|
""" |
|
Remove palavras quebradas. |
|
""" |
|
if re.search(r'([A-Za-záàâãéèêíïóôõöúçñÁÀÂÃÉÈÍÏÓÔÕÖÚÇÑ\?\,\.\:\;@\/\<\>]\s){4,}', paragraphs): |
|
return '' |
|
else: |
|
return paragraphs |
|
|
|
|
|
def executaLimpeza(dataframe: pd.DataFrame, column: str, cased, accents) -> pd.DataFrame: |
|
""" |
|
Executa a limpeza do DataFrame usando as classes Cleaner e Corretor. |
|
""" |
|
pandarallel.initialize(progress_bar=True) |
|
dataframe[column] = dataframe[column].parallel_apply(lambda x: Cleaner().clear(x)) |
|
dataframe[column] = dataframe[column].parallel_apply(lambda x: Corretor(cased, accents).corrige_termos(x)) |
|
return dataframe |
