Datasets:

Modalities:
Text
Formats:
text
Libraries:
Datasets
License:
text
stringlengths
1
2.12k
Paciente varón de 19 años remitido desde un hospital comarcal para intervención quirúrgica por hidrocefalia<SPLIT>.
Presentaba una historia de aproximadamente 1 año de evolución de cefalea hemicraneal izquierda que empeoraba con los esfuerzos<SPLIT>.
En las últimas semanas la cefalea se incrementó en intensidad y frecuencia<SPLIT>.
La exploración neurológica mostraba únicamente un edema de papila bilateral<SPLIT>.
El paciente aporta una resonancia magnética (<SPLIT>RM<SPLIT>) que muestra una dilatación ventricular supratentorial con índice de Evans de 0.43<SPLIT>, aclaramiento periependimario en astas frontales y una pequeña lesión tectal que no se modificaba con contraste<SPLIT>.
El cuarto ventrículo era normal<SPLIT>.
Con el diagnóstico de estenosis del acueducto de Silvio se realizó a través de un agujero de trépano frontal derecho<SPLIT>, una ventriculocisternostomía premamilar endoscópica según la técnica habtiual3<SPLIT>.
Para la inmovilización de la cabeza se empleó un cabezal de Mayfield (<SPLIT>Ohio Medical Instrument Co<SPLIT>, Inc.<SPLIT>, Cincinnati<SPLIT>, Oh<SPLIT>, USA<SPLIT>)<SPLIT>.
El postoperatorio inmediato transcurre sin incidencias aunque el paciente aquejaba cefalea<SPLIT>.
A las 48 horas de la cirugía y previa al alta hospitalaria programada se realizó una nueva RM en la que llama la atención la presencia de un hematoma epidural de localización parietal izquierda con efecto de masa sobre el ventrículo lateral ipsilateral<SPLIT>.
Seguidamente se practicó una craneotomía parietal izquierda<SPLIT>, observándose como existía una perforación que atravesaba la totalidad del hueso sin afectar a la duramadre<SPLIT>.
Se procedió al drenaje del hematoma y a la coagulación de una pequeña arteria dural sangrante<SPLIT>.
El paciente fue dado de alta a los 6 días aquejando únicamente cierto grado de cefalea<SPLIT>.
Al año de la cirugía se encuentra asintomático y la lesión tectal no muestra cambios en los estudios de RM<SPLIT>.
Mujer de 36 años<SPLIT>, sin antecedentes<SPLIT>, que inicia con parestesias en dedo pulgar de la mano derecha seguidas<SPLIT>, 2 días después<SPLIT>, de debilidad para el movimiento de pinza<SPLIT>.
Dos días más tarde<SPLIT>, aparece paresia para la dorsiflexión del pie izquierdo y parestesias dolorosas en el dorso del mismo<SPLIT>.
Fue ingresada al cabo de una semana del inicio la semana de evolución<SPLIT>, observandose paresia grado 3 en la escala del Medical Research Council (<SPLIT>MRC<SPLIT>) del oponente y del abductor corto del pulgar (<SPLIT>ACP<SPLIT>) derechos y grado 4 MRC de los músculos dependientes del ciático poplíteo externo (<SPLIT>CPE<SPLIT>) izquierdo junto con hipoestesia táctil y dolorosa en primer y segundo dedos de la mano derecha y en dorso del pie izquierdo<SPLIT>.
Mostraba un buen estado general sin fiebre<SPLIT>, lesiones cutáneas ni adenopatías<SPLIT>.
Cinco días después de su ingreso aparecen nuevas alteraciones neurológicas consistentes en paresia grado 3 MRC de deltoides y de tríceps braquial izquierdo y parestesias en cara externa del brazo izquierdo y ambas pantorrillas<SPLIT>.
Los estudios complementarios realizados incluyeron velocidad de sedimentación globular (<SPLIT>VSG<SPLIT>)<SPLIT>, hemograma<SPLIT>, bioquímica elemental de sangre y orina<SPLIT>, estudio de liquido cefalorraquídeo (<SPLIT>LCR<SPLIT>)<SPLIT>, estudio de coagulación que incluyó plaquetas<SPLIT>, volumen plaquetar medio<SPLIT>, tiempo de protrombina<SPLIT>, Ratio Internacional Normalizada (<SPLIT>INR<SPLIT>) y fibrinógeno<SPLIT>, proteinograma<SPLIT>, inmunoglobulinas<SPLIT>, fracciones C3 y C4 del complemento<SPLIT>, crioglobulinas<SPLIT>, anticuerpos antinucleares (<SPLIT>ANA<SPLIT>)<SPLIT>, anticuerpos anti citoplasma del neutrófilo (<SPLIT>ANCA<SPLIT>)<SPLIT>, anticuerpos anticardiolipina IgG e IgM y antigangliósidos GM1 y GD1b<SPLIT>, factor reumatoide<SPLIT>, serología a lúes (<SPLIT>RPR<SPLIT>)<SPLIT>, Borrelia burgdorferi y hepatitis B y C<SPLIT>, Mantoux<SPLIT>, electrocardiograma (<SPLIT>ECG<SPLIT>)<SPLIT>, radiografía de tórax<SPLIT>, resonancia magnetica (<SPLIT>RM<SPLIT>) cerebral<SPLIT>, torácica y abdominal<SPLIT>.
Los hallazgos de estas exploraciones resultaron dentro del rango de la normalidad<SPLIT>.
Durante el ingreso se realizan dos estudios neurofisiológicos que se detallan en la tabla 1<SPLIT>.
El primero realizado a los 9 días del inicio de los síntomas<SPLIT>, destacó la ausencia de potencial motor (<SPLIT>PM<SPLIT>) del CPE izquierdo y una reducción de la amplitud del PM del mediano derecho con estímulos en muñeca<SPLIT>, codo y axila respecto a la del obtenido con estimulación palmar<SPLIT>.
El electromiograma (<SPLIT>EMG<SPLIT>) del ACP derecho mostraba un patrón de máximo esfuerzo simple con escasos potenciales de unidad motora (<SPLIT>PUMs<SPLIT>) de características normales y sin actividad espontánea<SPLIT>.
En el tibial anterior (<SPLIT>TA<SPLIT>) izquierdo no se registro actividad espontánea ni voluntaria<SPLIT>.
En el segundo estudio realizado a los 15 días de evolución<SPLIT>, se objetivaron cambios en la conducción sensitiva de varios nervios<SPLIT>, que previamente no habían mostrado alteraciones<SPLIT>.
Éstos incluyeron<SPLIT>, reducción de la amplitud del potencial sensitivo del nervio peroneal superficial izquierdo<SPLIT>, ausencia de respuestas sensitivas en los nervios surales y en el mediano derecho al estímular en tercer dedo y disminución de la amplitud de los obtenidos desde primer y segundo dedos<SPLIT>.
Como en el primer estudio<SPLIT>, no se obtuvo PM del CPE izquierdo<SPLIT>.
La amplitud de los PMs del mediano derecho estaba reducida<SPLIT>, incluyendo la correspondiente a la estimulación en la palma<SPLIT>, que había disminuido respecto a la del estudio previo<SPLIT>.
En el EMG se registró actividad espontánea en forma de fibrilaciones y ondas positivas<SPLIT>, abundantes en el ACP derecho y escasas en TA y pedio izquierdos<SPLIT>.
Como en el estudio anterior<SPLIT>, el reflejo H y las ondas F de cubitales<SPLIT>, tibiales posteriores<SPLIT>, mediano izquierdo y CPE derecho fueron normales y no se observaron bloqueos proximales de la conducción motora en el mediano izquierdo y en ambos cubitales<SPLIT>, obteniéndose valores normales hasta punto de Erb<SPLIT>.
Se realizó una biopsia del nervio sural izquierdo<SPLIT>, que mostró degeneración axonal e infiltrado inflamatorio perivascular compatible con infarto por vasculitis<SPLIT>.
Se instauró tratamiento con 60 mg<SPLIT>/<SPLIT>día de prednisona<SPLIT>, con mejoría subjetiva de la debilidad muscular y de las parestesias dolorosas<SPLIT>.
Posteriormente se redujo gradualmente la dosis de prednisona<SPLIT>.
A los 9 meses<SPLIT>, 45 mg a días alternos<SPLIT>, mejoría de parestesias en las extremidades inferiores y de fuerza proximal en la extremidad superior izquierda<SPLIT>.
Persistía déficit sensitivomotor en la mano derecha y paresia marcada en territorio del CPE izquierdo<SPLIT>.
Un tercer estudio neurofisiológico realizado a los 9 meses no mostro cambios significativos respecto al anterior<SPLIT>, excepto la reaparición del potencial sensitivo de baja amplitud en el nervio sural derecho<SPLIT>.
En el EMG persistía moderada actividad espontánea en ACP derecho y TA izquierdo<SPLIT>, con patrones de máximo esfuerzo marcadamente deficitarios y PUMs con signos de reinervación activa<SPLIT>, irregulares (<SPLIT>polifásicos y politurns<SPLIT>) e inestables<SPLIT>.
Lactante de sexo femenino que ingresó a los 7 meses de vida por presentar una crisis generalizada tónico-clónica breve<SPLIT>, sin proceso infeccioso ni fiebre asociada<SPLIT>, que se repitió con similares características a las 23 horas del primer episodio<SPLIT>, estando ingresada<SPLIT>.
No se observó inicio focal de la crisis<SPLIT>, con constantes vitales mantenidas<SPLIT>, exploración física y neurológica posterior normal<SPLIT>.
Los padres no referían antecedentes personales a destacar<SPLIT>, acudía a las revisiones periódicas de salud y su desarrollo psicomotor y estaturo-ponderal seguía un curso normal<SPLIT>.
A su ingreso se realizó hemograma<SPLIT>, pruebas de función renal<SPLIT>, hepática<SPLIT>, reactantes de fase aguda<SPLIT>, ecografía cerebral y electroencefalograma<SPLIT>, con resultado normal<SPLIT>.
Ante la observación de una situación sociofamiliar conflictiva<SPLIT>, se realizó la búsqueda de tóxicos en orina<SPLIT>, que resultaron positivos para cocaína en dos muestras sucesivas<SPLIT>.
La primera muestra arrojó un nivel cuantificado de metabolitos de cocaína en orina de 1,7 µg<SPLIT>/<SPLIT>ml y la segunda<SPLIT>, recogida pocas horas después<SPLIT>, 0,4 µg<SPLIT>/<SPLIT>ml (<SPLIT>punto de corte de nuestro laboratorio en 0,3 µg<SPLIT>/<SPLIT>ml<SPLIT>)<SPLIT>, que se negativizaron a las 48 horas del ingreso<SPLIT>.
El padre es fumador habitual de cannabis<SPLIT>, pero los familiares negaron el consumo de cocaína en su domicilio ni en su ambiente sociofamiliar cercano y apuntaron la posibilidad de contacto con humo ambiental en un local cerrado donde estuvieron horas antes del inicio de las crisis<SPLIT>.
Bajo vigilancia por la asistente social asignada desde el alta<SPLIT>, la paciente no ha vuelto a presentar crisis en los siguientes seis meses y el desarrollo psicomotor sigue un curso normal<SPLIT>.
Varón de 37 años hipermétrope al que<SPLIT>, en una exploración rutinaria<SPLIT>, se descubrió una presión intraocular (<SPLIT>PIO<SPLIT>) de 34 mmHg en el ojo derecho (<SPLIT>OD<SPLIT>) y de 32 mmHg en el ojo izquierdo (<SPLIT>OI<SPLIT>)<SPLIT>.
La gonioscopía mostró signos de cierre angular en ambos ojos que motivaron la realización de iridotomías bilaterales con láser Nd<SPLIT>:<SPLIT>YAG<SPLIT>.
A las dos semanas continuaban signos de cierre angular a pesar de ser permeables las iridotomías y la PIO era de 33 mmHg (<SPLIT>OD<SPLIT>) y 36 mmHg (<SPLIT>OI<SPLIT>)<SPLIT>.
Se realizó una biomicroscopía ultrasónica (<SPLIT>BMU<SPLIT>) que permitió detectar una configuración en iris-plateau con cierre angular secundario a múltiples quistes iridociliares<SPLIT>.
Los quistes presentaban paredes hiperreflectivas delgadas con contenido líquido hiporreflectivo<SPLIT>, sugiriendo el diagnóstico de quistes primarios neuroepiteliales<SPLIT>.
Se decidió tratar el OI mediante iridoplastia con láser argón (<SPLIT>tamaño impacto 500 µm<SPLIT>, 0,5 segundos de exposición y 500 mW de potencia<SPLIT>)<SPLIT>.
Se ofreció la misma actitud para el OD<SPLIT>, pero el paciente prefirió un tratamiento conservador con medicación hipotensora (<SPLIT>timolol 0,5% cada 12 horas<SPLIT>) hasta ver la respuesta al tratamiento láser<SPLIT>.
Tras la iridoplastia se repitió la BMU mostrando el cambio de configuración de la raíz del iris de convexo a cóncavo<SPLIT>, así como la desaparición de los quistes<SPLIT>.
La PIO se redujo a 17 mmHg sin necesidad de tratamiento<SPLIT>.
Al mes se mantuvo una PIO de 18 mmHg en OI sin medicación y de 14 mmHg en OD con Timolol<SPLIT>.
En la BMU se pudo observar la reaparición de los quistes en el ojo tratado con láser<SPLIT>, sin llegar a producir un bloqueo angular secundario<SPLIT>.
Esta situación se mantuvo durante 6 meses<SPLIT>, reapareciendo después la configuración en iris plateau del OI y elevándose la PIO a 28 mmHg<SPLIT>.
En este momento<SPLIT>, se decidió tratar ese ojo con medicación hipotensora como el derecho<SPLIT>, ya que éste mantenía una presión intraocular adecuada (<SPLIT>14 mmHg<SPLIT>)<SPLIT>.
El paciente declinó cualquier otro tratamiento que no fuera médico<SPLIT>, ya que toleraba muy bien la medicación y se lograba un adecuado control tensional<SPLIT>.
Actualmente<SPLIT>, tras 12 meses de seguimiento<SPLIT>, el paciente muestra una PIO de 14 mmHg en ambos ojos con Timolol 0,5% cada 12 horas<SPLIT>.
En la BMU se siguen observando múltiples quistes neuroepiteliales en ambos ojos<SPLIT>, sin mostrar incremento en tamaño ni número ni presentar el paciente clínica de cierre angular<SPLIT>.
Mujer de 78 años con antecedentes de hipertensión<SPLIT>, diabetes mellitus tipo 2<SPLIT>, artrosis generalizada<SPLIT>, insuficiencia cardíaca congestiva en estadio II de la NYHA y fibrilación auricular crónica<SPLIT>.
Estaba siendo tratada con metformina (<SPLIT>850 mg<SPLIT>/<SPLIT>8 horas<SPLIT>)<SPLIT>, glipizida (<SPLIT>5 mg<SPLIT>/<SPLIT>día<SPLIT>)<SPLIT>, lercanidipino (<SPLIT>10 mg<SPLIT>/<SPLIT>día<SPLIT>)<SPLIT>, lisinopril-hidroclorotiazida (<SPLIT>20/12,5 mg<SPLIT>/<SPLIT>día<SPLIT>)<SPLIT>, acenocumarol y<SPLIT>, ocasionalmente<SPLIT>, ibuprofeno<SPLIT>.
Dos días antes del ingreso por aumento de dolores óseos recibe ibuprofeno (<SPLIT>600 mg<SPLIT>/<SPLIT>8 horas<SPLIT>)<SPLIT>, comenzando posteriormente con deterioro general<SPLIT>, vómitos y disminución del nivel de conciencia<SPLIT>.
En urgencias estaba hipotensa y mal prefundida en coma (<SPLIT>Glasgow 6/15<SPLIT>) y en la analítica se objetivó creatinina plasmática de 1,79 mg<SPLIT>/<SPLIT>dl<SPLIT>, glucemia de 215 mg<SPLIT>/<SPLIT>dl y tiempo de protrombina del 7%<SPLIT>.
La gasometría arterial tenía un pH de 7,03 con bicarbonato de 10 mEq<SPLIT>/<SPLIT>l y un ácido láctico plasmático de 14 mmol<SPLIT>/<SPLIT>l<SPLIT>.
La radiografía de tórax reveló un infiltrado en la base izquierda<SPLIT>.
Fue trasladada a la unidad de cuidados intensivos (<SPLIT>UCI<SPLIT>) y se le realizó intubación orotraqueal con ventilación mecánica y administración de fármacos vasoactivos y antibióticos<SPLIT>.
Se indicó punción lumbar<SPLIT>, cuyo resultado fue compatible con meningitis neumocócica<SPLIT>.
Se realizó hemodiálisis con baño de bicarbonato teniendo posteriormente una mejoría analítica con creatinina (<SPLIT>Cr<SPLIT>) plasmática de 1,2 mg<SPLIT>/<SPLIT>dl y bicarbonato sérico de 22 mEq<SPLIT>/<SPLIT>l<SPLIT>.
No obstante<SPLIT>, la paciente permaneció en coma<SPLIT>, con EEG con ondas de bajo voltaje<SPLIT>, falleciendo a las 72 horas del ingreso<SPLIT>.
Varón de 54 años de edad<SPLIT>, remitido a nuestro servicio en mayo del 2003 por presentar odontalgia en relación con un tercer molar inferior derecho erupcionado<SPLIT>.
A la inspección oral se pudo observar la existencia de una tumefacción que expandía las corticales vestibulo-linguales<SPLIT>, en la región del tercer molar mandibular derecho<SPLIT>, cariado por distal<SPLIT>.
La mucosa oral estaba indemne<SPLIT>, y no se palpaban adenomegalias cervicales<SPLIT>.
El paciente refería la existencia de una hipoestesia en el territorio de distribución del nervio mentoniano de quince días de evolución<SPLIT>.
En la ortopantomografía<SPLIT>, se evidenció la presencia de una imagen radiolúcida<SPLIT>, de contornos poco definidos<SPLIT>, en el cuerpo mandibular derecho<SPLIT>.
Dos días después<SPLIT>, bajo anestesia local<SPLIT>, se procedió a la exodoncia del tercer molar y curetaje-biopsia del tejido subyacente<SPLIT>.
Durante el acto operatorio<SPLIT>, se produjo una intensa hemorragia<SPLIT>, que pudo ser cohibida con el empleo de Surgicel (<SPLIT>Johnson & Johnson<SPLIT>, Nuevo Brunswick<SPLIT>, NJ<SPLIT>) y mediante el empaquetado en el lecho alveolar de cera de hueso<SPLIT>.
El hemograma y el estudio de coagulación postoperato-rios no mostraron alteraciones significativas<SPLIT>.
El diagnóstico histopatológico del material remitido fue de<SPLIT>: metástasis mandibular por hepatocarcinoma bien diferenciado<SPLIT>.
Las células neoplásicas no se teñían con las citoqueratinas 19 y 20<SPLIT>, ni con la alfa-fetoproteina<SPLIT>, pero si mostraron una intensa tinción granular citoplasmática con el marcador hepatocito N. Entre los antecedentes personales del paciente<SPLIT>, destacaban una historia de diabetes tipo II de 8 años de evolución<SPLIT>, controlada con hipoglucemiantes orales<SPLIT>.
Se trataba de un bebedor de 130 g<SPLIT>.
etanol<SPLIT>/<SPLIT>día desde los 30 años<SPLIT>, y fumador de 2 paquetes de cigarrillos<SPLIT>/<SPLIT>día desde los 20 años<SPLIT>.
Un año antes de nuestra valoración<SPLIT>, el enfermo había sido diagnosticado de cirrosis hepática (<SPLIT>estadio A de Child Pugh<SPLIT>: 5/15<SPLIT>)<SPLIT>, y de hepatocarcinoma multicéntrico con afectación de los segmentos II<SPLIT>, III<SPLIT>, y IV<SPLIT>, siendo intervenido mediante resección hepática parcial<SPLIT>, al mes de su diagnostico<SPLIT>.
Previamente se había realizado un estudio completo que incluyó gammagrafía ósea con tecnecio 99-<SPLIT>MDP y tomografía computarizada de cráneo<SPLIT>, pulmón<SPLIT>, abdomen y pelvis<SPLIT>, sin objetivar la presencia de metástasis<SPLIT>.
Los valores séricos de alfa-fetoproteina eran<SPLIT>, en los controles postoperatorios<SPLIT>, normales (<SPLIT>3,6 ng<SPLIT>/<SPLIT>ml<SPLIT>)<SPLIT>.
A los 15 días de nuestra intervención se objetivó una marcada elevación de los niveles de alfa-fetoproteina (<SPLIT>221 ng<SPLIT>/<SPLIT>ml<SPLIT>)<SPLIT>, evidenciándose mediante gammagrafía ósea y resonancia magnética la existencia de múltiples metástasis que afectaban al occipital izquierdo<SPLIT>, cuerpo esternal<SPLIT>, pelvis<SPLIT>, y múltiples vértebras<SPLIT>.
El paciente fue sometido a radioterapia paliativa sobre las lesiones vertebrales (<SPLIT>10 Gy a la semana de Co 60<SPLIT>) sin mejoría<SPLIT>, siendo éxitus a los seis meses de nuestra biopsia<SPLIT>.
Paciente varón de 38 años<SPLIT>, valorado en consulta por coxalgia derecha de año y medio de evolución<SPLIT>, de características mecánicas<SPLIT>.
Refiere dolor con práctica de ejercicio físico y leve limitación de la movilidad en ciertas posturas<SPLIT>.
Mecánico de profesión<SPLIT>, en su tiempo libre realizaba bicicleta (<SPLIT>40 km diarios en fines de semana<SPLIT>)<SPLIT>, carrera 3 veces por semana durante 50 minutos y marcha de una hora los días que no realizaba carrera<SPLIT>.
El dolor se ha ido incrementando progresivamente<SPLIT>, realizando<SPLIT>, en la actualidad<SPLIT>, solamente marcha<SPLIT>.
A la exploración física destaca un dolor a la palpación en tercio medio de la región inguinal derecha con dolor a la flexión<SPLIT>, aducción y rotaciones sobre todo interna (<SPLIT>maniobra de choque positiva<SPLIT>)<SPLIT>.
El balance articular de caderas es de flexión 110<SPLIT>o bilateral<SPLIT>, rotación interna de 10<SPLIT>o derecha<SPLIT>, 40<SPLIT>o izquierda y rotación externa de 30<SPLIT>o derecha<SPLIT>, 40<SPLIT>o izquierda<SPLIT>.
El balance muscular en la escala de Daniels es de 5/5 global bilateral<SPLIT>.
No presenta dolor a la palpación de puntos ciáticos y las maniobras de Valleix<SPLIT>, Fabere<SPLIT>, Lasegue y Bragard son negativas<SPLIT>.
Tampoco presenta dolor a la palpación en la cintilla iliotibial y el test de Ober es negativo<SPLIT>.
En la exploración de la marcha observamos ausencia de claudicación y el apoyo monopodal alterno derecho-izquierdo es estable<SPLIT>, con Trendelenburg negativo<SPLIT>.
Presenta dolor para la marcha con flexión forzada de cadera y rodilla<SPLIT>.

The Tokenizer for Clinical Cases Written in Spanish

Introduction

This repository contains the tokenization model trained using the SPACCC_TOKEN corpus (https://github.com/PlanTL-SANIDAD/SPACCC_TOKEN). The model was trained using the 90% of the corpus (900 clinical cases) and tested against the 10% (100 clinical cases). This model is a great resource to tokenize biomedical documents, specially clinical cases written in Spanish.

This model was created using the Apache OpenNLP machine learning toolkit (https://opennlp.apache.org/), with the release number 1.8.4, released in December 2017.

This repository contains the training set, testing set, Gold Standard.

Prerequisites

This software has been compiled with Java SE 1.8 and it should work with recent versions. You can download Java from the following website: https://www.java.com/en/download

The executable file already includes the Apache OpenNLP dependencies inside, so the download of this toolkit is not necessary. However, you may download the latest version from this website: https://opennlp.apache.org/download.html

The library file we have used to compile is "opennlp-tools-1.8.4.jar". The source code should be able to compile with the latest version of OpenNLP, "opennlp-tools-RELEASE_NUMBER.jar". In case there are compilation or execution errors, please let us know and we will make all the necessary updates.

Directory structure

exec/
  An executable file that can be used to apply the tokenization to your documents.
  You can find the notes about its execution below in section "Usage".

gold_standard/
  The clinical cases used as gold standard to evaluate the model's performance.

model/
  The tokenizationint model, "es-tokenization-model-spaccc.bin", a binary file.

src/
  The source code to create the model (CreateModelTok.java) and evaluate it (EvaluateModelTok.java).
  The directory includes an example about how to use the model inside your code (Tokenization.java).
  File "abbreviations.dat" contains a list of abbreviations, essential to build the model.

test_set/
  The clinical cases used as test set to evaluate the model's performance.

train_set/
  The clinical cases used to build the model. We use a single file with all documents present in
  directory "train_set_docs" concatented.

train_set_docs/
  The clinical cases used to build the model. For each record the sentences are already splitted.

Usage

The executable file Tokenizer.jar is the program you need to tokenize the text in your document. For this program, two arguments are needed: (1) the text file to tokenize, and (2) the model file (es-tokenization-model-spaccc.bin). The program will display all tokens in the terminal, with one token per line.

From the exec folder, type the following command in your terminal:

$ java -jar Tokenizer.jar INPUT_FILE MODEL_FILE

Examples

Assuming you have the executable file, the input file and the model file in the same directory:

$ java -jar Tokenizer.jar file.txt es-tokenizer-model-spaccc.bin

Model creation

To create this tokenization model, we used the following training parameters (class TrainingParameters in OpenNLP) to get the best performance:

  • Number of iterations: 1500.
  • Cutoff parameter: 4.
  • Trainer type parameter: EventTrainer.EVENT_VALUE.
  • Algorithm: Maximum Entropy (ModelType.MAXENT.name()).

Meanwhile, we used the following parameters for the tokenizer builder (class TokenizerFactory in OpenNLP) to get the best performance:

  • Language code: es (for Spanish).
  • Abbreviation dictionary: file "abbreviations.dat" (included in the src/ directory).
  • Use alphanumeric optimization: false
  • Alphanumeric pattern: null

Model evaluation

After tuning the model using different values for each parameter mentioned above, we got the best performance with the values mentioned above.

Value
Number of tokens in the gold standard 38247
Number of tokens generated 38227
Number of words correctly tokenized 38182
Number of words wrongly tokenized 35
Number of tokens missed 30
Precision 99.88%
Recall 99.83%
F-Measure 99.85%

Table 1: Evaluation statistics for the tokenization model.

Contact

Ander Intxaurrondo (ander.intxaurrondo@bsc.es)

License

Creative Commons License
This work is licensed under a Creative Commons Attribution 4.0 International License.

Copyright (c) 2018 Secretaría de Estado para el Avance Digital (SEAD)

Downloads last month
144
Edit dataset card