Title: Automatic lemmatizer construction with focus on OOV words lemmatization
Other Titles: Automatická konstrukce lematizátoru se zaměřením na lematizaci OOV slov
Authors: Kanis, Jakub
Müller, Luděk
Citation: KANIS, Jakub; MÜLLER, Luděk. Automatic lemmatizer construction with focus on OOV words lemmatization. In: Text, speech and dialogue. Berlin: Springer, 2005, p. 132-139. (Lectures notes in computer science; 3658). ISBN 978-3-540-28789-6.
Issue Date: 2005
Publisher: Springer
Document type: článek
article
URI: http://www.kky.zcu.cz/cs/publications/KanisJ_2005_Automaticlemmatizer
http://hdl.handle.net/11025/17130
ISBN: 978-3-540-28789-6
Keywords: lemmatizace;OOV slova
Keywords in different language: lemmatization;OOV words
Abstract: Tento článek se zabývá automatickou konstrukcí lematizátoru z Plný tvar - Lema trénovacího slovníku a lematizací nových, v trénovacím slovníku neviděných, tj. OOV slov. Jsou představeny tři metody pro lematizaci tří různých typů OOV slov (chybějící plné tvary, složená a neznámá slova). Tyto metody byly testovány pro češtinu a nejlepší výsledek dosažený jejich kombinací je precision: 99.3 % a recall: 75.1 %. Dále je také představen bezslovníkový lematizátor založený na metodě pro lematizaci neznámých slov (lematizace pomocí vzorů).
Abstract in different language: This paper deals with the automatic construction of a lemmatizer from a Full Form - Lemma (FFL) training dictionary and with lemmatization of new, in the FFL dictionary unseen, i.e. out-of-vocabulary (OOV) words. Three methods of lemmatization of three kinds of OOV words (missing full forms, unknown words, and compound words) are introduced. These methods were tested on Czech test data. The best result (recall: 99.3 % and precision: 75.1 %) has been achieved by a combination of these methods. The lexicon-free lemmatizer based on the method of lemmatization of unknown words (lemmatization patterns method) is introduced too.
Rights: © Jakub Kanis - Luděk Müller
Appears in Collections:Články / Articles (NTIS)
Články / Articles (KKY)

Files in This Item:
File Description SizeFormat 
KanisJ_2005_Automaticlemmatizer.pdfPlný text94,21 kBAdobe PDFView/Open


Please use this identifier to cite or link to this item: http://hdl.handle.net/11025/17130

Items in DSpace are protected by copyright, with all rights reserved, unless otherwise indicated.