Veranstaltungsbeschreibung

Beim maschinellen Übersetzen von Texten in einer natürlichen Sprache in eine andere kommen verschiedene Formalismen wie Grammatiken und Automaten zum Einsatz. Diese Vorlesung gibt einen Überblick, wie man solche Formalismen zur Modellierung von natürlichsprachlichen Übersetzungen nutzen kann und wie man ein so modelliertes Übersetzungssystem anhand von Beispielen trainiert. Eine gute praktische Ergänzung zu dieser Vorlesung ist unser „Machine Translation Lab“.

Wichtige Mitteilungen

Die Übung am 10. Januar findet wieder im Rechnerkabinett INF/E042 statt.

Zeitplan

Vorlesungen

• Montag, 3. DS (11:10 - 12:40), Raum INF/E010
• Donnerstag, 1. DS (7:30 - 9:00), Raum INF/E009

Übung

• Donnerstag, 2. DS (9:20 - 10:50), Raum INF/E007

Vorlesungsmaterialien

Folien

• 08. Oktober
• 11. Oktober: 1, 2
• 15. Oktober
• 18. Oktober
• 22. Oktober:
  • An Example of a Syntax-Based Translation
  • Performed Operations
  • Insertion
  • Reordering
  • Translation
  • The Yamada-Knight Model
  • English Parse Tree of Japanese Sentence
  • Training Algorithm
• 8. November:
  • Productions of a PCFG
  • Derivation of a PCFG and its corresponding abstract syntax tree and parse tree
  • Notational Conventions for PCFGs
• 12. November:
  • A tree in the Penn Treebank
  • An adaptation of Knuth's Algorithm
• 19. November:
  • An example SCFG
  • An example derivation
  • Hypothesis space of the SCFG translation model
  • An aligned pair of sentences
• 26. November:
  • SCFG rule extraction
  • SCFG rule creation
  • Extracted rule sets (examples)
• 29. November:
  • Reordering with tree transducers
  • Insertion with tree transducers
  • Translation with tree transducers
  • SMT model based on PXTT
• 6. Dezember:
  • yXTT rule extraction
  • An example alignment graph
  • Frontier nodes and minimal frontier graph fragments
  • Obtaining the rules' left-hand sides
  • Obtaining their right-hand sides
  • All extracted rules
  • Input and output product construction
  • EM algorithm for training tree transducers
  • Handout: Definition von ind(l), ind(r), sowie der Projektionsfunktionen
• 13. Dezember:
  • Handout: Extraction of yXTT rules
• 17. Januar:
  • Handout: Inside and Outside Probabilities
  • Bigram training
  • Supervised Training of PCFG
  • The EM Algorithm
  • Table: Instances of the EM Algorithm

Literatur

Links zu Natural Language Processing & Machine Translation

• Berkeley Parser
• Stanford Parser, Webinterface
• StatMT – “dedicated to research in statistical machine translation”
• ACL Anthology – “over 21,200 papers on the study of computational linguistics and natural language processing”

Übungsaufgaben

• 1. Übung (18. Oktober 2012)
• 2. Übung (25. Oktober 2012)
• 3. Übung (1. November 2012)
• 4. Übung (8. November 2012)
  • C-Programm zur Lösung der Aufgabe (sehr ad-hoc!)
  • Ausgabe des Programms (trainierte Parameter)
• 5. Übung (15. November 2012)
  • Die Lösung für Aufgabe 3.1
• 6. Übung (22. November 2012)
  • Englischer Satzkorpus
  • Deutscher Satzkorpus
  • Python-Skript zur Anzeige von Parsebäumen
    Es muss NLTK installiert sein, das funktioniert mit python setup.py install --user im entpackten Archiv
• 7. Übung (29. November 2012)
• 8. Übung (6. Dezember 2012)
• 9. Übung (13. Dezember 2012)
  • Die Lösung für Aufgabe 1
• 10. Übung (20. Dezember 2012)
• 11. Übung (10. Januar 2013)
• 12. Übung (31. Januar 2013)
  • Haskell-Implementierung von Aufgabe 1b