Analysis and Domain-Transfer of Transformer Language Models in Limited Data Environments
Diese Dissertation diskutiert die internen Prozesse von Transformern sowie Möglichkeiten für ihren Domänentransfer. Im Zentrum dieser Forschung steht das Bestreben, Verständnis darüber zu erlangen, wie diese Modelle Sprache verarbeiten und repräsentieren. Zu diesem Zweck führen wir Analysen durch und vergleichen die internen Prozesse dieser Modelle mit der traditionellen NLP-Pipeline. Anschließend wenden wir dieses Verständnis an, um zwei Ansätze des Transferlernens zu untersuchen, die speziell für Domänen mit begrenzter Datenverfügbarkeit zugeschnitten sind. Insbesondere evaluieren wir unsere Methoden anhand der klinischen Domäne. Der erste Ansatz stellt eine neuartige Trainings-Methode basierend auf Generierung von Wissensgraphen dar, und hat das Ziel die Lücke zwschen allgemeinem Sprachverständnis und domänenspezifischen Fakten sowie idiosynkratischer Sprache zu überbrücken. Durch die Anreicherung von Transformern mit sorgfältig kuratiertem Wissen überwindet dieser Ansatz die inhärenten Herausforderungen, die durch den Mangel an spezialisierten Trainingsdaten entstehen. Der zweite Ansatz setzt auf die Nutzung von Reinforcement Learningl zum fine-tuning von Transformer-Modellen. Dieser Ansatz nutzt die interaktive und iterative Natur des Reinforcement Learning, um Modelle effektiver an die Besonderheiten von domänenspezifischen Anwendungen anzupassen, insbesondere in Szenarien, in denen Daten spärlich sind. Dadurch, dass Modelle darauf trainiert werden, Entscheidungen und Vorhersagen zu treffen, die durch domänenspezifische Ziele und Rewards informiert sind, ist dieser Ansatz prädestiniert für die Anwendung in kritischen Bereichen wie der Differentialdiagnose.
We discuss theinternal workings of transformer models, as well as avenues for their efficient domain transfer.We enhance our understanding of how these complex models process and represent language. To that end we conduct qualitative and quantitative analyses on these models. We then apply this understanding to investigate two avenues of transfer learning, specifically tailored to niche domains with limited data availability. Firstly we explore the potential of enriching transformer models with domain-specific knowledge through the integration of information from knowledge graphs. This approach involves a novel method of targeted knowledge graph generation, aiming to bridge the gap between general language understanding, and domain-specific factoids and idiosyncratic language. By infusing transformer models with carefully curated knowledge, this strategy seeks to overcome the inherent challenges posed by the scarcity of specialized training data. The second avenue shifts the focus towards leveraging reinforcement learning as a means to fine-tune transformer models for tasks within niche domains. This approach capitalizes on the interactive and iterative nature of reinforcement learning to adapt models more effectively to the peculiarities of domain-specific applications, even in scenarios where data is sparse. By training models to make decisions and predictions that are informed by domain-specific objectives and rewards, this method shows promise in significantly enhancing model performance in critical areas such as differential diagnosis and treatment recommendation. Throughout this thesis, the efficacy of these transfer learning strategies is rigorously evaluated in the clinical domain, and their potential to substantially improve the adaptability and accuracy of transformer models in niche domains is demonstrated.
Vorschau
Rechte
Nutzung und Vervielfältigung:
Bitte beachten Sie, dass einzelne Bestandteile der Publikation anderweitigen Lizenz- bzw. urheberrechtlichen Bedingungen unterliegen können.