Neue Ansätze zur Interpretierbarkeit von großen Sprachmodellen durch die Frame Representation Hypothesis

Die Interpretation von großen Sprachmodellen (LLMs) ist aufgrund ihrer komplexen Architektur und der impliziten Wissensrepräsentation eine Herausforderung. Die "Frame Representation Hypothesis" bietet einen neuen Ansatz zur Interpretierbarkeit und Steuerung von LLMs, der auf der "Linear Representation Hypothesis" (LRH) aufbaut und mehrteilige Wörter (Multi-Token Words) berücksichtigt. Bisherige Forschungen zur LRH konzentrierten sich auf die Verbindung von LLM-Repräsentationen mit linguistischen Konzepten auf der Ebene einzelner Token. Da die meisten Wörter jedoch aus mehreren Token bestehen, erweitert die Frame Representation Hypothesis die LRH auf Multi-Token Words. Dies ermöglicht die Analyse jeglicher Textdaten mit tausenden von Konzepten. Kern der Hypothese ist die Annahme, dass Wörter als Frames interpretiert werden können. Frames sind geordnete Sequenzen von Vektoren, die die Beziehung zwischen Token und Wörtern besser erfassen. Konzepte werden dann als Durchschnitt der Wort-Frames dargestellt, die ein gemeinsames Konzept teilen. Diese Methode ermöglicht die Entwicklung von Werkzeugen wie der "Top-k Concept-Guided Decoding". Diese Technik steuert die Textgenerierung intuitiv durch die Auswahl bestimmter Konzepte. Der Algorithmus wählt die Top-k Token aus, die vom LLM generiert wurden, und zusätzlich das Token, welches die höchste Korrelation mit dem Zielkonzept-Frame aufweist. Die Anwendung dieser Methode auf LLM-Familien wie Llama 3.1, Gemma 2 und Phi 3 zeigt vielversprechende Ergebnisse. Sie ermöglicht die Identifizierung von Gender- und Sprachverzerrungen sowie schädlichen Inhalten. Gleichzeitig bietet sie das Potenzial, diese Verzerrungen zu korrigieren und so zu sichereren und transparenteren LLMs beizutragen. Die Verwendung von "Concept Frames", die aus dem Open Multilingual WordNet generiert wurden, dient sowohl der Steuerung der Textgenerierung als auch der Aufdeckung von Verzerrungen und Schwachstellen. Die Frame Representation Hypothesis stellt somit einen wichtigen Schritt in Richtung einer verbesserten Interpretierbarkeit und Kontrolle von LLMs dar. Durch die Berücksichtigung von Multi-Token Words und die Nutzung von Concept Frames bietet sie ein robustes Framework für die Analyse und Steuerung von Textgenerierungsprozessen. Die Möglichkeit, Verzerrungen zu identifizieren und zu korrigieren, trägt maßgeblich zur Entwicklung verantwortungsvoller und vertrauenswürdiger KI-Systeme bei. Bibliographie - Pan, S., Luo, L., Wang, Y., Chen, C., Wang, J., & Wu, X. (2024). Unifying Large Language Models and Knowledge Graphs: A Roadmap. *arXiv preprint arXiv:2306.08302v3*. - Dong, Z., Li, J., Men, X., Zhao, X., Wang, B., Tian, Z., Chen, W., & Wen, J.-R. (2024). Exploring Context Window of Large Language Models via Decomposed Positional Vectors. *NeurIPS 2024 Spotlight Posters*. - Wu, D., Chang, J., Jia, F., Liu, Y., Wang, T., & Shen, J. (2024). TopoMLP: A Simple yet Strong Pipeline for Driving Topology Reasoning. *ICLR 2024 Spotlight Poster*. - Valois, P. H. V., Souza, L. S., Shimomoto, E. K., & Fukui, K. (2024). Frame Representation Hypothesis: Multi-Token LLM Interpretability and Concept-Guided Text Generation. *arXiv preprint arXiv:2412.07334*. - Chang, T., & Wiens, J. (2024). From Biased Selective Labels to Pseudo-Labels: An Expectation-Maximization Framework for Learning from Biased Decisions. *ICML 2024 Poster Session*. - Cheng, J., Alqaham, Y. G., & Gan, Z. (2024). Harnessing Natural Oscillations for High-Speed, Efficient Asymmetrical Locomotion in Quadrupedal Robots. *2024 IEEE/RSJ International Conference on Intelligent Robots and Systems (IROS)*. - Chowdhary, K. R., & others. (2024). Leveraging Large Language Models for Enhanced Process Model Comprehension. *ResearchGate*. - Zhang, Y., Chen, Y., Liu, D., & Wu, H. (2024). Finding Accurate Rationales for Question Answering. *Proceedings of the 62nd Annual Meeting of the Association for Computational Linguistics (Volume 1: Long Papers)*. - Wu, D., Yan, J., Chang, J., Liu, Y., Wang, T., & Shen, J. (2024). SimTra: Simple yet Strong Transformer for Trajectory Prediction in Autonomous Driving. *OpenReview*. - Kapoor, J., Schulz, A., Vetter, J., Pei, F., Gao, R., & Macke, J. H. (2024). Latent Diffusion for Neural Spiking Data. *ICML 2024 Poster Session*. - Chowdhary, A. K. (2023). PaLM 2 Technical Report. *Google AI*.