Το Τμήμα Γερμανικής Γλώσσας και Φιλολογίας ιδρύθηκε το ακαδημαϊκό έτος 1960/61 ως ένα από τα τέσσερα τμήματα του Ινστιτούτου Ξένων Γλωσσών και Φιλολογιών (Ι.Ξ.Γ.Φ.), που ήταν Παράρτημα της Φιλοσοφικής Σχολής του Α.Π.Θ (Ν.5139/1931). Mέχρι το 1980 την ευθύνη για τα εκπαιδευτικά, διοικητικά και άλλα θέματα που αφορούσαν το Ι.Ξ.Γ.Φ. και κατά συνέπεια και το Τμήμα Γερμανικής Γλώσσας και Φιλολογίας είχε το Εποπτικό Συμβούλιο, τα τρία μέλη του οποίου ήταν καθηγητές από τη ΦΛΣ. Τη διεύθυνση του Τμήματος ανελάμβαναν γερμανοί επιστήμονες απεσταλμένοι από τη Γερμανική Υπηρεσία  Ακαδημαϊκών Ανταλλαγών (DAAD).

Πρώτος διευθυντής του Τμήματος υπήρξε ο καθηγητής Kurt Graf von Posadowsky-Wehner (1903–1996).

Κατά τον πρώτο χρόνο λειτουργίας του το Τμήμα είχε 10 φοιτητές και φοιτήτριες. Οι πρώτοι / πρώτες πτυχιούχοι ήταν 6 και ορκίστηκαν με τη λήξη του ακαδημαϊκού έτους 1964-65.

Η έδρα της Γερμανικής Γλώσσας και Λογοτεχνίας πληρώθηκε το 1980 με έκτακτη καθηγήτρια την Ελισάβετ Χέρμπραντ-Κοτζιά, η οποία ανέλαβε τη διεύθυνση του Τμήματος.

Από το ακαδημαϊκό έτος 1982-83 το Τμήμα Γερμανικής Γλώσσας και Φιλολογίας, όπως και τα άλλα Τμήματα του Ι.Ξ.Γ.Φ., λειτουργεί ως ένα από τα οκτώ αυτοδύναμα Τμήματα της Φιλοσοφικής Σχολής (Ν.1268/1982). Πρώτη Πρόεδρός του εξελέγη η καθηγήτρια Ελισάβετ Χέρμπραντ-Κοτζιά.