Die Endstufe ist in jeder Hinsicht mit dem Sub überfordert. Die macht gebrückt gerade mal 160W RMS, während der Woofer irgendwo zwischen 300 und 400 liegt. Heißt: Wenn man den Pegel hochdreht, läuft das Ding immer gut ins Clipping und das mag die Stufe nicht und der Wooofer schon gar nicht.
Dass ne analoge Stufe heiß wird, ist unter diesen Umständen nicht weiter verwunderlich.
Zu der Kabelgeschichte: maßgeblich ist immer der kleinste Querschnitt. Es wird also NIE vorne mehr Strom in die Stufe reinfließen, als hinten über ne zu kleine Masse wieder rauskommt. Das Problem bei zu kleinen Kabeln ist dann folgerichtig, dass die Stufe ihre eh schon nicht üppige Leistung mit wenig Strom erzeugen soll.
Wenn Du die Stufe behalten willst, würde ich versorgungstechnisch mit min. 16mm² dran gehen. Evtl. noch nen 1F Kondensator davor, dann sollte die Leistungsfähigkeit der Stufe soweit gewährleistet sein. Son richtiger Kracher wirds trotzdem nie.
Wenn die Stufe im Fach bleibt und dass nunmal gut verschlossen ist, ist es auch kein Wunder, dass dieser Umstand zur weiteren Erwärmung beiträgt. Wo soll die warme Luft denn hin, wenn sie nach oben nicht raus kann?
Die Sache mit den Lüftern lohnt bei dem kleinen Ding nicht. Es reicht garantiert aus, einfach dafür zu sorgen, dass die warme Luft nach oben raus kann.
Wenns ne andere Stufe werden soll, sind Eton oder Alpine bei digitialen sicher eine gute und solide Wahl.
Eine Frage bleibt aber noch offen: die GTA ist ne 4-Kanal-Stufe. Zwei davon nutzt man für den Woofer. Was machst Du mit den anderen beiden?