Declan Rice räddade segern med ett nickmål i den 97:e minuten.
Då utbröt vilda glädjescener där Arsenalspelarna firade tillsammans med fansen.
– Det här visar vad vi är gjorda av och att Arsenal aldrig slutar tro, säger Declan Rice till NBC Sports.