Certains historiens considèrent que le nom de la ville d'Ajlun remonte au roi Églon de Moab, qui est mentionné dans le livre des Juges de la Bible. Le roi Églon s'est emparé de Jéricho, a frappé et réduit Israël en esclavage : « Les enfants d'Israël firent encore ce qui déplaît à l'Éternel ; et l'Éternel fortifia Églon, roi de Moab, contre Israël, parce qu'ils avaient fait ce qui déplaît à l'Éternel. Églon réunit à lui les fils d'Ammon et les Amalécites, et il se mit en marche. Il battit Israël, et ils s'emparèrent de la ville des palmiers. Et les enfants d'Israël furent asservis dix-huit ans à Églon, roi de Moab. » (Juges 3:12-14).

Mais l'histoire d'Ajlun est plus ancienne que le Livre des Juges. A partir du roi Églon de Moab, les poteries et autres pièces trouvées ici et là indiquent qu'Ajlun était habitée au premier âge du bronze (1900-1550 av. J.-C.), et qu'elle était d'une grande importance depuis les temps anciens en raison de sa situation géographique et commerciale. Les montagnes d'Ajlun mentionnées dans la Bible sont les montagnes de Galaad, et ses forêts sont celles d'Éphraïm. Au Moyen Âge, la montagne Ajlun était connue sous le nom de montagne Bani Awf. Banu Awf était une tribu habitant la montagne, disséminée dans la vallée du Jourdain et qui était connue pour sa férocité. Izz al-Din Osama a pu, après avoir construit le château connu aujourd'hui sous le nom de Citadelle d'Ar-Rabad sur les ruines d'un château romain, les retenir, arrêter leurs aînés et les emprisonner. Au début des années 1950, des mosaïques ont été trouvées dans une maison près de l'église latine, et des murs de vieilles maisons et des arcs ont été trouvés sur le marché. En plus de poteries des époques romaine et byzantine, une colonne utilisée par les Romains a été trouvée afin d’inscrire sur le côté des routes la distance entre une ville et une autre. Une pierre portant l'image d'un palmier datant de l'époque arabe médiévale a aussi été trouvée. Les puits et les grottes romains abondent à Ajlun et dans ses environs. Ils ont été utilisés comme cimetières et lieux de culte pour les chrétiens pendant l'ère des persécutions des premières générations.