On peut s'étonner que, malgré sa situation géographique, proche de
Toulouse, la place fortifiée de Penne d'Albigeois n'ait été touchée par les événements de la Croisade Albigeoise que tardivement.
Simon de Montfort y fait un bref passage lors des opérations militaires de
1212, alors que le château est gardé par des routiers toulousains. Il poursuit cependant rapidement son chemin pour rejoindre son frère Guy à Penne d'Agenais. Un épisode est relaté par
Pierre de Vaux des Cernay (
Histoire Albigeoise), présentant l'exhumation du corps d'un chevalier enterré par les croisés quelques jours auparavant. Les défenseurs du château de Penne auraient alors trainé la dépouille pour l'exposer aux charognards. La présentation de cet événement, réel ou non, donne un bel exemple du manque d'objectivité de l'auteur. La même opération organisée par des croisés est, à quelques pages de ce chapitre, présentée comme un acte exemplaire pour faire comprendre aux hérétiques ce qu'il peut advenir aux leurs, même après la mort ...
Fidèle vassal de
Raymond VI, Bernard de Penne (de même que son frère Olivier) se fera remarquer lors du siège de
Toulouse en
1219, durant lequel il commanda la défense de la barbacane Baussane (voir la
La Chanson de la Croisade Albigeoise).
C'est seulement en
1223, que
Simon de Montfort occupe le lieu. Le
comte Raymond VII reprend Penne en
1229, mais doit le remettre au roi de France peu de temps après (Traité de Paris).