可以，但有很多因素需要考虑。

首先，有犯罪记录会影响信用评分，而信用评分是贷款时银行关注的重点之一。如果犯罪记录严重，导致信用评分非常低，那么即使有逾期也难以贷款。

其次，逾期会导致负面记录出现在个人信用报告中，这也会影响信用评分。如果逾期次数较多或者逾期时间较长，会对贷款产生不良影响。

尽管有犯罪记录和逾期两种不良记录都对贷款申请造成了影响，但情况并不绝对。如下是几种可能的解决方案：

方案1：提供担保人或者抵押品

贷款时可以提供担保人或者抵押品，以减小银行对申请人信用状况的关注。这样，即使申请人信用记录有不良记录，但有担保人或者抵押品作为保障，在一定程度上能够降低银行的风险。

方案2：向信用机构申诉

如果申请人认为个人信用报告中有错误，可以向信用机构提出申诉。个人信用报告对于银行来说是重要的评估方式，但也并非十分准确。如果申请人能够向信用机构证明自己的信用状况有所改善，或者说明自己的犯罪记录与贷款风险不相关，就能够有效提升信用评分。

法律角度：

根据《中华人民共和国合同法》相关条款，借款人具有完全民事行为能力，能够独立实施或接受民事法律行为。而有犯罪记录的被视为犯罪人，在法院依法作出判决前，不享有民事权利和行为能力。在此情况下，银行将保持谨慎态度，很难批准借款申请。同时，逾期虽然不属于违法行为，但会降低借款人的信誉度，影响其申请贷款的可行性。如果借款人申请贷款时犯罪记录已被撤销或者逾期已得到妥善解决，那么即使在此情况下，也有可能获得贷款资格。