Якось у мене була така проблема з qBittorrent, робив здається так:

[Service]
MemoryHigh=256M
MemoryMax=512M
MemorySwapMax=512M

Але це не вирішить проблему, просто програма буде "висіти" з обмеженням. Тре фіксити саму причину а не її наслідки.