我签了培训服务协议，培训后服务了5年，现在离职。该不该赔偿？怎么补偿？

根据你目前的描述，如果单位提出，是需要支付违约金的。

除非另有约定，违约金金额=培训费除以5年乘以(5年减去培训结束后的时间)。

请参见《劳动合同法》第二十二条:用人单位为劳动者提供专项培训费，对其进行专业技术培训的，可以与劳动者订立协议，约定服务期。劳动者违反服务期约定的，应当按照约定向用人单位支付违约金。违约金的金额不得超过用人单位提供的培训费用。用人单位要求劳动者支付的违约金不得超过服务期未完成部分应分摊的培训费用。