Hej,
Jag har inte direkt ett svar på din fråga, då jag inte har erfarenhet av just hur man lägger till egna templates. Men här är en alternativ lösning som borde fungera för att uppnå ditt önskade resultat.
<asp:Repeater ID="Repeater1" runat="server">
[...]
<ItemTemplate>
<div class='<%# Container.ItemIndex % 5 == 0 ? "NoMarginClass" : "" %>'>
<%# Eval("Name")%>
</div>
</ItemTemplate>
[...]
</asp:Repeater>
Som sagt, ett alternativ som ju inte är lika snyggt, men bör fungera.