Det är mycket, mycket enklare än vad du tror.
http://jsfiddle.net/GhGVb/2/
Använder inte AJAX då det inte fungerar på JSFiddle, men det är också superenkelt som du säkert vet. Det jag skulle rekommendera är att ladda 5-10 objekt åt gången, dessa räknas som en "omgång". Denna parameter sparar du, och skickar med den när du gör ditt AJAX-kall. På din SQL-query kör du då LIMIT (x * omgång), (x * omgång) + x
Sen vill du väl ha någon snygg fading på det, vilket också är relativt enkelt. Om jag kommer ihåg rätt så är tillvägagång sättet
Hide>Append>fadeIn>scrollBottom - då får du en snygg fadingeffekt när ny data läggs in.
Hoppas det hjälpte!
Edit: Märks det att jag och Jonssondesign pratar mycket Skype? 