Pluginsystem i stil med Photoshop

Jag har en idé på ett program jag vill göra och det bygger på ett väl fungerande pluginsystem för bildbearbetning. Det jag sitter och funderar på är hur jag ska bygga upp nått sånt. Hur fungerar t.ex. photoshop?

Det jag tänkt är att varje plugin är en dll-fil som exporterar några grundläggande funktioner, som huvudprogrammet sedan anropar. Jag är dock inte säker på hur kommunikationen mellan host och plugin skall fungera. Om en plugin skall bearbeta en bild, är det då bäst att skicka över en pekare till bilden som pluginen sedan använder sig av? Det skulle kanske fungera, men hur löser jag bäst problemet som uppkommer då en plugin vill ändra storleken på bilden (för det måste kunna ske)? En spontan lösning på det skulle kunna vara att pluginen anropar huvudprogrammet och ber det allokera nytt minne i en ny storlek som sedan bearbetas och returneras av pluginen. Efter en sådan operation skulle huvudprogrammet frigöra det minne som pluginen inte returnerar.

Detta är mina högst personliga amatörtankar så jag är nyfiken på hur andra har löst motsvarande problem. Hur skulle du ha gjort?

Det här med dll-filer är ju speciellt oxå. Som jag har förstått det är det inte alltid okej att skicka pekare kors och tvärs mellan processer, men mellan program och dll är det väl ok? kommer det fungera lika bra på en mac och med linux om jag nu vill porta programmet i framtiden?