Jag har nedan inte tagit med i beräkningen att fota "allmänfoto", så någon normalzoom eller liknande finns inte med i budget.
Om du mestadels fotograferar porträtt så skulle jag kolla på en systemkamera och gärna en med "fullformat" eftersom du har en hygglig budget, men om det ska köpas nytt hamnar man då lite på gränsen till vad du tänkt dig.
Till en fullformatskamera är det sedan lämpligt att skaffa ett 85/1.8.
Fotograferar du inte action så behöver du inte ha dundersnabb autofokus eller sekvenstagning så du behöver inte kolla på dyraste husen och du kan komma avsevärt billigare undan om du kollar begagnat.
Vilket märke du ska välja beror väl eg främst på om du tänker spegelreflex (Canon eller Nikon) eller spegellöst (Sony).
Pratar vi nypriser:
Nikon D610 med Nikon AF-S 85/1.8G klarar budget.
Canon 6D MkII med EF 85/1.8 USM överskrider lite.
Sony A7 med FE 85/1.8 klarar med marginal.
Sony A7ii FE 85/1.8 överskrider lite.
Begagnat kommer du ner en bra bit under maxbudget på alla alternativen och det finns ju även andra modeller att kolla på.
Beroende på hur många pixlar du tror dig behöva kan modeller så gamla som Nikon D700 och Canon 5D Mk I funka fint. Men man kan håva in en 5D MkII för runt 5000kr, kanske neråt 4000 om man har lite tur och tålamod och det är en bra kamera för ändamålet.
En 5D Mk II med EF 85/1.8 USM, begagnat, kommer du nog undan med runt 7500-8000kr och då kommer du att kunna ta superfina porträtt.
Vill du köpa nytt men ändå hålla dig lite lägre i pris så är det inte så illa med en APS-C-kamera med ett 50/1.4 eller liknande heller. Åter igen behöver du inte någon särskilt snabb eller avancerad kamera för porträtt så även en Nikon D3500 (tex) skulle funka bra med ett AF-S 50/1.4G, eller till och med med ett 50/1.8.
Skillnaden från din RX100 blir dock inte lika stor och du får inte samma möjlighet till kort skärpedjup med APS-C som med "fullformat". Då skulle du behöva ner på bländare 1.2 och då skenar priset lite... (Och det är eg bara Canon som har alternativ.)
Hade jag varit du hade jag kollat på Canon 5D MkII/6D, Nikon D610 eller Sony A7ii med respektive 85/1.8 på begagnadmarknaden.
Då finns det ju även utrymme för en enklare normalzoom eller liknande för "allmänfoto".