Also ich kann mich hier nur meinen Vorpostern anschließen - die Banken und generelle die schwergewichtigen Geldinstitute werden da ihre eigene Software verwenden.

Da du aber gerade den FOREX-Bereich erwähnt hast: Also da kommt man eigentlich als Privatanwender auch ganz gut mit dem Metatrader (aktuell in Version 5) hin. Mehr Infos dazu findest du z.B. auch hier http://www.devisenhandel-forex.de/metatrader-mt4.htm (da sind gleich ein paar Broker mit Metatrader-Unterstützung aufgelistet falls dein Broker den MT nicht unterstützen sollte).

Ansonsten sind mir noch NinjaTrader und Tradestation ein Begriff. Der NinjaTrader hat einen ähnlichen Funktionsumfang wie der MetaTrader, ist aber auf den Aktienmarkt ausgelegt. Damit kannst du dann allenfalls Währungsfutures an der NYSE handeln... Darüber hinaus hatte ich noch kurz mal die TradeStation gesehen. Die soll ganz interessante Möglichkeiten zur Programmierung bzw. Austestung von Handelssystemen haben, aber mir ist jetzt dummerweise kein Broker bekannt, der diese unterstützt. Naja, summa summarum solltest du im FX-Sektor eigentlich mit dem Metatrader recht weit kommen. Das nötige Kapital vorausgesezt kann man sich ja später noch die entsprechende Software oder Gateways o.ä. einfach programmieren lassen. ;-)