Also grundlegend hast du da verschiedene Möglichkeiten. Je nachdem wie viel du schon vom Programmieren verstehst.

1. Eine komplette Entwicklungsumgebung (IDE) wie Eclipse oder Netbeans nutzen. Hat den Vorteil, dass du gleich programmieren kannst, ohne große Probleme beim Installieren zu haben (zumindest trifft das auf Netbeans zu), außerdem bieten die IDEs Möglichkeiten zum Zusammenbauen von ausführbaren Programmen. Der große Nachteil bei diesem Ansatz ist, dass du nicht genau weißt, was die IDE alles macht und daher nicht wirklich lernst, wie die Java-Plattform bzw. -Sprache arbeitet. Daher kommen wir zu Punkt 2
2. Du nutzt einen ganz normalen Editor (mit Syntaxhighlighting), unter Windows z.B. Notepad++ o.ä. und programmierst in diesem Editor, dann holst du dir von Sun/Oracle das JDK und kompilierst deine Java-Dateien. Die kannst du dann per Kommandozeile ausführen. Alles nicht besonders komfortabel, aber meiner Meinung nach am Besten geeignet, um zu verstehen, wie Java funktioniert.
3. Du suchst dir ein Einsteigerbuch und schaust, welche Tools dieses verwendet. Bücher solcher Art gibt es wie Sand am Meer und sie haben den Vorteil, dass man einen umfassenden Blick auf die Dinge bekommt.

Ein gutes Buch, was auch online lesbar ist, wäre z.B. openbook.galileocomputing.de/javainsel8/