Нужно было поставить Oracle XE на Windows XP (RU).
Все нормально качается с официального сайта.
Установка супер-простая (по сравнению с обычной установкой оракла).

Пользователь по-умолчанию: system
SID по-умолчанию: XE
Панель управления доступна через на порту 8080.

Админка работает, SQLPlus подключается и уже казалось, что счастье так близко.

Если вы попытаетесь подключиться через JDBC, напоритесь на эпохальный баг с NLS.
Достаточно в Google вбить: oracle xe nls и вы увидите огромное множество советов по решению этой проблемы.
Вариантов уйма: править в реестре, менять локаль, выполнять магические команды в оракле, использовать специальный jdbc-драйвера от другой версии.

Все это конечно очень весело, но мне интересно, когда-нибудь Oracle подправит это баг или нет?… Это же ужасно.