リリースされたばかりのMagento-CE-1.4.0.0ですが、js/lib/flex.jsに不具合があり、ファイルアップロード関係が上手く動かないようです。
対応方法としては、1.3系か、1.4RC1までのflex.jsに置き換えることで動作できるようになります。

本家のバグトラッキングに登録されているので、近いうちに修正されると思いますが、現状ではファイルの置き換えしか対策方法はありません。