А що, nautilus не вміє запам'ятовувати, чим треба відкривати? Thunar вміє.
У вас nautilus явно не знає, що є такий mime-тип - odt, а оскільки вважає себе шибко вумним, то починає здогадуватись і вирішує, що то у вас просто jar=) Подивіться, чи є у вас файлик типу /usr/share/mime/packages/openoffice.org.xml.
Можна ще поколупати GConf, але це трохи нездорове заняття...