1. Як так зрозумів, мова йде про імпорт, а не про експорт.
2. З давніх давен вважалося, що основним кодуванням української є koi8u, тому автори програми вважали, що кодуванням є саме koi8u, що і можна встановити за файлом languages.
3. Усунути проблему дуже просто, навіть з моїм нікудишнім знанням bash. Отже, для експорту файлів у utf8 з TeX, слід:
а) Зайти у меню Інструменти->Налаштувати. Перейти на сторінку «Перетворювачі».
б) У пункті LaTeX (plain) -> LyX у полі команди написати:
iconv -f utf8 -t koi8u $$i > $$i.tmp && tex2lyx -f $$i.tmp $$o && rm -rf $$i.tmp
в) Натиснути послідовно кнопки «Змінити», «Зберегти» і «Закрити».
Все має працювати (принаймні, у мене вийшло). Любителі альтернативної ОС можуть скористатися Akelpad.
P.S. Обурені тим, що основним кодуванням є koi8u, можуть написати повідомлення про ваду у список листування розробників LyX.