Да, похоже bash не в состоянии оперировать байтами и битами, он может оперировать только символами в своей текущей кодировке. У меня тоже не получается воспользоваться логическими операциями в алгебраических функциях.
Я уже предлагал использовать какую-нибудь мультимедиа клавиатуру для считывания состояния сканера, кнопки "замыкать" через оптореле, типа KAQY214S. Ну есть ещё вариант, написать свой простенький контроллер, подключаемый к LPT, и читать в цикле /dev/lp0.