Wenn es Ihnen möglich ist, dies im Datenbank-Client im Code zu tun, könnte es einfacher sein.
Andernfalls bedeutet die Fehlermeldung wahrscheinlich, dass die eingebaute Hex-Funktion nicht wie erwartet mit Ihren Werten arbeiten kann. Ich würde zuerst überprüfen, ob der Eingabewert getrimmt und im richtigen Format ist, so einfach kann es sein. Dann würde ich die Datenbankdokumentation konsultieren, in der die Hex-Funktion beschrieben ist, und nachsehen, wie die erwartete Eingabe aussehen würde, und diese mit einigen Ihrer Werte vergleichen, um herauszufinden, worin der Unterschied besteht und wie Sie Ihre Werte so ändern können, dass sie der erwarteten Eingabe entsprechen.
Eine einfache Google-Suche nach "informix hex function" brachte die erste Ergebnisseite mit dem Satz: "Muss ein Ganzzahl-Literal oder ein anderer Ausdruck sein, der eine Ganzzahl zurückgibt". Wenn Ihr Datentyp eine Zeichenkette ist, konvertieren Sie die Zeichenkette zunächst in eine ganze Zahl. Auf den ersten Blick sieht es so aus, als ob Sie etwas mit der cast-Funktion machen (ich bin mir da nicht sicher).
select hex(cast SomeStringColumn as int)) from SomeTable