Это параноидальный движок. Дело в том, что некоторые JPEG файлы могут в себе содержать дополнительную текстовую информацию (например, EXIF-данные), в том числе и HTML и XML код. В большинстве случаев и при использовании вменяемого браузера - никакого вреда от этого нет, откроется картинка и все. Но некоторые версии IE могут попытаться выполнить этот HTML/XML код, в результате участник, открыв такое изображение, теоретически может получить что-то нехорошее. Поэтому движок SMF на всякий случай блокирует загрузку всех файлов, в которых встречается даже намек на угрозу.
Если вы пытаетесь загрузить картинку, движок ее не принимает, а вы уверены, что картинка безобидна - просто пересохраните ее в любом графическом редакторе, и если надо - уменьшите размеры.