Проверка подлинности на основе сообщений, основанная на WS-Security, является тем, что вы ищете, и определенно поддерживается basicHttpBinding и netTcpBinding. Я думаю, вы ошибочно полагаете, что только WsHttpBinding будет поддерживать WS-Security, что является неточным.
WS-привязки предназначены для WS- * элементов, отличных от WS-Security, таких как WS-ReliableMessaging. Настройка безопасности транспорта, независимой от сообщений, по-прежнему будет сложной, если вы хотите, чтобы она оставалась безопасной. Для транспортов, которые не являются дуплексными, вам необходимо иметь как минимум один сертификат, обменянный заранее.
Возможно, это другая причина, по которой вы полагаете, что безопасность сообщений не поддерживается basicHttpBinding. basicHttpBinding не позволит вам использовать аутентификацию UserName без обеспечения безопасности на транспорте (по какой-то причине я тоже добавлю). И поскольку транспортная безопасность по своей сути зависит от транспорта, я предполагаю, что вы пытаетесь ее избежать.
Так или иначе, если вы хотите быть полностью независимым от транспортировки, первое, что вам нужно решить, это получить сертификаты в порядке и выяснить, как вы собираетесь распространять первый (корневой) сертификат (ы) или безопасно обменные сертификаты. Если у вас есть роскошь приложения, в котором вы можете распространять главный сертификат, то возьмите этот маршрут. Если у вас более сложный сценарий, вам нужно отступить и подумать о том, насколько сильно эта проблема на самом деле.