败退到台湾之后，以汤恩伯对蒋介石之忠诚及他带到台湾较为完整的部队，本来尚有被重用的可能；但根据2004年初去世、曾任蒋介石机要秘书十多年，与蒋关系甚深的周宏涛[2]，在他的自传“蒋公与我”书中所述，当时美国人对国军将领都很失望，对汤恩伯尤其不满，认为他无能。美国驻台代办师枢安（Robert C. Strong）即曾向国府明白表示，不该再用汤恩伯。蒋介石于大败之余，喘息未定，仍处在危疑震撼情势之下，迫切企求美方伸出援手，对美国人的批评意见非常重视，因此，汤的前途已不乐观。
按周宏涛所说，恰在此时，又有外电报导蒋介石在日本购置豪宅，作为台湾危急不保时避退之处，经蒋介石严令密查后发现，原来是汤恩伯的手下，在东京为汤所准备的。这事使蒋介石极为不悦，从此不再起用汤恩伯，只给了他一个战略顾问的空衔。
稍早，民国三十八年（1949）汤任京沪杭警备总司令时，陈仪是浙江省政府主席，陈派了外甥丁名楠持其亲笔信，秘密赴上海面交汤恩伯，劝汤率部叛蒋投共，汤衡量情势，未听陈的劝说，并把这事向蒋报告，使得陈仪被捕且于民国三十九年（1950）在台北被枪毙。
