右下のアイコンが並んでいるところ"通知領域"の過去に表示されたアイコンを消します。
Windows7になってきれいになったと思ったら、実は相変わらず常駐を解除したものや、一度でもそこに表示されてアンインストールしたものまで残ったままです。
タスクバー右下アイコン横の▲印（隠れているインジケーターを・・）から「カスタマイズ」をクリックしてみて下さい。いらないものあるでしょ。
"アイコンと通知を非表示"を選択すればタスクバーには表示されなくなりますが、きれいに掃除しちゃいましょう。
（環境：Windows8.1 64bit）
レジストリエディタで、
HKEY_CURRENT_USER\Software\Classes\Local Settings\Software\Microsoft\Windows\CurrentVersion\TrayNotify
と辿ります。そこにある以下の３つのキーごと削除します。
IconStreams
PastIconsStream
PromotedIconCache
削除後、タスクマネージャからプロセス"explorer.exe"を終了させます。タスクバーが消えてしまうので、ログオフ・ログオンです。
コマンドプロンプト（管理者権限で起動）から、
taskkill /F /IM explorer.exe
start explorer.exe
"explorer"プロセスの終了起動をコマンドプロンプトから行います。
