IEお気に入りを削除したいのですが・・・

WindowsキーとRキーを一緒に押して「ファイル名を指定して実行」を起動します。
shell:favorites
と半角で入力してEnterキーをたたくとIEの「お気に入り」フォルダの本体が開きます。
そのフォルダ内で削除してください。

また復活するというのが「リンク」フォルダのことでしたら、これは削除できません。レジストリ操作をおこなったあとで非表示にするという対処くらいでしょうか。
http://itpro.nikkeibp.co.jp/free/NT/WinReadersOnly/20040325/193/

ユーザーフォルダを開いて、お気に入りのフォルダから直接削除してみてはどうでしょうか

Win7 IE10で、そのようなことはないですが、

C:\ユーザー\ユーザー名\[お気に入り]フォルダ
を開いて、中にある削除したいお気に入りのショートカットを削除しても復活しますか？

なお、「お気に入りバー」フォルダのことでしたら、「お気に入りバー」を表示している場合は、削除しても復活する仕様ですから、非表示で使用するか、お気に入りフォルダにある「お気に入りバー」フォルダを隠しフォルダ属性にするしかないです。