遠隔アプリを削除してPCの情報を守る方法

あのー、住所をしられると、家の中を見放題になる、と言っているのと同じなのですが。
お使いのパソコンは、壁のない家のように、外から出入り自由な状態なのでしょうか？
ファイアウォールや暗号化が出来ない理由を書かないと、きちんとした回答はつかないように思います。

IPアドレスは「公開情報」ですから、誰でも調べようと思えば調べられますよ。ただ、それがどこまでのアドレスかは、状況で異なりますが。

またWebサイトであれば、利用しているブラウザ・OS・言語などの情報は、スクリプトで簡単に分かります。みんな「公開情報」です。

メール等だと、どこのサーバを経由して来たか等も分かります。

何をもって「PCの情報が筒抜け」と思われているのでしょうか？

データをすっぱ抜く目的で何か仕込んでるならIPアドレスが何であれ関係ありません。仕込んだ側がIPを知っていようがいまいが仕込まれたソフトが自力で外部に通知してすっぱ抜く通信を確立しますし、逆にデータを抜いてるなんて気取られるようなヘマはしません。
真っ当な遠隔操作アプリなら操作中は操作されてる側のPCに「○○（アプリ名）により操作中」と表示します。

つまり、「IPアドレスを知られて丸見え」という訴えだけでは質問者さんの被害妄想でしかないという疑いが最も合理的です。IPアドレスなんてWeb巡回してるだけでも各所に通知してるデータなんですし、それだけで個人データにアクセスし放題なら不正アクセス禁止法が稀代の悪法ということになってしまう。

<IPアドレスを知られて、PCの情報が筒抜けです>
根拠は？