何をそろえればいいかアドバイスいただきたいです

書き方が少し悪かったですね。すいません。

VPNには二つあって，普通のインターネット回線を使ったインターネットVPN と，専用回線を新たに契約するIP-VPNです。


インターネットVPN ・・・通常の一般回線なので，ネット環境とVPN対応ルーターがあれば構築できます。
一般回線なので若干セキュリティの信頼性が下がるのと，通信速度の変動など「通信品質」を保証できません。(まぁ，普通にネットする感覚と同じ感じです）
対応するルーターがあれば自力でも構築できますので，追加コストが発生せずに導入できます。
ただ，若干ルーターやPCの設定に知識が要りますし，トラブル時にサポートを受けられません。
そんな時に便利なのが，インターネットVPNを提供しているサービス会社の利用です。
当然，月額料金や従量課金等のコストはかかりますが設定が簡単だったりサポートが受けられるので，自力で構築は無理だという場合に検討すると良いでしょう。


IP-VPN・・・回線事業者(NTTなど）が提供しているサービスで，通常のインターネット回線からは独立しています。
専用回線なのでセキュリティ的に強固なのと，通信品質はある程度保障されます。
その分値段も高くなります。


NASは外付けハードディスクのようなものです。
これをルーターでLAN上に繋げば，他のパソコンと共有できVPNで繋いでれば外出先でも自由に保存データにアクセスできます。


UTMはセキュリティ専用機器で，これをルーターとネットを繋げる端末との間に噛ませるとセキュリティが向上しますが，従業員がいない個人事業主なら無くても良いです。

という事で改めて必要なモノは

・インターネット回線
・VPN対応ルーター(セキュリティ方式が幾つかあるのでVPNサービスを利用する場合は確認を)

となります。
で，サポートや構築が不安という場合に

・インターネットVPNサービス(お使いのルーターが対応しているか要確認）

の利用を考えると良いかと思います。

また，オフィス内でのデータ保存に

・NAS

を用意すると便利です。
自動バックアップ機能等がついているので，データ紛失の危険性も下げられます。

・UTM
は，20万以上しますし個人事業主であれば必要ないかと思います。すいません。蛇足でした。

私も20年来、同様の状態です。
もともとは、移動体通信の状況も悪かったり、インターネットもろくに整備されなかったりしていた時代からすれば、今は天国です。
いろいろと試しましたが、今の状況がなかなかうまい具合かなと思っております。

まず、ワークステーションとかシンクライアントとか理解されてますか？
それを管理する手間がそこそこかかりますよ。それと出先から利用しようとしてもネットワークのないところでは不可能になってしまいます。
まずは家ではデスクトップPCです。
大画面ディスプレイと大容量HDD（今時はSSDかな？）で、ほとんど対応可能です。
PCは壊れるものですから、データだけバックアップしていても、もしもの時は２～３日作業がストップしてしまいます。やはり、PCは２台以上あるべきですし、普段使っていないPCはいざというときに動きません。（個人的なあるあるです）

これに、データをOneDriveでクラウド上にバックアップしておけば、出先でノートPCと完全に同期できます。当初にくらべて大分、安定してきました。ノート側は全てのデータを持って歩かなくても、必要な時にダウンロードする設定にしておけば、ディスク容量も節約できます。

メールも今時はExhangeやIMAPでネットワーク上に置きっぱなしですので、完全に同期できます。（スマホも含め）
私の場合、Office365、outlookメール、OneDriveのマイクロソフトオールスターで揃えています。大分、安定してきましたので、普通に使うには十分ですね。
古い人間ですので、Windowsを中心にして構成しています。Google系のツールは個人的に好きではありませんので・・・

あとは、押さえとしてネット系。
一応、ルーターにVPN接続機能（出先からVPN経由で自宅のネットワークにつなぐ）機能も残しています。
これで、自宅のPCを「Wake On LAN」で起動して、使用できます。
RDP（リモートデスクトップ）を使えば、シンクライアントと同様に利用できますね。（ほんとうに緊急用です。使わなくても大体だいじょうぶ）
普通の業務でしたら、このぐらいのセキュリティでも大丈夫でしょうが、業務内容次第ではより厳しいセキュリティ対策も必要かと思います。
ご参考に

VPNの構築・利用がご希望を実現する方法の一つですね。
VPNとは「Virtual Private Network」といって，仮想的な専用回線的な意味です。
暗号化技術等を駆使して，オフィスと出先でのノートパソコンとを仮想的な専用回線で繋いで，安全に情報をやり取りしようという技術です。

必要なモノ
・インターネット回線
インターネットを利用するのだから，当然必要です。
この時，二つの方法があります。
1つは一般的な公共のインターネットを利用する場合。
一般ネットなので低コストで構築できますが，その分情報漏洩の危険が付きまといます。
また，各プロバイダのサービスである「固定IPアドレス」が必要になってくるかもしれません。
インターネットVPNと呼ばれる方式です。

もう一つは，通信業者が用意した閉鎖回線を使って構築する場合です。
専用回線なので通信速度や漏洩の危険性が低いなどのメリットがありますが，当然費用も高くなってきます。
IP－VPNと呼ばれる方式です。

・VPN対応ルーター
1つのインターネット回線に複数の端末をつなげるルーターですが，VPNに対応した製品を選びましょう。
この時気を付けたいのが，VPNの規格の種類です。
VPNにも幾つか規格が存在し，ルーター毎に対応する規格が決まっています。
利用したい規格に対応したルーターを揃えましょう。

・NAS
NAS（Network Attached Storage）＝ナスと言って，LAN上に設けたハードディスクです。
LAN上にあるので，同一ネットワーク内であれば複数の端末とデータ共有ができます。
他にもファイルサーバーを用意するという手もありますが，サーバー専用のPCは高くソフトのライセンス料が必要になったりとコストが高いです。
NASであればPCは必要なく低コストで導入できます。
また，RAID(ミラーリング)という技術で複数台のHDDに併記して情報を記録するなどバックアップ性にも優れています。
RAIDにも幾つか方式がありますので，利用したい機能がついている製品を選ぶといいでしょう。

・UTM
Unified Threat Managementの略で統合脅威管理する機械です。
ファイヤーウォール・ウィルス検知・迷惑メール防止等のセキュリティ強化を一元管理に用います。
個人事業主で，利用する端末が少ないならセキュリティ対策ソフトでも十分かもしれませんが,社員を雇ったり何台もの端末を利用するならあると便利かもしれません。
そこら辺は，コストとの兼ね合いで。

・VPNサービスを利用する
月額料金を払ってVPN回線を利用できるサービスです。
独自にVPN回線を構築する必要が無いので，便利です。


と，こんな感じかなと思います。