画像貼り付け中にソフトがホワイトアウトし使えない

そのソフトに限った話ではないと思うのですが画像を扱う場合にメモリ領域を確保することになるはずですが、その領域が大きすぎると確保しきれずにフリーズすることが多いと思います。
RAMをいくら増設していてもあまり関係がなくソフトの作り方次第。画像を専門に扱うPhotoshopはその点では他のソフトとは別次元。画像用に確保するメモリ管理がきちんと作り込まれている感じです。

基本的には読み込ませる画像のサイズ(ファイルサイズではなく縦横のドット数と色数(8ビットカラーとか16ビットカラーのことね))を小さくすれば解決するかと思います。
ダメ元で一度試してみてください。


画像というのはファイルサイズがいくら小さくても読み込むと無圧縮状態でRAM上に展開されます。
そのためファイルサイズがいくら数MB程度しかなくてもRAM上では数百MBになることも珍しくありません。ぢからPhotoshopで高画素のデジカメ写真を複数同時に開いたり、レイヤーを数十とか百数十使用する場合にはメモリ増設は必須とも言われています。
で、画像1枚用のメモリを確保する場合はアロケーションという命令を使用するのですが、その命令には16ビット用とか32゛っと用というものが存在するため上限が存在します。
今回のケースは上限を超えたにも関わらずエラー処理が適切に行われないためおっしゃるようなホワイトアウトになったものだと思います。
そして、専用設計されていないソフトでは画像処理系は一般的なライブラリを使用していると思うのででかいサイズの画像は使用されないという前提で作られているのではないかと想像します。
それはファイルサイズだけでは判断出来ないので「想定外」というものが存在してしまう。
もしかしたらスワップを使用するように動いているがスワップなしの設定にしているためOSからの返答待ち状態になっているだけなのかもしれません。RAMを128GBに増設しているようですからスワップなしの設定にしているのかな？と想像しました。


的外れで解決に至らないかもしれませんが、読み込ませたい画像の素性がわからない状況ではとんちんかんな回答があっても仕方ないと思います。