円の中心軌跡の求め方とは？

・ある点(a,b)を通り、ある円X^2+Y^2=r1^2を接する無数円の中心軌跡の求め方

ベクトルa：ある点(a、b)の位置ベクトル
ベクトルr1：ある円半径r1　の中心から接点までのベクトル
　　　　　　この場合は円の中心が原点なので、接点の位置ベクトル。
（ｘ、ｙ）：無数の円の中心　　　　　　
ベクトルr2：無数の円の中心から接点までのベクトル
ベクトルr2'：無数の円の中心から(a、b)のベクトル
　　　　　　(a-x,b-y)

二つの円が接するならば、ベクトルr1とr2は同一直線上となる。
√（x^2＋y^2）＝ｒ1＋ｒ2････式1
両辺2乗すると
無数の円は必ず(a,b)を通るのだから
(a-x)^2+(b-y)^2=r2･････式２

上記式１・２からr2を消去すると求めるべき曲線の式が求まる。
(式１をr2=・・・と変形し式２へ代入）


2番目は直線と円の中心とを結ぶ半径は垂直になることを利用してときます。
垂直に交わる２つのベクトルの内積＝０になることを思い出してください。
円の中心から接点のベクトルを(a,b)とし、
(c、d)を接点とすればa(ｘ-c)+b(y-d)=0が直線の方程式です。右式は両辺を実数倍しても成り立つことに注意してください。先に直線の方程式がある場合、(a,b)の実数倍が円の中心から接点のベクトルです。


3番目は上の２つの応用です。2つの接する円の中心を直線で結ぶと接点を必ず通ること。√（x^2＋y^2）＝ｒ1＋ｒ2････式1
と2番目の方法をmixすれば解けます。

訂正です。
1問目の中間のへんの
「両辺2乗すると」は無いものと考えてください。

この問題はよくある大学入試問題ですね。
このような問題を解く時、考え方が間違っていると何をすればよいかわからなくなります。解答してあげたいのですが、ここでの表現がかなり難しいので概略だけお答えします。
ある点（ｘ、ｙ）というのを（Ｃ，Ｄ）定数という風に変える。
円の中心座標を（ｘ、ｙ）にする。
後は、求めたい円での円の公式より、関係式が出てきます。（1番）
真中の問題も基本的に同じですが、円の公式の右辺（半径）を直線と点の距離の公式を使うとできます。
最後の問題も、円の公式と直線と点の距離の公式をそれぞれ作り、連立方程式にすればできると思います。
もし、難しいと感じられるときは、半径などを固定（定数）にすればずいぶん簡単になると思います。