答の候補はたかが知れた数しかないんですから、攻め方は色々あると思います。んでもって、いろんなやり方でやってみると勉強になるんです。…とかノタマウだけじゃ酷いので、一例を挙げます。
[1] 問題の直線LはP=(a,b)とQ=(a+b,b-a)を通る。ということは、一次方程式
(x,y) = (a,b)+(b,-a)t (tは実数)
で表せます。これは連立方程式
x = a + bt
y = b - at
という意味です。(x,y)=Pになるのはt=0のとき、(x,y)=Qになるのはt=1のときですね。
ふたつの式からtを消去できますが、そうしてしまうとかえって見通しが悪くなるように思います。
ついでにちょっと幾何学をしてみましょう。原点OとPを結ぶ直線をMとすると、MはLと直交していて、交点がPです。OPの距離とPQの距離は同じですから、⊿OPQは直角二等辺三角形になってるわけです。
[2] 点Pは黒点である。まず、a,bは共に1~5の整数でなくてはなりません。そして、黒点ってことはつまり、a+bは奇数である。(ご質問の図をよく見れば分かるでしょう。)なので、a, bの一方は奇数で他方は偶数である。
[3] Lがどれかの格子点(x,yがどっちも整数になる点)を通るには、tはどんな値であるかを考えます。
もちろん、もしtが整数なら(x,y)は格子点である。でもそれだけじゃなく、a, bがどちらもnの倍数(ただしn≧2)であれば、tが
t = m/n, n≧2
のときに(x,y)は格子点です。
しかしa, bの一方は奇数で他方は偶数である。「どちらも2の倍数」ということはない。なので、tが整数でないなら、
t = m/n, n≧3
である。ということは:
もしtが整数でなくても(x,y)が格子点になるのだとすると、a≧1, b≧1ですから、
a = An, b = Bn, n≧3, A≠B, A≧1, B≧1
であるような正の整数A, Bがあるってことです。この条件を満たすAとBがどんな値であっても、(たとえばA,Bの一方が1, 他方が2だとしても)aかbのどっちかは2n≧2×3=6以上です。だから、図にある黒点・白点は、どれもP=(a,b)ではないことになります。これは問題の設定に反してますね。
だから、(x,y)が格子点になるのはtが整数の時に限る(a, bは共通の素因数を持たない。a,bは互いに素である)と分かります。
[4] (x,y)=(1,5)となるのはt=Tの時である、としましょう。
(1,5) = (a,b)+(b, -a)T (Tは整数)
(1) T≧1のとき、1≧a+b, 5≦b-a 。しかしa≧1, b≧1なので、1≧a+bになることはありません。だからT≦0である。
(2) T≦-2のとき、1≦a-2b, 5≧b+2a。しかし、a≧1, b≧1かつa≠bなので、5≧b+2aとなることはありません。だから、T≧-1である。
(3) T=0のとき、つまり(1,5)=(a,b)=Pである。これなら確かに(x,y)=(1,5)です。しかしa+bが偶数なので、Pは白点であり、題意を満たしません。
(4) 残るはT=-1のとき。つまり(1,5)=(a-b,b+a)である。これなら確かに(x,y)=(1,5)です。ツルカメ算によりa=3, b=2。だからP=(3,2), Q=(5,-1)です。a+bが奇数なので、Pは黒点。題意を満たしています。(Qは白点でも黒点でもないですね。)
[5] 以上をもう一回見直してみますと、点Pを決めて、OPを一辺とし∠OPQが直角である直角二等辺三角形を作って、そのもうひとつの頂点をQとした。当然Qは格子点になる。このとき、辺OP上には両端を除いて格子点がない(従って辺PQ上にも両端を除いて格子点がない)ようなP、つまりaとbが互いに素であるようなP=(a,b)が選ばれたのです。次に、OPを対称軸としてQの鏡像Q'を考えると、Q'も当然格子点になる。このQ'こそが(1,5)という訳ですね。
補足
傾きが-a/bと記号でしか求めることができないんです… 5=-a/b×1+n(求める切片) ここから切片を求めるにはどのようにしたらよいでしょうか? 本当に申し訳ありません。