解説のモチベーションです.
4an−3 があります.この中身は何もいじれなさそうなので,4an−3 をベースに考えていきたいです.もとの式を 4 倍して 3 を引くと,
4an+1−3=4an2−4an4an−3+4an−3
(ここで,右辺にも 4an−3 があるので方針は間違ってなさそうだと思います.)
右辺は因数分解ができそうです.見やすいように c=an, d=4an−3 とおけば,左辺は 4c2−4cd+d2 で
4c2−4cd+d2=(2c−d)2
なので,右辺は (2an−4an−3)2 だったと分かりました.
置換をしていきます.bn=4an−3 とおきましょう.すると 2an=2bn2+3 なので
bn+12=(2bn2+3−bn)2→bn+1=2bn2−2bn+3
となります.(ただまだ解ける形ではなさそうです.) 右辺は 2 次式なので平方完成してみると,
2bn2−2bn+3=21(bn−1)2+1
うまくいきました.つまり,
bn+1−1=21(bn−1)2
となり,bn−1 を一かたまりとして見れるようになりました.bn−1 をまた cn として置いてもいいですが,
2bn+1−1=(2bn−1)2
なので cn=2bn−1 とするとより見やすいかもしれません.こうすると,
c1=3, cn+1=cn2
なので cn=3(2n−1) です.あとは順に戻していくと an が求まります.