この問題では解の形式が与えられているのでそれを使ってsolver目線の解説を書いてみます.
まず,ガウス記号に臆せず自明な解(整数解)を求めてみます.
x3+7x2+4x=12 より, x=1,−2,−6 です.
x=1 は [x3]=[x2]=[x]=1 に対応するので,解のうち x=1 を含む部分は 1≤x<32 となります.(この範囲からほんの少しだけはみ出すと[x3],7[x2],4[x]はそれぞれ1,7,4ずれるか変わらないかなのでこれが再び解となることはないです)
x=−2 は [x3]=−8,[x2]=4,[x]=−2 に対応するので解のうち x=−2 を含む部分は x=−2 のみとなります.
これで c=−2,d=1,e=32 が求まったのであとは a,b を求めるだけです.
a<b<c<d<e と与えられてるので x<−2 の範囲で探索すればいいです.
ここでちょっとした工夫があるのですが,[x2]を決めると[x]が決まり,[x3]+7[x2]+4[x]=12 から [x3] も求まるので [x2] の値で場合分けをするといいです.(xが整数のときは例外となりますがこの場合は考察済みなので安心です)
表を書いてみます.
[x2] [x] [x3]
4 −3 −4
5 −3 −11
6 −3 −18
7 −3 −25
8 −3 −32
...
書くと面倒なので過程は省きますが,上から調べると 3 行目でこれをみたす x が存在し,その範囲は −318≤x<−317 となるので a=−318,b=−317 が求まり答えは 324+289+64+1+4=682 です.