クワガタもカブトムシも生物学でいう『鞘翅目[しょうしもく]･コガネムシ上科[じょうか]』に属する、いわゆる甲虫です。
しかしそこから枝分かれする『科』が違います。

コガネムシ上科を細かく分けると

・ コガネムシ科
・ タマムシ科
・ カミキリムシ科
・ オサムシ科
・ ゾウムシ科
・ クワガタムシ科

などがあります。

ここでカブトムシは『コガネムシ科』、[b]クワガタは『クワガタムシ科』に分けられるのです。

コガネムシ科にはカブトムシのほか、コガネムシやカナブン、ハナムグリなどが仲間として属していますが、クワガタムシ科にはクワガタ以外に分類されていません。

このことから、カブトムシはクワガタよりもコガネムシやカナブンに近い分類となります。

また、この質問をされる方は、カブトムシとクワガタの成虫になってからの暮らし方が似ているために
『カブトムシとクワガタは似ている』
と思っていることがほとんどです。

ですが、両者の幼虫時代には明らかな相違点があります。

まずクワガタですが、ほとんどのクワガタは幼虫時代をキノコやバクテリアによって分解された朽木の中で過ごします。
それに対し、カブトムシは腐葉土と呼ばれる、落ち葉や枯れ枝が堆積してバクテリア分解された土中で育ちます。

さらに、体の外見も異なります。

幼虫時代で言えば、クワガタの幼虫は肛門こうもんが縦に割れているのに対し、カブトムシなどコガネムシ科の幼虫は肛門が横に割れています。

成虫になるとさらに複数の相違点が出てきます。
一番特徴的なものといえばツノですが、カブトムシのツノは頭の皮膚と胸の皮膚が発達して出来たものです。
このため、頭を上下させなければツノを動かすことが出来ません。
固定された小さい胸のツノと、頭から生える大きなツノの間に相手をはさむのがカブトムシのツノの動きです。
ところがクワガタのツノは、幼虫時代のアゴが発達して出来たものです。
カブトムシとは異なり、頭や胸とは独立しているパーツなので、ツノだけを動かす（開く、閉じる）ことが出来ます。

また、よく見てみると触角の形状も異なります。
カブトムシの触覚は、頭部から細い一本の棒で触覚器官部[しょっかくきかんぶ]を支えているのに対し、クワガタの触覚は頭部から支える触覚第二節[しょっかくだい2せつ]の先端に間接があり、そこから触覚第一節[しょっかくだい1せつ]が伸び触覚器官部・・・という構成になっています。

このほか、口の形や頭の幅、体高なども違いますのでよ?く観察してみてください。