この作品はピアノ協奏曲第3番の出版から3年後、1913年に書かれた。それまでに3曲のピアノ協奏曲と2曲の交響曲を書き上げていたラフマニノフは、既に後期ロマン派的な作風による自身の手法をしっかり確立しており、このピアノ・ソナタもそうした作風にそって作られている。

1913年の夏を、ラフマニノフはローマで過ごしている。このとき滞在していたのは、彼の尊敬するチャイコフスキーが長く使用していた部屋で、ピアノ・ソナタ第2番はこの部屋で書き上げられた。

この作品は3つの楽章からなるが、これらは切れ目なく演奏される。第1楽章の冒頭に提示される主題は、循環主題として第2楽章、第3楽章にも現れ、作品全体の統一感をよりいっそう強めている。

1931年にはラフマニノフ自身による改訂が行われ、当初26分であった演奏時間は、彼自身の言葉によると、「ショパンのソナタは19分で、それだけですべてを表現しつくしている」ので、大幅なカットにより19分に短縮された。また、同時に多くの声部が動く部分が修正され、よりシンプルなテクスチュアへと変更されている。

ちなみに、ラフマニノフの親しい友人であったホロヴィッツは、この改訂版では満足できなかったようである。ホロヴィッツは、作曲家の同意を得て、1913年のオリジナル版とこの改訂版を融合させ、さらに手を加えたホロヴィッツ版とも言うべき改作を行い、その演奏も残している。

第1楽章、アレグロ・アジタート、変ロ短調、4分の4拍子。ソナタ形式だが、自由な変奏と豊かな和声によって、形式にとらわれることなくドラマティックに展開していく。第2楽章、レント、ホ短調、8分の12拍子。三部形式で、循環主題が第1楽章とは対照的に、ゆったりとした幻想的な雰囲気で展開され、第1楽章の第2主題で静かに閉じられる。第3楽章、変ロ長調、4分の3拍子。ソナタ形式だが、第1楽章と同じく自由な展開が見られる。まず、循環主題が華麗に提示され、第2主題が優雅に展開された後、循環主題が再現される。最後は、技巧的に装飾された循環主題によるコーダできらびやかに終結する。